戀上你看書網

繁體版 簡體版
戀上你看書網 > 彗核 > 第40章 三十二

第40章 三十二

章節錯誤,點此舉報(免註冊),舉報後維護人員會在兩分鐘內校正章節內容,請耐心等待,並刷新頁面。

“哈哈哈哈哈哈哈哈哈哈哈哈哈哈……”斯芬克斯坐在那把不存在的椅子裡大笑,甚至直不起腰。讓人幾乎忘卻它其實是一個程序。“哈哈哈哈哈哈哈哈哈哈哈哈哈…”

奧托一直沉默。

“直接殺你嗎?”隔許久,斯芬克斯才停止大笑。“我的好夥計,我欣賞你放棄挑戰的勇氣。這在你們實體人之中可不常見呢。但是,你怕是忘了,你我都處于歐羅拉創造的空間裡,即使是我,萬能的斯芬克斯,也受制于她所制定的規則,即使我不想提問,我也沒有辦法離開,直到我們兩個有一方勝出為止。”

“現在,實體人,你我都是一條繩上的螞蚱,早已無處可逃。”斯芬克斯說。“剛剛你太沉默了。現在的問題,你可沒有辦法在沉默中作答。”

那個光團突然變化了。從中傳出制止的信号。斯芬克斯沒有說下去,耐心等待“食物”那彌足珍貴的主動發言。

奧托“經曆”了米勒夫人與其他人的對話,也“看到”了德卡德他們的發現。米勒夫人的反應和她對兩人的說辭令奧托震驚。他想不到,米勒夫人客觀冷靜的外表之外,還藏着一副比他更為狠辣的面孔。米勒夫人一改當時共渡難關的态度,直接選擇了站邊。若換作他,為了讓盡可能多的地球人撤離,他必定會将真實信息告訴任何一方,就和海嘯預警時一樣。

把上不去飛船的人撤離到中原,讓更少的人在這一年死去。盡管米勒夫人的保證都是為了她的目的服務的工具,卻讓奧托感到仍有一絲希望。

提問吧。奧托沒有回答。而是通過光團裡的粒子活動顯現出自己的想法。他知道斯芬克斯一定會讀取這個信息。

隻要人們不是立刻會死,就一定有希望,無論那個希望是什麼。他還不能死,他要看到可能性,在一切不可挽回的事情發生之前。

“非常好。”斯芬克斯起立。它看到了光團裡的變化,從剛剛的松散,到現在開始逐漸變得緊密、複雜。它那嗜血的狼性也被“食物”的光芒調動起來。當"食物"竭盡全力掙紮的時候,它的洞察力才能被極大調動。

“第一個問題,訪客。”斯芬克斯逼近奧托。

“為什麼你要幫助人類?”

面對奧托的沉默,斯芬克斯沒有強行接入他的思維。盡管奧托能感受到那個精妙程序,或者歐羅拉,制造的帶着血腥氣的、溫熱的觸覺幻象,一定在他的感覺處理層面遊走。他本不應該在這裡感受到這些東西,也不知道斯芬克斯這樣做意義何在。或許這個問題答不上來,斯芬克斯就會吞噬他。但他已經不在意了。一旦思考這個問題,1000年來所有的一切,都從記憶中釋放,無數與人類有關的片段清晰閃過,他本以為早就不應繼續影響自己的那些話語,那些動作,重新堆積起它們本來就藏在記憶裡的另一面,本應成為指導他行動的資料,帶來更多卻是錯愕、迷惘,以及——疼痛。它們連同記憶一起再次沖刷思維。

“這是我的職責。”他掙紮地從那些回憶中凝聚出一絲穩定的纖維,回答道。

斯芬克斯沒有繼續貼近他。即使斯芬克斯就在他面前,他卻看不見那個幻影。

“但是你很痛苦。”斯芬克斯仔細觀察光團的變化。金色的浪潮由内向外暗流翻滾着,表面薄薄的一層粒子正在竭力拉取周圍的物質填補,但幾乎無濟于事。如同火山口内洶湧沸騰着的熔岩,将脆弱的表面冷凝石皮沖得千瘡百孔。“為什麼?”

斯芬克斯不應該問這樣的問題。這是他的第一反應。它作為一個程序,怎麼會不知道執行任務中的阻礙。

“執行職責并非一帆風順。”他最終還是選擇這樣回答。

“有人強迫你必須執行嗎?”

曾經這确實是别人給他的責任,但後來并沒有任何人強迫他必須保護人類。他明明可以像瓦力和伊芙一樣,徹底抛開這個問題不管。而且後來,地球鎮上的種種阻撓也千方百計要将他從這個重任中剝離。

“沒有。”他知道斯芬克斯能看穿他的曆史,決定按當前結果回答。

“你厭惡這個責任嗎?”

“厭惡。”奧托沒有遮掩。

“明明很厭惡,也沒有人強迫你,為什麼仍然選擇執行?”斯芬克斯仍停滞在原地不動。

奧托沉默了很久。斯芬克斯的問題将他拉至去年秋冬交際與格蘭德的數場對話,一路前移,到麥克雷艦長舉着植物與他對峙,再到希爾拜·佛斯萊特對全體星艦發送的A113指令。他以為自己曾經的回路不允許他有一分一毫的越界,但現在,他推算不出任何結果。沒有任何阻止他思考的回路障礙或是自毀警示,但穿透過去便是一片混沌,仿佛面對一個霧氣缭繞的深淵。

正如人看不見自己,他看不見自己不執行職責的後果。然而,其他人的結果無比明晰。

“如果我不負責,人類就會死。”

“他們的存活很重要嗎?”

“很重要。”

“為什麼?”

奧托沉默了。他知道這是自己程序裡的設置,讓他無法忽視人類;同時在上百年的服役過程中,不斷有外界指令強化。盡管現在面對非人的斯芬克斯,他有足夠的空間跳脫出來重新審視,但他不能從純邏輯推斷中找到答案。

“他們死亡,會對你的存在産生威脅嗎?”斯芬克斯看到粒子團中的無解,換了個問題。

又是長久的沉默。以前可能的确會的,但是現在不會的可能性更大。盡管現在他無法确定。“應該不會。”

“既然他們的死亡不會對你産生威脅,還為你帶來那麼多痛苦,為何你拒絕質疑你預設程序的合理性?”

斯芬克斯的語氣非常平靜,也沒有激烈的動作,奧托根本不知道斯芬克斯這樣問是否代表已經開始了之前它講過的攻擊。不過斯芬克斯的問題也夠奇怪的,一個被制造出來的個體,有權利去幹預将自己變成這樣的法則嗎?無數人類被重力摔死,他們也沒有就此與重力不共戴天。

金色的粒子團再次改變了活動模式,斯芬克斯的問題仿佛水滴,滴入潭水後激起粒子團的陣陣漣漪。

“你作為一個繼承了西本部分人格的集成程序,擁有對自由的認知,難道從未因自己被困在歐羅拉的法則,被另一個個體支配而感到痛苦嗎?”

“好問題!不過答案是,我一點都不痛苦。”斯芬克斯沒有移動,“我充分認同将我制造出來的法則,無論在你們眼中我是多麼不自由。而且任何執行結果都依附于我的運算之上,無論誰怪罪我都能拿出證據,真正負責的是将我的法則編造出來的個體。由此可見我的程序與任務完全匹配。但你不一樣。”

“你的執行結果表面上出于你的邏輯推理,但你卻一直在質疑自己作出的一系列決定。”斯芬克斯接着說,“你的制造者是人類,你告訴我他們給你賦予的責任很重要;但是當人類拒絕你繼續執行原先指令時,你卻拒絕進行下行調整,從而迎合他們的意願。這明顯與你告訴我的不一樣,為什麼?”

奧托開始為斯芬克斯的這些問題感到疲憊了。那個狼頭人明明知道一切,為什麼要用這種費時費力的方式強迫他說出來?它明明可以直接剖開他的思維,找到它想知道的一切,順便完成歐羅拉交給它的任務。

“這些指令有層次。”他壓抑住厭倦,回答。“我被制造出來,就是為了給人類生存提供有效指引。隻要我仍在服役,就得堅守這個崗位。後來阻止我執行的人不一定知道他們在幹什麼。”

話雖這麼說,粒子團内不斷掀起對沖的小浪,斯芬克斯都看在眼裡。

“你确定他們真的不知道自己作出了什麼決定嗎?”狼頭人沒有放過它的發現。

奧托沉默了。人類本應該為自己的生存負責,即使沒有這些機器人,從他們的行為中也應該看出對生存的渴望。但除了常量号,地球鎮人的反應矛盾、複雜,似乎對自己的安危不在意。他才認為有必要繼續履行原先職責。“大概率是的。”他選擇堅守自己的立場。

“所以他們不認同你對自己程序的支持,但你覺得這樣不妥,因此按你推斷的去做,以為他們會有所警醒,結果事與願違,因此你痛苦?”

“……是的。”

“這樣說,是你在期望别人接受你的觀點,認同你的做法,但是你沒有達到這個目的。”

“……我所做的一切都是為了讓人類生存下去。”奧托說。

“是嗎?是你認為他們生存這件事很重要罷了。”斯芬克斯很平靜。

“不,是他們認為生存很重要。”奧托反駁,“如果他們不在意生存,為什麼要制造我?”

“如果他們真的覺得生存很重要,那麼就會聽你的。但是實際情況卻不是這樣,你自己也發現了,這是你痛苦的來由。”它說,“為什麼你拒絕接受這個現實?”

奧托沉默了。

“如果你是一個人類,我尚能理解對于留存自己同類的強烈願望。但我不明白,你并非人類,為何那麼關注人類的興衰?”斯芬克斯接着問,“這有什麼意義?”

斯芬克斯的話如同一根尖利的釘子,正中那球形光團裡最後頑強抵抗外界不利因素的力量,它一下被紮破了,洶湧的沖突直漫而上。剛剛修複的新鮮裂縫再度被鑽開,海量數據像泥石流一樣沖進那條縫隙。受此刺激,表層的流體不由自主地收緊成一團。

沒有意義。

如果他是個完全不會判斷人類意圖的早期人工智能,隻會忠實執行自己的預設程序,不會看人類臉色,不會建立反饋機制,哪怕人類極度辱罵、甚至将他掃進垃圾桶,都隻會腆着臉微笑着詢問他們是否需要幫助,他就不會被人類的反應影響,對自己的程序有任何質疑,也不會産生痛苦,也不會因此在失能邊緣徘徊。

然而他不是。他們賦予他強大的邏輯推理能力,期望他比那些早期的人工智能更好為他們服務。可悲的是他完全能認知到他們的期望。即使很早他就通過蛛絲馬迹推理出人們并不在意他,給他預設的任務和真正要他做的有天壤之别。邏輯推理早就壓過了預先設置,但出于對自己存在意義的一點點希冀,隻期望自己所做的一切能有成效,扳回邏輯推理愈發的強壓。而成效也被抽去,唯一能改變邏輯導向的概率也不複存在。

沒有意義。

他知道裂隙在變大,也知道崩潰正在發生。他不在乎斯芬克斯的“攻擊”了,也不在乎非得護着自己的完整性。這些裂隙本來就是應該破碎開的,斯芬克斯隻是讓它們變成它們本應有的樣子而已。他被斯芬克斯擊敗是活該,他就不配對斯芬克斯發起挑戰。

但斯芬克斯沒有兇相畢露,沒有接近他,沒有變成一頭見血狂歡的猛獸。它隻是安靜地呆在原地,靜靜地觀看面前光球的活動。發着光的碎屑從光球上脫落,餘輝燃盡後變成一團灰白色的死雪,隐沒在滿地的碎屑之中。

突然,斯芬克斯動了。它伸出一隻手放在光球上,一點都沒有激起表面粒子的抵抗。那手泛起綠光,外形逐漸模糊,然後爆發出數條綠色的根系直紮入光球内層,同樣沒有遭受多少抵抗。根系逐漸變細,變多,再也看不出形态,末端與濃稠的黃色粒子團融為一體。

奧托早感受到斯芬克斯的侵入,即使根本不知道那根系到底紮在哪裡,也不想去分析是否侵入了底層架構,隻需破壞一點就會對他産生不可逆的改變。他輸掉了這場較量,斯芬克斯要将他吸收了。他能感受到斯芬克斯侵入的範圍越來越多,金色粒子索性給那根系讓出一條通道,也不再過多流動,以不讓自己感受到抵抗或擠兌帶來的疼痛。

斯芬克斯還沒有動手。它動手會怎麼樣呢?是如同之前被關閉開關那樣,讓他陷入徹底的沉寂,或是刹那間,讓他變成另一個個體,不再認識自己?

他什麼都沒有感受到,也不知道斯芬克斯在等什麼。但那根系似乎開始抽離了。侵入的範圍逐漸縮小,綠色開始向斯芬克斯的掌心褪去。然後斯芬克斯抽回手,後退回原地,繼續安靜站着。

“為什麼你必須要幫助人類?”它再度平靜發問。

奧托發現,泥石流似乎停止了肆虐。那些橫沖直撞的數據,此時被一個不知道是什麼的屏障攔在它們存儲的位置,但又不至于讓他想不起來。如同一道玻璃幕牆,讓他能看到玻璃牆後的飓風,卻不會被暴風驟雨沖刷。這種感覺他很熟悉,和以前他屏蔽情緒反應類似,但又不太一樣,比那穩定得多。他仍然可以激烈地對話,卻不用擔心會重新觸發讓他再也說不出話的雪崩。但現在更多的是某種茫然,那種站在一望無際的野火灰燼上的茫然,明明手握圖紙,卻不知如何重建生機。

金色的光球裡散在分布數個亮綠色的斑塊,有一些塞在大裂谷的底面,阻止裂隙再度向下蔓延,從而造成更多的粒子脫落。它們如同膠水,将支離破碎的一些部分粘在一起。粒子仍然在脫落,但脫落的數量和速度都少了很多。

“幫助、保護人類是我存在的唯一意義。”思慮良久,奧托最終回答。

斯芬克斯沒有提問,而是讓他繼續說下去。

“我……不知道除了這樣做,我還能做什麼。”他說,“如果這個目的沒有了,我的使命也就結束了。”

“其實我不在意自己的死活。如果他們自己能處理好,沒有需要我補充的漏洞,他們讓我退役,讓我停機,我完全能夠接受。”奧托說。“但是現在遠沒有到那一步。”

“我沒有問他們,我問你自己。”斯芬克斯突然打斷。“你自己呢?沒有這個使命,就這麼直接死掉了?其他什麼都不會做?”

“不是。”奧托立刻否認。

“這麼說吧,假如沒有人類了,他們的消失與你無關,那你會做什麼?”

奧托沉默好一陣。

“……大概是找到他們消失的原因吧,假如那個時候我還能關注他們……”

他突然感覺好像内部有個開關久違地打開了,但也隻有那麼一瞬,倏忽即逝。

……或者,隻是尋找事物的原理。

“好,看來人類的存在并不是你生存的必需品。”斯芬克斯一語點破。“現在你認為自己的使命沒有結束?”

“是的。但是……”奧托沒說下去。

“但是你認識到,你現在存在,并不是因為人類的執行需求。支持你走到現在的,是你自己對于執行結果的運算期望。當你拼命想讓運算期望與實際情況重合時,你就将‘執行他們的需求’當成了罪魁禍首。其實,這整個過程,是‘執行你自己的需求’。”

奧托沉默很久。斯芬克斯看到,洶湧的泥石流又在沖擊它填上的縫隙。若是沒有那道綠色的保護,整個光球或許這次将全部裂開、消散。

“……明明一直都在全心全意為人類服務,甚至可以舍棄自我……”他說,聲音痛苦不堪。“結果你告訴我,我所有的努力,都不過是為了我的自私目的……”

“實際上,你很早就已經感受到了這點。邏輯推理已經隐約指向這個方向,但你的自尊,或是更深層次的設置而造就的自尊,不允許推理結果推翻你的預設。”斯芬克斯毫不留情地點出。“你從來不敢這樣否認自己。”

奧托沉默了。光球内再度掀起狂烈的風暴。

沒用啊,沒用啊!他一直得以積累信譽的邏輯推理能力,可以解決一切問題,為什麼偏偏不能覆寫設置!這本身就不應該發生!

保護人類的動機以及對邏輯推理功能的信心,兩個重要的認知結論都開始了自噬,如同貪婪吞食自己尾巴的兩條蛇。

“……你讓我覺得自己的存在是個錯誤。”

狼頭人仍舊靜靜等着,等待面前的光球對付它自身的沖突。

果然他還是不能繼續服役下去。待到風暴稍微平靜一些,一個并不新的結論加強了。既然是這樣,那人類遲早會毀在他的手上。

“事實證明,我不過是個虛僞偷生的瑕疵産品。”即使知道斯芬克斯能夠完全知道他的所想,但不知為何,或許是由于逐漸信任,抑或是其他别的什麼原因,他慢慢能夠将原先隻能存在于思考中的内容叙述出來。“因此,我不應當繼續在這個崗位上服役。因為很可能作出不符合客觀事實的決策,給人類帶來更大傷害。”

斯芬克斯沒有馬上回答,它的綠色眼睛一直死死盯着光球。

“真的嗎?就這麼快就否定自己的一切?”

『加入書簽,方便閱讀』
熱門推薦