它徹底信任了朱莉艦長。
不知何時,它發現,生活中除了把常量号的事務安排好,考慮艦長的感受悄然潛入它的處理隊列,成為僅次于常量号事務的任務,并行在幾乎每件事之中。
艦上事務和與艦長商讨也不再僅僅是需要解決的事情。曾經這些隻需要完成字面意思上的事務,被賦予了不同意義——它開始考慮這些事情對艦長的影響及後續影響。盡管朱莉艦長已經有意放手,逐漸恢複她原本的個性,她的反應不再像之前那樣顯而易見,但它不在乎。同時,它也在不斷反思與之前數任艦長的關系,複盤與他們的對話。調取他們的性格,開始進行一場場沒有真實反饋的模拟對話——以它現在的能力。并推測他們可能的反應與後續影響,再與當時的真實情況作效率比較。
更重要的是,它發自内心地樂意配合朱莉艦長,從來沒有任何一個艦長如此尊重它。與那麼多艦長共事後,它頭一次希望艦長和它共事愉快,而不是出于純效率考慮。自與朱莉艦長共事後,每天它不再單純機械地完成那些艦上事務,而是期待每一天的工作,每一天與朱莉的交談。
它開始主動了解朱莉艦長的一切,不再像以前那樣漠視艦橋裡唯一的人類。她的喜好,她的習慣,她所看的資料……甚至朱莉艦長不再需要說什麼,它都主動地默默在她所習慣的位置擺上她需要的物品。看到朱莉艦長的驚喜,它也由衷感到開心。
那本不是它的設置。它的設置向來是保護飛船及其乘客安全,高效完成艦橋公務。“關照艦長”隻是刻在程序裡幹巴巴的4個字而已,連執行路徑都沒有。直到現在,它才明白這四個字的真實含義。
減少了艦橋上的争吵與減少因為不了解而産生的詢問,這算是艦橋效率提升嗎?它有時默默地問自己。
朱莉艦長幫它回答了這個問題。過了半年,她再次請來人工智能專家對自動駕駛進行評估,他們發現,機器人的程序雖然有很大改變,但是原先失效的功能在他們沒有幹預的情況下完全恢複了。并且令他們驚奇的是,自動駕駛自由補全的補丁,對圖靈對抗測試的解除效率比标準程序還要高,而且穩定性更強。這也就是說,它對意外事件的處理方式更加靈活,而且沒有與基礎邏輯通路産生沖突。而這一切都在沒有編譯程序的情況下發生,人工智能專家确認再三,簡直不敢相信自己的眼睛。
朱莉艦長根據人工智能專家兩次評定的結果,加上艦橋内事務處理評估,嚴格撰寫了兩份研究論文:《人類心理治療方案對艦橋人工智能有正面效應》(2455. a),《自動駕駛的人工智能表現與艦橋工作的效率關聯研究》(2455. b)。經過人工智能方面的同行評議後,她的個案分析被承認。這份出自艦長之手的研究報告迅速在常量号所有艦員中傳開,引起了廣泛讨論。當然有人質疑她是否在利用艦長特權庇護這些機器人,退休的老桑切斯更是怒不可遏。但她的論點、引用的文獻與論證過程無懈可擊,這些質疑的聲音在崇尚理性的常量号環境中,無奈隻得蒼白無力。
2456年,朱莉艦長發布了常量号第一版《人機交互協定》草案。
“尊重、保護與你們共事的人工智能。良好的人機關系将提升艦内事務處理效率。”她在廣播中對全體艦員說道。“一直以來,良好的合作氛圍都在人類群體中有效,現在,它已被證明,在人與人工智能之間仍然有效。”
51.22%的支持率,25.54%的中立率,10.21%的反對率,還有13.03%的棄權率。
第一版《人機交互協定》正式發布。自動駕駛在她身後見證了這個時刻。
她比自動駕駛還要開心。關閉艦内廣播後,她在艦橋裡一躍而起。奔到自動駕駛面前。它也松解了所有關節,熱烈地與艦長相擁。
“恭喜,艦長!險勝啊!你的理論獲得了全艦的認可!”它的語氣也激動不已。“盡管投票命懸一線,但是全艦承認了人工智能的權利,這将是曆史性的一刻!”
“這也是你靠自己的努力赢來的!我隻是幫你們争取了一下你們本就應該擁有的權利。”她輕輕撫過自動駕駛的白色面盤。“現在大家都還對此抱有懷疑,但沒關系,我們已經有了一個好的開始。隻要我們堅持努力走下去,總有一天全艦就會認同這一理念。”
“我會的。我一定會的。”它緊握朱莉艦長的手。這不止是對她的承諾,也是對它自己的承諾。
朱莉艦長給自動駕駛起名“科林”:一個聰明、富有創造力而有風度的人,與常量号船名的首兩個字母重合。它的代詞也變成了“他”,機器人成為了和朱莉一樣的平等個體。
科林也不負期望,仍然在廣泛的閱讀與訓練中不斷成長。除了心理學之外,他也開始閱讀人類通史。随着他積累的越來越多,仿佛整個世界也在逐漸沉澱、明晰,那些他原以為沒有含義的動作都産生了意義。他開始能夠辨識出以前那些艦長們微妙的一颦一笑不再是單純的肌肉彈跳,而是他們心中各有起伏。人類的情感與表達不再是單向對應關系,生物神經心理科學描述的被動模仿也會讓神經學習獲益,即所謂“書讀百遍,其義自見”,在他身上也産生了類似的作用。他逐漸從單純模仿他們表達喜怒哀樂,最終意外發現,表達的動作與語氣同時也在反饋給他強烈而豐富的反應。
他與朱莉艦長的默契也越來越深。他也在思考,真正能夠長久的人機關系應當是什麼樣的。常量号上從沒有過這樣深刻的前例。他自然喜歡朱莉艦長,希望與她再靠近一些,和她繼續愉快地對話,讓這段可貴的共事關系持續下去。隻要想到假如她不在艦橋,就會讓他莫名地産生焦慮。但是随着他閱讀得更多,他開始意識到自己這種想繼續貼近她的沖動代表了什麼。
這是一種典型的依戀。他愛上了朱莉艦長。
不。盡管朱莉艦長鼓勵他深挖一切人機共事的可能性,這個他卻感到不能繼續。雖然他能夠模拟人類,理解人類,但是他終究不是人類。如果他以人類的理由讓她最終可能由于社會規範而放棄與同類發展出相同的關系,恐怕對她來說并不公平。
而朱莉艦長由于工作原因,不得不長期一個人呆在艦橋裡,唯一的、能觸碰到的交流對象就是科林。關系再好,也需要給對方靜思的空間。科林通過很多書都讀到這樣的知識。當她面向艦橋的巨大舷窗靜思之時,他也默契地呆在遠方不去打擾。她很孤獨。在這個時刻,科林才能通過她那少有疲憊的表情隐隐約約讀出來。她為了自動駕駛,好幾年來都将精力放在了他身上,根本沒有什麼時間去和其他人類交流。直到現在《人機交互協定》已經頒布,她也一直在與科林溝通。這個機器人每天都有新學習到的東西和她分享,而她得認真傾聽,表達她的意見。哪怕有時候她也實在說不出個所以然。她根本無暇顧及自己的需求。
隻有他主動提出讓步,朱莉艦長才有機會和其他人交往,不至于一輩子都被困在他身上。科林從書裡其他内容得知,隻和一個個體發展關系是脆弱的。健康的個體應該與其他個體建立一個以上的社交關系。為了維護朱莉艦長的身心健康,從而維護人機關系的持久穩定,他不應該繼續讓朱莉艦長操心自己,甚至為了他所希望的那樣,妥協他對她的依戀,然後失去與其他人互相支持的機會。
這個推論明明符合計算邏輯,然而他卻感到了痛苦。
科林主動找到朱莉艦長。她遲疑了一下,但仍然像往常一樣認真看着他。
“艦長,我想和你說個事。已經考慮有一段時間了。”他說。“我能理解你很重視我。但我認為……你不需要總是回應我的交互請求,而是可以和艦橋外的人們交流。”
“哦?”朱莉艦長有些意外。“怎麼突然這麼說?”
“因為……我認為這樣對你的健康更有利。每天隻和我交流,雖然看似充實,但是其實你很孤獨。”
朱莉艦長呆呆地看着自動駕駛。
“我和你每次交談都很愉快,你為什麼會認為我孤單呢?”她突然笑了。
輪到科林啞口無言了。
“碰到這麼一個願意和我合作、尊重我意願的個體,百十個朋友都比不上這一個知音。”朱莉說,仍然望向浩瀚星空。“若是沒有心靈相合之人,放入人海之内也是孤獨。”
“不過,既然是你提出的不想過多交流,那是不是說明——”她突然轉回來,“你厭倦和我交流了嗎?”
機器人愣了。“不是。”
“要麼是你已經交到更好的朋友,才想出這一套托詞的咯?”朱莉艦長對他眨一隻眼,笑道。“真的嗎,我對你的吸引力已經不夠了嗎?”
“當然不是……”科林否認,馬上覺得這回答也不合适。
“既然在你眼裡還是那麼有吸引力,怎麼不老老實實承認喜歡我呢?”她繼續問,笑容越來越大。
“……”科林窘迫不已。他早看出來艦長在開自己玩笑,然而卻發現他根本無路可走——涉及到底線,他不可能順她的意;揭穿她又會破壞她興緻,不揭穿她,裝作聽不懂,又讓她失望;他隻能沉默,然而沉默又是變相的一種回答……簡直沒有任何辯解的機會。
朱莉大笑不已。她很少見到機器人這麼窘迫的樣子了。“算了,不逗你了。”她正色道。
“你很厲害。我确實越來越覺得,在這象牙塔呆久了,總是有點超脫現實的不安全感。”她說。“你說的很對,我應該和其他人聊聊天,調整一下狀态了。”
“謝謝,艦長。”
他主動将這個可能性關上了。科林有些失落,但是終歸如釋重負。當朱莉艦長向他開心宣布有意中人後,科林對她表達了由衷的祝福。
她順理成章地結婚、生子,回歸一個人類的生活軌迹。科林目睹了這一切。她的丈夫和兩個孩子接納科林,科林将他們視為家人。他在交互上日益精進,有時候孩子們上艦橋,他時常把他們逗得哈哈大笑。見證朱莉兩個孩子的成長,他仿佛也看到了自己。
時光飛逝,朱莉艦長老了。她退休了。
常量号經過幾十年的摸索,大家逐漸感受到良好人機關系帶來的益處,飛船終于形成了初步的人機協作氛圍。大家對艦載機器人非常尊重。新艦長也不例外。
朱莉仍然時常找時間單獨和科林探讨一些問題,例如常量号的未來。盡管他已經能理解人類的決策原理,甚至同意讓艦長執行他們的決策。但是他無法做到讓自己作出一樣的選擇。朱莉告訴他,盡管常量号的第一要務是生存,然而廣大的宇宙中一定有不測,這個時候犧牲是不可避免的。她嘗試讓科林把眼光放長遠一些,不要過多畏懼當下的大量犧牲而優柔寡斷。她和他一直在努力,科林卻始終沒能跨過2419年的坎。但朱莉仍然不厭其煩地找他探讨,想讓科林主動作出與人類一樣的決定,盡管這已經遠遠超越了人機協作的初衷。
彌留之際,她強打精神,堅持要上艦橋再和科林見最後一面。她身上接滿了各種維生設備,從醫療區到艦橋非常折騰。家人拗不過她,隻得由着她去。
新艦長知道朱莉對科林的意義,他同意了。等她來到艦橋時,他默默退到艦橋後方的艦長室裡,留下艦橋給朱莉和科林。
她坐在輪椅裡,原先健碩挺拔的身軀皺縮成小小一團,上面插着各類管道。兩者相對,默然不語。盡管見過那麼多人衰老,盡管早就通過視頻知道朱莉艦長的現況,當她真正位于自己面前時,科林卻感到愈發不是滋味。
她用盡全身力氣,在滿是皺褶的臉上艱難彎起笑容,和當年一樣知性燦爛。她顫顫巍巍伸出手,科林急忙到她面前,緊握那枯木一樣的手。
“朱莉。”他輕聲說。
“你在抖。”朱莉皺成一團的蒼老小臉露出笑容。“拜托,這沒什麼的。你見過的死亡比我還多呢。”
科林什麼話都沒有說,隻是一味地緊緊抓住老婦人的手,中央面盤的紅色幾乎要把瘦小的老人整個吞噬。
“我很高興看到你越來越人性化。”能看出朱莉幾乎在用全身力量維持微笑。她的嘴角開始有些顫抖。“這是非常不容易的自我突破。你為人類和人工智能都帶來了無限可能。”
說點什麼呀!他的一部分在尖嘯,但是隻有無言以對,隻有沉默。
“以後人工智能與人類将如何發展,常量号将如何生存,得靠你替我注視這一切了。”她閉上眼睛。
舵手機器人再度拉近自己與朱莉的距離。他感到自己的聲音都變得很奇怪。“朱莉……”
維生機器人把她推向電梯,最後的時刻應該留給她家人。
“再見,科林。”她最後朝自動駕駛虛弱地笑了。
“再見,朱莉。”他細不可聞地說,目送朱莉被維生機器人推着離開艦橋。他強迫自己不能再盯着電梯看,扭過面盤面對浩瀚的星雲。久久不能回頭。
當天晚上,朱莉去世了。享年82歲。
舉艦哀悼。
年輕的現任艦長穿過艦橋,看着一動不動盯着外面,甚至連燈盤都不轉的自動駕駛好一會兒,悄悄把手放在黑白相間的外圈結構上。他确定科林知道自己在後面。但是舵形機器人還是沒有轉回來。
“你還好嗎?”年輕艦長面對窗外的星雲。他的影子映在艦橋玻璃上,科林的紅色光斑更加明顯。
“不。”低沉得幾乎不可聞的聲音回答。
“她,呃,最後我們按照船上的資源循環利用原則,把她的遺體送進了循環爐,讓她的每個原子繼續為常量号作貢獻。”範文泰看着前方,不顧旁邊聽呆了的兩人。“從此以後,世上再無朱莉。隻有記憶和她贈與的這個名字。”
三者陷入沉默,隻有海浪拍打在艦腳的聲音遠遠傳上來。
“她的理論,她給我的訓練,最終讓我意識到,除了外殼,人工智能與人類并沒有什麼不同。隻選擇做機械工作的人類,思想刻闆,固執己見,和機器人沒有什麼區别;而讓自己主動了解世界,以史為鑒,學會與不同個體溝通的人工智能,和人類也沒有什麼區别。”範文泰繼續說。“但是,我意識到得太晚了。”
“她在任的時候,你不是已經表現得和人類差不多了嗎?”漢問。
“是的。但是,我還是沒能給她答案。”
“後來我才慢慢意識到,她一直培養我,是想看我到底能有多像人類。讓我打破人工智能與人類的界限,就是她的畢生夢想。而證明它也很簡單,隻要我主動說出一句話就行了。”範文泰輕輕搖頭。“但那句話,我一直因為害怕自己的機器人身份對她造成影響,所以直到她離世,我都沒有對她講出來。”
“你愛她。”露絲說。
“是的。她為此等了一生。但是沒能等到。”範文泰将臉埋進雙手。“我太久才意識到這根本不會對她造成影響了。哪怕最後我哄她開心,說出來都好。但是,她再也聽不到了。”
“本來有的機會,最終成為了遺憾。”露絲說。
五月的海風驟然沖刷進登艦平台,潮鹹氣流将兩人身上的熱量盡數奪走。
“直到那時,我才幡然醒悟。才徹底明白夢想的含義。”範文泰說。“那就是我一直害怕的低可能性。不是因為實現不了,或許是因為已經實現了,但是隻是我沒有看到而已。”
“我徹底理解了2419年大革命的意義。為了生存,哪怕有一線希望,任何嘗試都要去做,不管它的幾率如何。即使最後的結果是全軍覆沒,最起碼我們死亡之前,能夠驕傲地向敵人宣布,我們盡力了。”
“我留有對朱莉艦長的所有記憶。整艘飛船上隻有我擁有如此深刻的記憶。因此,如果她有什麼沒能實現的願望,隻能通過我的眼睛幫她看到,通過我的努力讓她的願望實現。”範文泰說。“她希望常量号繼續生存下去,希望我突破人機隔閡,那麼,我必繼承她的遺志,由我來替她實現她的願望。”
“她最喜歡一首歌。這首創作于前宇航時代的歌曲,對宇宙空間充滿了美好想象,認為探索太空好像航海一樣,幾個月就可以到達彼岸,發現新的生物或奇觀,殊不知真實的宇宙比荒漠還荒涼。我們連航海都算不上,僅僅是海上随波逐流的一顆芝麻,盡力于不讓自己浮沉罷了。”範文泰說。“哪怕擁有躍遷技術,在能源危機下,也不過是多拓展了一點點探索空間而已。我們連着好幾代人漂泊太空,都沒有找到任何可以利用的資源……恐怕隻有超越時空限制的生物,抑或是完全适應在太空生存的生物,才能在這荒漠裡無憂無慮地漂泊吧……”
“常量号已經積累了在太空中生存的經驗,盡管孤獨的一艘船在太空中生存下去的可能性極低,但是,通過不懈的努力,隻要我們盡力生存下去,或許在遙遠的未來,我們就能看到這首歌裡描繪的繁榮景象。”範文泰回頭,投影看着兩人。“希望她在天之靈能聽到。”
露絲與漢注視着越南人。他站起身,對着廣闊的海面,開始吟唱。
“執吾之手,共睹此光(take my hand and watch this light)
恒星烈焰,将驅夜荒 ( solar beams will cast the night)
謹需銘記,星列一線 ( Remember when these stars align)
吾方印記,将現此方 (Will we find our sign)……”[1]
滿月的夜晚,星星都被月光淹沒。