“如果不運用心智模塊技術,他對法則的理解就不可能達到極緻,類似的故障今後仍會發生。”
“你難道沒有考慮過把他變成心智機器人的後果?”維克多忍不住又站了起來,雙手撐住桌面,身體前傾:“一旦他變成心智機器人,就會成為整個星盟矚目的對象,到時候他就再也不是隻屬于薇利亞一個人的機器人了。你這麼做有什麼意義?”
“我考慮過。”弗雷克态度平靜,以至于有點令人惱火,“我們隻是為他載入心智模塊,至于他能否成為純白之冕理想中的‘心智機器人’,受諸多因素影響,還是個未知數。再過不久,其他的‘實驗型心智機器人’也将陸續出廠,奧蘇絕對不會是唯一的一台。他仍舊屬于薇利亞,這一點我可以保證。”
維克多愣住了。
“現在是戰争年代,維克多。而且就算沒有戰争,你們的處境也并不輕松。”他道,“薇利亞身邊需要一個意志堅定、懂得随機應變的優秀機器人。恕我直言,奧蘇的确給過她不少支援和陪伴,但未來或許會造成更多的負擔。他原本隻是個家用機器人,适應不了太過複雜的狀況。
“今後他勢必承擔更多壓力。如果對法則理解得不夠透徹,他又怎麼能做到?”
維克多無言以對。
他本能地想要反駁:“你這是在危言聳聽。”但他内心的某一部分顯然認同了弗雷克的看法——一直以來薇利亞都承受着巨大的壓力,而奧蘇的心智卻始終停滞不前,這樣下去遲早會出問題。如果有機會讓機器人成長,豈不是很好的選擇嗎?
他安靜了半分鐘,默默坐回沙發上,最終說道:“但……還有一件事。”
“什麼?”
“心智機器人很可能發展出完善的自我意識。”維克多盯着桌面,“如果自我意識與法則發生沖突,機器人會十分痛苦。”
“你們會虐待他嗎?”
“不會。”
“那麼他感到痛苦的幾率會非常小。”弗雷克說,“你不可以混淆機器人和人造人,這兩者身心差異極大。退一萬步說,就算他誕生自由意志——我認為這是不可能的——難道他就會想要離開薇利亞?”
維克多呆了一陣子,點點頭:“我明白你的意思了。”
“這麼說,你認同我的方案了?”
“算是吧。”他移開目光,“但是我們該怎麼告訴薇利亞?”
“不必費心。”弗雷克說,“她已經答應了。”
“什麼?!”
“我和她商量過這件事。而且,我也詢問過奧蘇的意見,雖然他不一定能理解我說的話。”
“所以我才是最後一個知道的?”
“是的。”他點頭,“這件事很重要,必須征得你的同意。”
“你們真是……”維克多簡直不知該說什麼才好。
——
幾日後,傍晚。
薇利亞坐在住宅區附近的小湖邊,放空大腦。
新的機器人硬件設計工作十分繁重,她不敢把工期往後拖,因為奧蘇随時可能停擺。一旦停擺,就意味着機器人的一切活動停止,維修不再有意義,數據也無法傳輸。到時她隻能把奧蘇的備份數據載入到新機器人身上,意識數據丢失,他将不再是原來的奧蘇。
她盯着夕陽下波光潋滟的湖面。
最初決定參與機器人計劃時,她心中并非毫無猶疑。這個企劃對她而言很有趣,充滿挑戰性。但阿瑟·蘭徹斯特曾經說過,人造人計劃是人類的潘多拉魔盒。機器人計劃又何嘗不是呢?
隻不過,她畢竟不是阿瑟·蘭徹斯特。在這項工程中,她扮演的隻是個小角色,不必承擔任何責任。即便是在奧蘇将要變成心智機器人的今天,也依然如此。
她應該感謝弗雷克。為奧蘇載入心智模塊這件事,隻有總工程師有權決定。如果他不下這個決策,奧蘇在未來的幾年之中将不斷面臨徑路故障,最終停擺。薇利亞心裡很清楚,作為一台家用機器人,他早已到達極限。她不該帶他來西伯利亞,但她舍不得他。
這次也是一樣,其實她完全可以放棄奧蘇,給自己換一台新的機器人,但她舍不得。
目前還是别想太多為妙。
夕陽即将落到山峰後面,薇利亞擡眼看了看天際。這個時間,來湖邊散心的人還不少,但大多數人造人都自覺跟她保持距離,她身邊清靜得很。
可凡事總有例外。
“你最近都是一個人行動嗎?”身後傳來熟悉的聲音。
又是不怕死的阿列克謝。駐軍統領已經離開地球,但薇利亞并不認為他真想把自己當成新的靠山。在沒有明确倚仗的情況下不斷接近人類,隻會讓他再度成為衆矢之的,這附近有這麼多人在看着呢。
“差不多吧。”薇利亞簡單回答。
他點了點頭,上前幾步,站在她身邊。
“一直沒機會跟你說。”他道,“那條魚很好吃。”
“你沒有養它是明智的選擇。”
阿列克謝笑了:“下次什麼時候再去釣魚?”
“最近恐怕沒有時間。”
“總之,下回出遠門之前告訴我一聲。”
薇利亞側頭看他,想問問為什麼,但話到嘴邊卻沒能說出來。
她在阿列克謝的眼中見到過許多種神色——輕蔑、跋扈、憤怒、冷漠、嘲弄、疲倦,但唯獨沒有見過……溫柔。
“你是不是吃錯藥了?”
他怔了怔,笑着搖了搖頭。