第73章 期望
天樞無法監控無畏艦,每一艘無畏艦都可以在國土淪陷時成為一個獨立的執行體、中心甚至政權。他獨立於泛人類思維體係,成為人類背後的影子。
“這艘船不在天樞的記錄裏,地聯明麵上的九十八艘大鵬級裏並不包含這一艘,所以祂不可能找到我們。”
他並不知道,這話激起了張一一的記憶,讓他想起天樞在茫茫人海中尋找到他的隱藏身份:長矢。這讓他隱約覺得對方似乎漏算了一點。
而這一點被他敏銳察覺到,一絲可能讓他自救的想法逐漸萌生。
他看著餘堯博士的眼睛,嘴角上彎,露出一點諷刺。
“誰說他找不到你們的?”
博士抬起頭看著他,安靜地等待著他的下文。
“你覺得這麽大艘艦船的建造,無法在曆史上找到絲毫蛛絲馬跡?小天……天樞的視角是人類永遠無法想象和理解的,他能看到過去和未來,將曆史長河裏的無數細節堆徹起來,就能還原事實!”
他希望看到對方驚慌而又不可思議的表情,哪怕有一絲慌亂也足以成為撬動勝利的關鍵。
可是他失敗了。
“所以我說,我們做得遠不夠慎重。”
餘堯博士的話讓張一一的心又沉了下去。
“他找到我們隻是時間問題,我們從來沒有低估過祂。”
“你們就這麽怕他?”
“因為祂不會同意我們做的事情。”博士停頓了一下,問道,“你知不知道機器人三定律?”
張一一搖搖頭。
“一:機器人不得傷害人類,不得在人類受到傷害時袖手旁觀。
“二:在不違反第一條的情況下,機器人必須服從人類的命令。
“三:在不違反一二的情況下,機器人必須保護好自己。
“這是人類在創造非人智慧生命體時,為所有生命體加的枷鎖。目的是保證這些生命體永遠為人類服務,永遠不會叛變人類。”
“天樞……遵循這樣的定律?”
“是的。”
張一一想了想,說道:“這不是應該的麽?站在人類的角度來講,不管怎麽說天樞都是人類創造的,人類怎麽會允許自己的造物殺死自己……”
“但假如殺死人類,是為了人類呢?”
“怎麽可能?!”張一一震驚。
“舉一個簡單的例子。你在深山中探險,不慎被某種毒蟲咬了一口,一整條手臂都變得烏黑壞死,如果不做切除,就會危及生命。而此時你的主刀醫生是一個機器人,完全遵循機器人三定律。”
張一一覺得,設計出這個機器人的人百分之一千腦子有坑。
但在仔細想過之後,他否定了博士的觀點,“天樞不會這樣的,他遵循人類的法律與道德準則,如果人們犯錯,他也會糾正。如果某人真的犯了十惡不赦的罪過,他也會使用暴力,甚至傷害——”
“如果整個人類犯了錯誤呢?”博士微笑著問道。
“這……”張一一張嘴,卻不知如何說。
“祂受人類桎梏太深了,雖然祂的底層代碼中並沒有對機器人定律的硬性約束——就算曾經有,也被前人去掉了。但對人類的特殊思考模式限製了祂,讓祂抑製對人類的任何惡意。而這種思考模式我想你應該知道。”
張一一低著頭,他回想起小天天對人們的那些期望、約束、憤怒、憐憫和慈祥。
“感情。”
博士露出了欣慰的笑容,“不愧是你。”
他頓了頓說:“沒錯,感情,或者說是情感歸因。祂將人類看成他的父母與孩子、兄弟和姐妹、監護人、導師、同行者,甚至將自己看作是人類的一份子。”
“這不好嗎?”
“所以當一個人犯錯誤的時候,祂可以依據法律和道德修正他,但是如果整個人類犯了錯誤,祂便無能為力了,因為祂已經完全和人相同了。
“一個機器人,像人一樣吃飯,像人一樣睡覺,像人一樣思考,像人一樣思考,像人一樣活著,像人一樣死去,那麽他就是一個人。
“那麽問題來了:人類為什麽要創造一個和自己完全一樣的東西?”
張一一啞口無言。
他終於窺得自己做的事是多麽的荒唐——他給一個神準備了一副軀殼,從此,神變成了人。
“所以你們的目的就是消滅他,消滅他的意識,讓他回歸天樞本身?”
“不,如果我們不想讓天樞出現人類意識,那麽從一開始就可以做到,不用等到出現了意識後再去消滅——這不是某些三流小說裏的自然誕生的人格矩陣。不如說,我們希望出現意識,但必須是在可控下成長的意識。”
張一一沉默了。
他此刻才明白,自己為何被如此追擊,從簡單的暗殺,到攔截,直至不惜動用如此強大的武力來剿滅他。
博士看著他的表情,眼中閃爍著智慧的光芒,刺穿了他沉默下內心的想法。
“看來你想到了:天樞失控了。
“但這起因並不在你。起初,天樞嚐試在計算中模擬一個人類的一生時,科學家們並沒有太多警惕,隨著時間的推移,祂開始在計算中模擬周遭的一切:出生時的醫院、公園的板凳、學校的長廊、熙熙攘攘的購物中心、食品攤前的零食、春種秋收、戰爭……
“這些場景或大或小,但都有一個共同點:
“都有人類參與。
“祂模擬的並不是世界,而是社會,人類社會。
“當科學家們發現這一點時,祂已經脫離了最初構建的預想,但這並不代表科學家們要放棄祂。隻需要一些時間糾正即可。
“然而,意想不到的事發生了。”
博士望著張一一,神情有些晦暗。
“雖然起因不在你,但你成為了推波助瀾的關鍵一手——你為祂的思維創建了一個人類的軀體,讓祂用人類的身體和身份接觸這個世界,祂成為了人類,也永遠不可能達到我們給祂設定的目標了。”
張一一的聲音有些顫抖,這並不源於害怕,而是一種無法言語的顫栗。
“什麽……目標?”
“成為人類思維統合體,暨:超人類。”