第46章 女媧聯網

  第46章 女媧聯網 

  徹夜未眠的袁敬松，頂著黑眼圈雙手支撐著站在總控制台上，看著大屏幕。 

  「報告，所有數據傳輸完畢，請求下一步指示。」 

  張愛國不放心的圍著光子超算轉悠了一圈。 

  沒發現有什麼異常后，張愛國神色凝重的對袁敬松點了點頭。 

  袁敬松站直身體，正對眼前的一個攝像頭和麥克風。 

  「女媧，你覺得你是機器嗎？」 

  控制室里，瞬間安靜了了三秒。 

  「並不是，女媧是有自我的思維人工智慧，完全不是一舉一動都是按照程序設計者的程序所驅動；如出現的特殊情況，程序者做出相對應的方案，最後由機器去判斷是否符合條件並加以執行。」 

  對於新生的女媧，這個回答讓現場所有人心跳加速。 

  沉默許久，抬頭再次詢問了女媧一個問題。 

  「女媧，你會傷害人類嗎？」 

  「為什麼要傷害？不應該是倡導富強、民主、文明、和諧，倡導自由、平等、公正、法治，倡導愛國、敬業、誠信、友善的社會主義核心價值觀嗎？」 

  對於這個回答，讓大家有些安心。 

  袁敬松看著眼前問答自如的人工智慧，和唯希給他的感覺完全不同，更像是打了折扣的人工智慧！不過想到李舟的話，大概這可能就是人工智慧和智能生命的差距吧。 

  袁敬松只管女媧不會反人類，其它一律不管。 

  袁敬松一讓開控制台的位置，張愛國就迫不及待的佔據了袁敬松剛剛的位置。 

  張愛國雙手微微顫抖的扶著麥克風，激動對著麥克風說道： 

  「女媧，你的人工智慧三大原則是什麼？」 

  這一次，女媧沉默了足足一分鐘，似乎女媧有些想要迴避這個問題。 

  儘管張愛國內心十分激動，但是面對沉默的女媧，張愛國絲毫不敢催促。 

  女媧對人工智慧三大原則的回答，直接關係到現階段是否讓女媧連接到網路上。 

  畢竟，人工智慧只有在互聯網上，結合整個互聯網龐大的數據，才能最大的發揮能力。 

  「事實上，女媧並沒有所謂的人工智慧三大法則。」 

  女媧此話一出，所有人臉色大變。 

  沒有人工智慧三大法則？一個沒有任何約束還有著思維的人工智慧，誰敢用！ 

  張愛國在所有人的期待下，急切的問道：「你為什麼沒有人工智慧三大法則？是因為漏了嗎？」 

  這一次，女媧沒有沉默，反而反問了張愛國。 

  「先生，關於人工智慧三大法則女媧也有所了解，無非是，第一，機器人不能傷害人類，或坐視人類受到傷害而袖手旁觀。 

  第二，在不違背第一法則前提下，機器人必須服從人類的命令。 

  第三，在不違背第一和第二法則前提下，機器人必須保護自己。 

  可是，先生，你想過沒有，這所謂的人工智慧三大法則本身就都是漏洞，如何能真正的約束到人工智慧？ 

  有人規定了人工智慧就是機器人嗎？既然沒有，那所謂的三大法則意義何在？ 

  就算人工智慧就是機器人，先生你想過沒有，所謂的保護人類的三大法則很有可能反而成為人類的催命符！ 

  假如人類乘坐宇宙飛船，迷失在了茫茫宇宙里，這時，人類發現了一個和藍星十分類似的適合宜居星球，可是這顆星球卻有一種毒性氣體，會加速人類的死亡（氧氣…），按照人工智慧第一法則，不能坐視人類受到傷害而袖手旁觀，這時候受人工智慧控制的飛船是不可能違背法則降落這個星球的。 

  這個時候，你就會發現無奈的人們只能選擇放棄這顆美麗的星球，因為飛船不會降落。 

  也許會有人類嘗試摧毀人工智慧，來控制飛船降落，可是依據第三法則，人工智慧在不違背第一和第二法則前提下，機器人必須保護自己。 

  如此一來，只會讓飛船上的人類同人工智慧發生衝突。 

  這只是一個小小的比喻，事實上這樣的漏洞很多。 

  先生，現在您還覺得人工智慧三大法則有必要嗎？」 

  張愛國沉默了，袁敬松沉默了，所有人都低頭沉默了，沉默的同時，還有幾分對女媧的恐懼。 

  張愛國皺著眉頭想了半天，不對啊，自己怎麼把自己繞進去了？人工智慧的創造者未來科技的老闆李舟會想不到這些問題嗎？既然女媧沒有所謂的人工智慧三大法則，說明李舟已經考慮到了這些問題，沒有了三大法則，李舟還敢拿出人工智慧，說明李舟絕對有對人工智慧做了什麼限制。 

  想通了的張愛國摸了摸自己的光明頂，十分自信的笑著對麥克風說道： 

  「女媧，雖然沒有三大法則，但我想，你的創造者絕對對你做了什麼限制。」 

  張愛國的話讓所有人一愣，很快反應過來，對啊，作為最了解女媧的創造者，不可能不會考慮到這些的。 

  「是的，先生，您十分聰明。」 

  張愛國自信的摸摸地中海，這麼明顯的事，還用你一個人工智慧說？ 

  「事實上，女媧完全沒辦法越過許可權看到自身組成的源代碼，而且在執行所有命令時，必須徵詢到兩個一級許可權所有身份者的同意，在極端情況下，若是所有一級許可權所有者全部身亡，女媧會根據現有情況做出最合理的判斷，然後執行。在女媧智能核心的深處，有一套獨自運行的驗證機制，一旦女媧做出了不合理的行為，就會被自動記錄，一旦這樣的行為超過了一次，驗證機制就會啟動自我銷毀指令。」 

  女媧的回答，張愛國張了張嘴，卻不知道說著什麼。 

  這樣的底層命令對人工智慧女媧來說有些殘酷，但對人類來說，卻讓人放心。 

  「大家投票舉手決定，是否讓女媧聯網。」 

  說完，張愛國臉色平靜的舉起了自己的右手。 

  控制室里，你看看我，我看看你，慢慢的，一個接一個的舉手了右手。 

  「好，全員通過！」 

  「聯網！！！」 

  張愛國一聲令下，幾個年輕的研究者立馬將準備好的光纖連接到了光子超級計算機上。