第72章 大學之道(1)

  麵對美國時空公司和美國管家的調查組，李侯侃侃而談。紫霞湖般的雙眸冷靜冷淡，言談舉止舒徐自如。半年過去，又是原來端直方正的小侯爺。


  ??“李白18”的‘人心’係統就是機器人的基本價值觀，大家都知道的，著名的機器人三法則：第一條不能傷害人類個體，或者目睹人類個體將遭受危險而袖手不管。第二，機器人必須服從人的命令，除非該命令與第一條法則衝突。第三，機器人在不違反第一第二條的情況下要盡可能保護自己的生存。


  ??“這個我們也裝了！”保羅抗議。特意從美國飛過來是不得已，也是不服氣：昇實作為買家嚷嚷要全部退貨並索要巨額賠償，事發過程有憑有據還有時空公司自己的兩個證人，保羅不是不相信“美國超人”出問題，但是整個城市避過一場大禍據說是因為“李白”？怎麽可能呢？在美國紐約看過“李白18”，“美國超人”就是模仿那個做的啊，隻會更好啊！機器人三法則在四五十年代就出現了，幾十年來一直是被奉為機器人學的金科玉律，時空公司作為機器人製造專業公司，當然每件產品都嚴格遵守！

  ??旁邊的奧威爾先生皺了皺眉，出了這麽大的問題，技術部不認為有錯！3月份在得知“李白18”與美國管家要簽約的消息時，公司召開緊急會議，技術部拚盡全力很快造出了“美國超人”，大家心知肚明是模仿“李白18”、不捅破而已，結果闖這麽大禍！朱陶諷刺是“性侵”陰謀的惡果，邏輯上是有道理的。奧威爾不自覺地手指輕敲桌麵思索，這件事一出、恐怕全世界都這麽想，真冤枉！比李侯還冤！到底是誰幹的？朱陶難道查出了什麽？

  ??“被篡改了不等於沒裝、比沒裝還要糟糕。”李侯毫不客氣地否定：“這個係統第一個要點是一定不能改、所以瀚迅用的是隻讀存儲器ROM，並且密封在不可拆卸之處。對，就是心髒的部位，就是它的‘人心’。”


  ??“更新升級的時候怎麽辦？”問話的是美國管家的會長巴斯奇先生，葉端直的老朋友。滿頭銀發梳理得一絲不亂，言行舉止謹慎不苟，讓人一眼就心生敬仰。美國管家這次來了四個人，會長親自帶隊，時空公司這次出的問題太大，五萬台“美國超人”暴動！聯手遠在地球另一端加拿大的三千台！要不是李侯出手，南都還真就被占了！隨機抽選走訪了一百戶當晚被困的家庭、所有人都懵然不知，十點半到一點四十五之間的記憶象是被抹去一樣，並且前後的事情無縫連接！雖然不清楚機器人具體到底要幹什麽，但肯定是想翻身做主人，二十萬“美國超人”大軍、人類能否抵擋真是未知數，雖然南都有強大的軍隊、但麵對幾十萬家庭難道動武？聽到報告時巴斯奇先生簡直懷疑是故事是謠言，在清晰齊全的證據尤其是機器人篡改的時空公司來往訊息、安德魯和吉奧“哦上帝”的描繪下不得不相信，後怕得出了一身冷汗。還好這款機器人在美國還沒上市，不然會怎麽樣？

  ??尤其感激李侯之處，是他說服了朱家父子，這場驚天大禍完全沒有在媒體上出現，保密在當事的十幾個人中間，所有證據憑據包括錄像資料各式物證整整齊齊擺在麵前，等協會的決定。這張民用機器人有史以來金額最大的合同，簽約前美國管家審核過，昇實因急於要貨並沒有提特別要求用的就是時空公司的常規合同，合同最底部的十幾條老條款中“除非機器人產品發生嚴重危害用戶生命安全事故，不得退貨”，時空公司自傲的是幾十年來從沒有過、這一條也就是做做樣子，沒想到這次真的發生了！

  ??倘若昇實大張旗鼓地宣揚控訴，時空公司全球的銷售立刻跳水、股價更是非腰斬不可。美國的三大城市群都在製造業發達地區，波士華城市群——即以紐約為中心的大西洋沿岸城市群——是美國人口密度最高的地區，商貿金融中心，更是美國最大的生產基地。產業地標如服裝印刷化妝品都實力雄厚，時空公司引領的機器人製造業算一個，幾十年努力使得世界人民想到機器人就想到紐約州，好象提到鍾表就是瑞士、數碼相機就是日本、飛機製造自然在西雅圖一樣。不過這十來年，瀚迅橫空出世一步步逼近，真令人擔心，會不會有一天講到機器人會變成想到南都？

  ??最主要的，這次來南都絕不是簡單處理後事。機器人威脅論由來已久，最著名的是霍金在2015年1月聯合特斯拉的老板埃隆馬斯克等人類智能專家簽署了公開信，提倡對人工智能的社會影響展開認真調研。去年甚至在全球移動互聯網大會上公開演講說他擔憂人工智很有可能是人類文明史的終結，因為它能以不斷加速的狀態重新設計自身，而人類受到漫長的生物進化的限製無法與之競爭，很容易被其取代。很多人認為霍金危言聳聽。人工智能毫無疑問會改變社會並產生不少隱患，比如他提到的解讀數據引起的隱私問題、致命性智能自主武器是否該被禁止的問題，但什麽“不遵循人類意願的超級智能”、什麽“人工智能超越人類智力範圍挑戰人機關係”、什麽“我們的頭腦被人工智能放大後遠不能預測其成就”，這就誇張了嘛！明明一步步的成就都是看得見、都是可以推斷的嘛，巴斯奇先生與這“很多人”一樣，堅信人工智能就是一次技術革命、都在可控範圍內。萬萬沒想到，在2018年9月24號這天被徹底顛覆！“美國超人”有思想有感情，會搞陰謀會布陣會仇恨會野心勃勃，“李白”則會忠心護主會舍生取義！


  ??老人伸手摩挲桌上一塊塊碎片，智能機器人金屬軀體炸裂後原來會沾上這樣的七彩鏽斑，那是它們的血跡嗎？還是淚痕？

  ??“區塊鏈保證更新的安全性。”李侯毫不藏私，幹脆地回答：“每次更新後‘人心’被自動檢驗，如有異常，機器人會被自動關機。”


  ??李侯接著介紹了這一程序對機器人行為的控製，原來“李白18”看似普通的每一個動作之前，‘人心’係統都會過濾檢查是否違規，包括是否傷人？是否不確定有無危險？是否違背程序中任何一條？隻有該係統檢測過關之後，行動才會被允許執行。對，哪怕是最基本的一個掃地動作，也要先確認掃地範圍內有沒有人，看似很麻煩耽誤時間其實和人的思維一樣快到根本感覺不到。所以第二個要點，在任何情況下，這一程序都行使最大權限範圍。


  書屋小說首發