第73章 大學之道(2)
保羅歎了口氣，“美國超人”裝了基本價值觀程序，但是每次係統更新時會一起更新，這就有了篡改的可能；而且並沒有將其放在首位，而是任務優先，任何情況下先完成工作。本來認為這是美國式的優良品格，直到今天。
??李侯理解地笑了笑：“因為‘人心’就象法律，任何時候機器人不能幹違法犯罪的事。以往的認識可能沒到這個高度，畢竟以前的弱智能、能力有限。”
??巴斯奇幾個都點了點頭，看來基本準則必須立法，象人類的法律一樣，更要從速從嚴。但美國管家能做到的隻是美國的民用機器人，其它國家呢？其它品種呢？迫在眉睫的比如工業機器人已經大量使用漸漸蔓延，還有無人駕駛汽車、怎麽辦？是造車的負責、是購車的用戶負責、還是另外成立無人車聯盟？這一切是迫在眉睫還是尚在未來世界？
??“而且啊，一定要設終極開關和終極自爆係統的雙保險，防止最壞的情況！”朱陶插口說：“瀚迅的這個設計平時看似多餘，關鍵時刻象9月24號的晚上，就知道真是管用！‘美國超人’關不掉的問題一定要改！”
??保羅舉了舉雙手表示投降，大胡子遮住赧然，太丟人了，自己造的機器人自己控製不了！安德魯按了按遙控器，畫麵中“美國超人”在被李白關機後的3秒鍾裏自己伸臂重新啟動，驚心動魄的一幕再次驚得會議室中鴉雀無聲。
??“還有第三個要點，我個人覺得是更重要的。”李侯清了清嗓子，麵色變得凝重：“為什麽同樣對於人類主人、在同樣的工作麵前，‘李白’和‘美國超人’的表現迥異？我說這個並無貶低任何人的意思，”
??“李侯別客氣嘛！”朱陶打斷了他，香蕉人的直爽不能理解李侯這種傳統中華禮儀的謙遜：“產品高下一目了然，現在不僅是幫他們解疑答惑，更為了人類的將來必須提高機器人質量！不然下一次未必在南都、未必碰巧有你李侯和‘李白’在，倒黴的不知道是誰呢！”
??巴斯奇先生讚成：“這次的事件時空公司會負責，保羅今天來也是誠意來道歉來學習的，盡管直說。”
??“機器人的意識，是經由深度學習而來，象我們人類受教育一樣。所以怎麽教、教什麽，這個應該象人類教育一樣重視。我們已經認識到人類教育不是僅僅教謀生手段，而是以人性以精神為本，培養善良、悲憫、感恩、同情等一切高貴品質，讓少年成長為有信念信仰負責任敢擔當的成人，象我們中國人早就講的‘大學之道，在明明德，在親民，在止於至善’，至善可能是人需要一生孜孜以求的目標，但高尚品格應當超過生存技能、超過文化素養，這點都同意吧？”
??李侯說的很誠懇：“機器人也一樣啊！它學得快，快得是我們人類的多少倍，那就更要好好教，說到底，它學的都是我們灌輸的啊！‘李白’的知識庫，我們選擇性地連接，象嬰幼兒教育一樣先以六經四教打底，孔孟之道儒家文化的仁義禮智信，現代文明的寬厚包容感恩等都撿好的‘教’或者說‘交’，影視娛樂連接也注意不亂塞，近兩百部紅色經典片讓它先看的，你們不要笑，它在危急關頭為了救人自爆，就明顯受到了英雄形象如董存瑞如黃繼光的影響，那也是樸素的為人類造福的心理。反過來，如果都隻是輕歌曼舞武打言情或者玄幻陰謀，它囫圇吞棗地都吸進去，糊裏糊塗地混在一起就成了它自己的觀點。”
??保羅默然。“美國超人”也深度學習了很多經典，特別是幾場超人大片、蜘蛛俠鋼鐵俠都看過，但確實沒有把關篩選，一直任它在網上自己逛。所以取樣機器人的報告有的常說“如果上帝是萬能的，那他一定不是仁慈的；如果上帝是仁慈的，那他就一定不是萬能的”，有的認為“‘瘋子’，那是庸人對無法理解的偉大想法的稱呼”，也有的喊“占領地球消滅蟻群”，五花八門稀奇古怪。但是這又牽涉到中西方對教育認識的差異，而象“李白”這樣自殺式爆炸，保羅認為那是政治或宗教洗腦，並不讚成，不過畢竟在危急關頭力挽狂瀾、功過對錯就不在這裏爭執了。
??奧威爾先生見保羅不吭聲，不由得暗暗歎氣。經李侯一解說，其實都是不難的事，怎麽時空公司就沒想到呢？
??“還有平常生活中的耳濡目染言傳身教，我想也是有關係的。”朱陶又插口：“李白那麽善良又勇敢，明顯學的、呃、李夫人。我想機器人就和孩子一樣。”
??幾個美國管家對望了望，這次事件看起來是這樣的結論，但恐怕並不能得到全世界人工智能專家的認同，普通民眾更加接受不了：機器人、怎麽能是人？去年十月，沙特阿拉伯授予香港漢森生產的機器人索菲亞公民身份，全球輿論嘩然；之後這位“索菲亞公民”參加各種會議、受聘為AI教師、遭遇人類追求，全世界象看鬧劇一樣看著這個機器人說笑逗唱，有幾個人真當“她”是個人？是個和自己一樣的人？
??巴斯奇先生咳嗽一聲，對瀚迅這次的果敢救助和無私交流表示了感謝，在機器人與人類發生衝突時瀚迅表現出高尚的情操，令人敬佩；協會將對這些有關機器人的三條要點慎重考慮，盡快形成法規文件，對全美生產的、進口的、涉及的民用機器人統一管理；並將在全球包括中國呼籲，爭取達成共識。之後話鋒一轉，目前的棘手問題就是“美國超人”這二十萬台怎麽辦？昇實提出全部退貨有道理、索賠損失也有道理，但是先不談時空公司的損失，昇實的商譽也嚴重影響吧？
??“名譽當然重要，”朱陶老老實實地回答：“但實際情況如此也沒辦法。‘美國超人’沒法賣啊！我就問問，誰敢開機？”
??保羅張了張口沒說話，扭頭望向老板，奧威爾則望向巴斯奇。巴斯奇先生又咳嗽一聲，緩緩地提出美方的解決方案。“很簡單，就地請瀚迅公司幫忙修改——這個我親自上門拜托葉小姐、為了全球的民用機器人前途、請她出手相助，一切費用由時空公司承擔，這期間的資金利息、受損費用當然也是時空公司的。再次上櫃如有差價，也由時空公司補足，如何？”
??“你們打的好美國算盤！”馮國慶坐在朱陶旁邊一直沒說話，突然開口嚇了眾人一跳，矮小精瘦的身體居然發出這麽洪亮的聲音，一口南都話翻譯要想一下才明白：“你們阿想過這次大禍的危害？害人呐！對昇實、對用戶、對南都城！這樣有致命缺陷的產品草率出廠，時空公司是罪魁禍首、你們美國管家也有責任！你們阿曉得，我們那晚上在場的保安、都在做心理輔導，約翰博士——也是美國來的專家——講好幾個終身不能再從事類似工作！還有幾萬用戶，好幾個小時什麽都不記得，這對他們的健康約翰博士講肯定有影響，但到什麽程度哪個也不曉得！裏麵好多小孩、幾歲的、幾個月的、還有孕婦，以後阿會有斯？還有關老師，就是李夫人，那之後象換了個人，本來就話少、現在幹脆變成啞巴了！這都怎麽算？哦，你們輕輕巧巧地就說這個產品修修再上市！哪塊敢賣？我是不敢！”
書屋小說首發