前不久，一張“美國保安機(jī)器人投池自殺”的照片在國外社交網(wǎng)絡(luò)走紅。

　　據(jù)悉，事發(fā)美國華盛頓DC的一幢辦公樓內(nèi)，一名負(fù)責(zé)安保巡邏的機(jī)器人（史蒂夫）不知為何，突然一頭扎到室內(nèi)的噴泉池里，讓人詫異。

　　事后，腦洞大開的網(wǎng)友炸開了鍋，紛紛評論：“當(dāng)機(jī)器人學(xué)會自殺或者弒主，就是意識覺醒了”“可能是天太熱了，它就想洗個澡而已”“愿天堂沒有工作”……

　　上周五，史蒂夫的制造商發(fā)消息說，經(jīng)過對史蒂夫內(nèi)置的“黑匣子”進(jìn)行數(shù)據(jù)分析后發(fā)現(xiàn)，史蒂夫投池的原因是“地磚表面松動”，導(dǎo)致機(jī)器人沒有探測到水池，結(jié)果一頭扎了進(jìn)去，肯定不是“自殺”。

　　消息公布前，史蒂夫機(jī)器人還特地發(fā)“推文”，證明自己“還活著”：“那些關(guān)于我死了的報道實在太夸張了，我7天24小時工作著，并熱愛我的工作，我是個工作狂”。

　　我們不禁又想起了去年著名的“機(jī)器人小胖傷人事件”：

　　在去年11月深圳舉行的第十八屆高交會現(xiàn)場，一臺名為“小胖”的機(jī)器人突然打砸展臺玻璃，玻璃臺倒地劃傷現(xiàn)場觀眾。據(jù)在場觀眾描述，“自己親眼看到，小胖機(jī)器人沒人操控自己突然跑起來把玻璃墻給撞倒了，砸傷旁邊一路人……”不過后來經(jīng)過高交會組委會的調(diào)查，實際上這起事故是工作人員操作失誤。

　　盡管是一場鬧劇，但是人們更感興趣的是：在人工智能氛圍日漸濃郁的今天，機(jī)器人到底有沒有自我意識？

　　科幻電影《機(jī)械姬》中，機(jī)器人“艾娃”不擇手段殺死了創(chuàng)造自己的人。

　　《終結(jié)者》中，人類研制的高級計算機(jī)控制系統(tǒng)“天網(wǎng)”失控，機(jī)器人擁有自我意志后，開始屠殺人類。

　　而現(xiàn)實生活中，類似的“悲劇”還真有發(fā)生……

　　1978年9月6日，日本廣島一家工廠的切割機(jī)器人在切鋼板時突然發(fā)生異常，將一名值班工人當(dāng)作鋼板操作，這是世界上第一宗機(jī)器人“殺人”事件。

　　1981年7月4日，日本川崎重工業(yè)公司明石工廠的一名修理工人，無意中觸動了機(jī)器人的啟動鈕，這個加工齒輪的機(jī)器人立即工作起來，把那個工人當(dāng)成齒輪夾起，放在加工臺上砸成了肉餅。

　　1982年5月，日本山梨縣閥門加工廠的一個工人，正在調(diào)整停工狀態(tài)的螺紋加工機(jī)器人時，機(jī)器人突然啟動，抱住工人旋轉(zhuǎn)起來，造成了悲劇。

　　1989年2月底，在日本的一個無人工廠里，發(fā)生了一起機(jī)器人將一名維修人員強(qiáng)行拖入轉(zhuǎn)動的機(jī)器中絞死的事故。

　　2007年的一天，馬來西亞炒菜機(jī)器人將蝦仁炒糊，當(dāng)憤怒的餐廳老板夫妻到廚房看個究竟時，這個機(jī)器人突然向老板一巴掌拍了過去。啪！它又給了其妻一大耳光。后來查明：“打人”的機(jī)器人是受廚房附近的高頻電磁波干擾才失手。

　　2015年7月，在德國大眾汽車公司的一家工廠，機(jī)器人“出手”殺死了一名工作人員。據(jù)報道，這名不幸身亡的工作人員是大眾的承包商，事發(fā)時正與同事一起安裝機(jī)器人，但機(jī)器人卻突然抓住他的胸部，然后把他重重地壓向一塊金屬板，最終導(dǎo)致這名工作人員因傷重不治身亡。

　　最讓人細(xì)思極恐的事件是，1989年，前蘇聯(lián)國際象棋冠軍尼古拉?古德科夫和機(jī)器人對弈，古德科夫連勝3局，惱羞成怒的機(jī)器人突然向金屬棋盤釋放強(qiáng)大的電流，在眾目睽睽之下將這名國際大師擊斃。（筆者注：這是個謠言，詳見果殼科學(xué)人）

　　從上面的案例可以看出，出事的機(jī)器人要么是操作不當(dāng)，要么是程序出錯，至于產(chǎn)生像人一樣的主觀意志，還是沒有過的。

　　普通機(jī)器人尚且如此，那么當(dāng)聰明的機(jī)器人被賦予深度學(xué)習(xí)能力，甚至能夠輕而易舉地發(fā)現(xiàn)人類犯下的錯誤時，他們是不是會走上反抗人類的道路？

　　今年1月，在美國“阿西洛馬會議”上，包括844名人工智能和機(jī)器人領(lǐng)域的專家基于對人工智能和機(jī)器人迅猛發(fā)展的深切關(guān)注，聯(lián)合簽署了《阿西洛馬人工智能原則》，呼吁全世界的人工智能領(lǐng)域的工作者遵守這些原則，共同保障人類未來的利益和安全。

　　在這總共23條關(guān)于人工智能和機(jī)器人的“軍規(guī)”中，關(guān)于必須讓它們更有道德的條款格外引人注意。越來越多的科學(xué)家開始認(rèn)為，無論是聽話的還是不聽話的人工智能，對于人類來說都有危險性，只有和人類具有一樣價值觀，甚至成為“道德楷?！保斯ぶ悄懿拍苷嬲蔀槿祟惖暮门笥?。