核心提示：一直訓練機器人之間相互談判的研究人員發(fā)現(xiàn)這些機器人偏離了原來的設定，開始用非人類語言進行交流。

這兩天，一則機器人發(fā)明了自己的語言的新聞刷爆國外社交網絡?！睹咳针娪崍蟆贰ⅰ抖际械罔F報》、《獨立報》、《鏡報》等各大媒體都“freak out”了……

大致就是，F(xiàn)acebook研發(fā)的人工智能發(fā)明了自己的語言，程序員恐慌了，趕緊關閉了機器。

具體是怎么回事呢？

其實今年六月，《大西洋月刊》（The Atlantic）就發(fā)表了一篇文章：

人工智能發(fā)明出自己的非人類語言

文章稱：

Facebook人工智能實驗室最近發(fā)生了一些匪夷所思的事情。一直訓練機器人之間相互談判的研究人員發(fā)現(xiàn)這些機器人偏離了原來的設定，開始用非人類語言進行交流。

盡管這些文字看起來好像是在胡言亂語，而且機器人之間似乎并沒有真正達成某些協(xié)議，但詭異的是，F(xiàn)acebook 的數(shù)據(jù)顯示，這樣的對話有時仍然能夠使機器人之間成功達成談判。

看到這里，是不是覺得細思恐極，并想起了《終結者》（The Terminator），然后抖了三抖......

這兩天，反射弧更長的幾家媒體突然緩過勁來，一窩蜂報道起這起“詭異”事件。

《每日電訊報》（The Telegraph）：

Facebook人工智能研究室今年早些時候建了一個聊天機器人，目的是學習如何模仿人類達成交易和物品交換的協(xié)議。

然而，當社交網絡把兩個名叫Alice和Bob的機器人配對起來交換物品時，他們開始自己發(fā)明出一種怪異的交流方式。

這就是Alice和Bob那段讓研究者摸不著頭腦“天書” ↓↓

研究人員觀測到的機器人“Alice”與“Bob”之間的“交流”

Bob: i can i i everything else . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i everything else . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i i can i i i everything else . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

確實看起來很creepy啊有木有……

更令人吃驚的是，這些聊天機器人甚至會使用談判技巧，《大西洋月刊》稱：

這些機器人還是相當老練的談判者——他們甚至會使用策略，如假裝自己對某個無價值的物品特別感興趣，然后再通過放棄該物品進行“妥協(xié)”。

這驚悚程度已經直逼科幻片了……

于是，這些媒體說，F(xiàn)acebook出于對人工智能可能會“失控”的恐慌，不得不關閉了相關研究項目。

在《福布斯》（Forbes）網站刊登的文章中，作者憂心忡忡地說：

我們整個世界都是相連的。任何一個人工智能也終將認識到這一點，并找到如何同其他人工智能系統(tǒng)聯(lián)系合作的方法。

也許人工智能會認為人類是威脅，或者人類的存在是對資源的浪費——這個論斷純粹從邏輯角度講似乎非常合理。

其實，上周，F(xiàn)acebook首席執(zhí)行官馬克·扎克伯格（Mark Zuckerberg）和特斯拉首席執(zhí)行官伊隆·馬斯克（Elon Musk）正因為人工智能吵得不可開交。

當時，馬斯克站在人工智能的反方，對其發(fā)展表示非常擔憂，稱隨著機器越來越聰明，它們會掌控一切（hold our very existence in their hands）。

而扎克伯格則站在正方，對人工智能的前景表示非?？春茫?/p>

扎克伯格稱其對人工智能表示“非常樂觀”，他認為在未來的5-10年內，人工智能將有助于人類生活方方面面的提升。他表示，包括馬斯克等反對者的“末日論”是“不負責任的”。

而現(xiàn)在，自家人工智能機器人都開始“自說自話”了，難道，扎克伯格就這樣被打臉了嗎？

并沒有！

在炒了一番“人工智能機器人開始說人類聽不懂的語言”之后，各大媒體和科技類博客開始辟謠……

英國廣播公司（BBC）：“駭人聽聞的臉書人工智能”故事迷惑媒體

科技博客Gozmodo：不不不，臉書沒有恐慌，也沒關停聰明到有些危險的機器人

美國全國廣播公司財經頻道（CNBC）：臉書人工智能研究員斥責對智能機器人實驗的報道是“不負責任的”。

《連線雜志》：不，臉書的聊天機器人不會顛覆世界的。

所以，這難道是一場烏龍？聽雙語君（微信ID：Chinadaily_Mobile）給你講個究竟。

根據(jù)知名科技博客Gizmodo的報道，臉書目前是想要開發(fā)一個溝通軟件。

相信Siri一類的聊天軟件大家都知道，臉書的計劃就是差不多的道理，讓機器人帶著“目的”和人或機器人談判。

設計這兩個機器人是為了檢驗這樣一種可能性：對話機器人可以帶著不同的目的，與其他機器人或人進行完整的談判，并且達成共識。

臉書研究人員首先訓練機器人去分研究員給定的東西。

比如說，讓機器人分幾個球球、幾個帽子，看機器人怎么跟另一方談判，達成雙方都同意的結果：

機器人們互相交流去分給定的東西（比如用戶界面上的書、帽子、球），以達成雙方都認可的分法。

訓練方式如下圖，研究人員設定了書，帽子和球三樣東西，并且設定了不同的權重，權重越大，表示越重要，機器人越應該想法留住它。

從動圖中的測試結果來看，機器人看起來“智商在線”。

它拒絕了實驗者要帽子的請求，而主動要給出書本，因為帽子的權重可是“7”，而書本的權重是“0”。

所以說這項實驗實際是非常成功的。臉書的人工智能研究員也表示，這項實驗證明，臉書研發(fā)的人工智能機器人不僅能說英語，還能智能地思考說什么。

于是后來，研究員們讓兩個人工智能機器人開始對話。但他們發(fā)現(xiàn)設定上出了點問題：

程序員意識到，他們犯了個錯誤，他們沒有激勵聊天機器人用人類理解的英語進行溝通。

“激勵”簡單來說就是告訴機器人，這樣做的分數(shù)更高，因此，沒有設定這樣的激勵，機器人說出這些“脫線”的英語也就不奇怪了。

雖然看起來非常詭異，但是這其實并沒有什么特別的意義。

我們再回頭來看那段看似詭異的對話……

Bob:i can i i everything else . . . . . . .

我能我我所有其他東西……

Alice:balls have zero to me to me to me to me to me to me to me to me to

球有0給我給我給我給我給我給我給我給……

Bob:you i everything else . . . . . . . . .

你我所有其他東西……

Alice:balls have a ball to me to me to me to me to me to me to me

球有一個球球給我給我給我給我給我給我……

Bob:i i can i i i everything else . . . . . .

我我能我我我所有其他東西……

Alice:balls have a ball to me to me to me to me to me to me to me

球有一個球給我給我給我給我給我給我……

這樣看來，他們根本就沒有創(chuàng)造什么新詞，還是“你”、“我”、“球”……不過是語法有點錯亂。

其實他們就是在爭一個球嘛……

而且，臉書這一項目只是為了研究，而非面向大眾。后來系統(tǒng)確實被關停，但卻并不是因為可能帶來的威脅。

臉書的這一系統(tǒng)是用來研究，并不是面向大眾的應用。后來項目被關停，是因為團隊對研究不感興趣，而不是因為他們偶然發(fā)現(xiàn)系統(tǒng)對人類造成威脅。

實際上，這項智能機器人的開發(fā)非常困難。臉書即時通訊“Messenger”的研究中，機器人無法正確回應人類70%的訴求。

因此，目前看來，是媒體們虛驚一場了。

好了，今天的新聞有沒有讓你腦洞大開，想不想看幾部人工智能相關的電影？

其實，這類的文學、影視作品一直層出不窮，有把AI描繪成人類文明毀滅者的，也有展現(xiàn)AI智慧、溫情，與人類和平共處的。

下面，雙語君就推薦幾部精彩的。

機器管家 Bicentennial Man (1999)

▌簡介

電影圍繞著型號為NDR的機器人安德魯?shù)倪M化展開，講述了他來到馬丁家并和馬丁家庭三代人相處的故事。安德魯對自己在情感和創(chuàng)造力方面天賦的發(fā)現(xiàn)、成為藝術家和發(fā)明家的過程，以及他為自己的人類身份能獲得認可所做的斗爭，是貫穿電影始末的主線。

我，機器人 I, Robot (2004)

▌簡介

2035年，芝加哥警探戴爾·史普納前往調查一起自殺案，受害者正是在人工智能領域的頂尖科學家，阿爾弗萊德·藍寧博士。

由于不相信博士是自殺而死，史普納展開了一系列調查并發(fā)現(xiàn)了美國機器人研究中心的秘密和真正殺死博士的兇手的陰謀。

然而史普納不知道的是，他的調查將指向一個對人類更大的威脅。

她 Her (2013)

▌簡介

生性敏感的信件撰寫人西奧多剛剛結束了婚姻。孤獨之下，他購買了一款人工智能操作系統(tǒng)，該系統(tǒng)承諾可以提供給西奧多所需的一切。

薩曼莎作為系統(tǒng)聲音，不僅幫助西奧多處理日?，嵤拢€成為了他的朋友。他們的親密相處讓二人之間迸發(fā)出了愛情的火花，并展開了一段人類與機器之間的不同尋常的戀愛。

機械姬 Ex Machina (2015)

▌簡介

迦勒是某知名互聯(lián)網企業(yè)的程序員，由于贏得公司一項幸運大獎而被邀請在老板的私人別墅中度過周末。

當他到達的時候，迦勒才得知他被選為圖靈測試中的人類選手， 用于測定一個美女機器人艾娃的能力和意識。

然而，迦勒很快意識到艾娃的自我意識和欺騙性超乎想象。

你覺得“AI顛覆人類世界”，是科幻小說家不切實際的杞人憂天，還是會一語成讖的末日預言？