美國石英財(cái)經(jīng)網(wǎng)站近日發(fā)表“新聞高峰之家”研究員、谷歌公司和“深層思維”公司前工程師安德烈亞斯·基爾希的文章《自動武器將成為不知疲倦的高效殺人利器，而且無法阻止》稱，下一次世界重大軍事沖突可能速戰(zhàn)速決。血肉之軀的戰(zhàn)士根本沒有機(jī)會贏得勝利。無人機(jī)和機(jī)器人將打垮我們的防御系統(tǒng)，占領(lǐng)我們立足的土地。即使我們消滅部分無人機(jī)和機(jī)器人，更多無人機(jī)和機(jī)器人很快就會趕到并取而代之，再次訓(xùn)練有素地?fù)魯∥覀兊倪€擊。這并非遙不可及的反烏托邦幻想，而是即將成為現(xiàn)實(shí)的事實(shí)。

▲美國石英財(cái)經(jīng)網(wǎng)站報(bào)道截圖

文章稱，今年5月，谷歌員工為抗議公司幫助美軍開發(fā)無人機(jī)人工智能能力而辭職。更近時(shí)日，2400名研究人員立誓絕不研制自動武器。很多人工智能研究人員和工程師不愿從事自動武器研發(fā)，因?yàn)樗麄儞?dān)心自己的研發(fā)結(jié)果可能引發(fā)一場人工智能武器競賽。

我們?nèi)绾沃浦勾耸掳l(fā)生？首選就是達(dá)成類似于不擴(kuò)散核武器條約的協(xié)議，禁止研制自動武器。否則，出于道德原因而自愿放棄自動武器研制的有關(guān)各方將處于絕對劣勢。

這是因?yàn)?strong>自動武器比血肉之軀的戰(zhàn)士擁有很多優(yōu)勢。比如，它們不會疲勞，精確度更高，反應(yīng)速度更快，可在人類無法生存的環(huán)境下作戰(zhàn)，比如長期滯留沙漠地帶。它們無需多年訓(xùn)練和培養(yǎng)，可以大規(guī)模生產(chǎn)。最壞的情形是被摧毀或損壞，而不是被打死打傷，無人為之哀悼或是要求把它們的遺體從戰(zhàn)場運(yùn)回來。

▲自動武器研發(fā)可能引發(fā)一場人工智能武器競賽。（美聯(lián)社）

文章稱，如果使用自動武器，也更為容易向公眾解釋軍事作戰(zhàn)的理由。由于進(jìn)攻方的人員損失可以最小化，所以軍隊(duì)可以保持低調(diào)。美國和歐盟最近在利比亞、敘利亞和也門的作戰(zhàn)行動就集中使用了無人機(jī)、巡航導(dǎo)彈等。沒有此類武器的作戰(zhàn)方處于明顯劣勢，軍人不得不與機(jī)器人作戰(zhàn)。

但是，即使所有國家都簽署國際條約，禁止研制自動武器，就像它們曾經(jīng)就不擴(kuò)散核武器所簽的條約一樣，那也不可能阻止自動武器的誕生。這是因?yàn)閮煞N戰(zhàn)爭模式存在天壤之別。

文章稱，1958年達(dá)成的不擴(kuò)散核武器條約有兩大特征決定了條約效果顯著：第一個(gè)特征就是部署核武器的準(zhǔn)備時(shí)間比較漫長，因此其他簽約國完全有時(shí)間對違約行為做出反應(yīng)，實(shí)施制裁；第二個(gè)特征就是有效核查。但是，自動武器恰恰相反。

文章稱，首先，它們的準(zhǔn)備時(shí)間非常短：現(xiàn)在已經(jīng)有了可用來制造自動武器的各種技術(shù)，并且正在公開獨(dú)立研制。比如，坦克和作戰(zhàn)飛機(jī)擁有大量傳感器和攝像頭，可記錄正在發(fā)生的一切，飛行員已經(jīng)可以通過計(jì)算機(jī)重新解讀駕駛指令，從而與所駕駛的飛機(jī)交流。只要與人工智能結(jié)合，它們立即就能變成自動武器。

隨著政府和私人實(shí)體投入的資金增加，人工智能研究正在取得越來越迅速的進(jìn)展。畢竟，人工智能機(jī)器人不需要地面訓(xùn)練。

這就導(dǎo)致很難進(jìn)行有效核查。自動武器所需的大部分技術(shù)和研究成果并不只用于自動武器。此外，自動武器發(fā)現(xiàn)人工智能的難度大大超過發(fā)現(xiàn)制造核武器的難度。人工智能機(jī)器人可在任何數(shù)據(jù)中心訓(xùn)練：畢竟，它們不僅僅是代碼和數(shù)據(jù)，而現(xiàn)如今代碼和數(shù)據(jù)可以輕而易舉不留痕跡地移動和隱藏。大部分訓(xùn)練可在任何云服務(wù)器的模擬條件下進(jìn)行，而對于外部核查人員來說，運(yùn)行這樣一套模擬程序似乎與預(yù)測明天的天氣預(yù)報(bào)完全沒有區(qū)別。

文章稱，如果不具備這兩大特征，條約就是一紙空文，毫無用處。簽約國仍然繼續(xù)公開研究通用技術(shù)，然后悄悄用于自動武器，幾乎不可能被發(fā)現(xiàn)。它們深知其他國家很可能在做同樣的事，放棄研制不是選項(xiàng)。

那么，我們該當(dāng)如何？我們不能回避責(zé)任。自動武器不可避免。自動武器的進(jìn)攻和防御用途都需要研究，我們必須發(fā)展并壯大威懾能力。不過，即使我們不能避免自動武器，我們也能防止自動武器用于平民，監(jiān)督限制使用自動武器。

文章稱，結(jié)局不會是幸福的，只能是我們?nèi)ミm應(yīng)并接受。

編輯 | 閆齊