遠(yuǎn)望智庫(kù)技術(shù)預(yù)警中心 蘭順正

在人類科幻史上，阿西莫夫創(chuàng)立的“機(jī)器人三定律”十分的有名，而在現(xiàn)實(shí)中，類似的條文似乎已經(jīng)出現(xiàn)了。

據(jù)美國(guó)科技網(wǎng)站The Verge的報(bào)道，經(jīng)過(guò)52名專家的商討，歐盟委員會(huì)于4月8日發(fā)布了人工智能道德準(zhǔn)則。

該準(zhǔn)則對(duì)未來(lái)人工智能的發(fā)展提出7個(gè)要求：

該準(zhǔn)則對(duì)于未來(lái)規(guī)范人工智能的發(fā)展能夠起到多大實(shí)質(zhì)性作用現(xiàn)在還有待觀察，不過(guò)歐盟《準(zhǔn)則》的問(wèn)世對(duì)于人工智能研究確實(shí)具有重大的意義。

首先，《準(zhǔn)則》的內(nèi)容再次引發(fā)了世人對(duì)于人工智能倫理問(wèn)題的重視。自從人工智能誕生以來(lái)，隨著技術(shù)的進(jìn)步已經(jīng)得到了越來(lái)越廣泛的應(yīng)用，隨之而來(lái)就是相關(guān)倫理問(wèn)題的爭(zhēng)論。如在戰(zhàn)場(chǎng)上，人工智能要是被授予了“自由開火權(quán)”，會(huì)不會(huì)將人命當(dāng)做兒戲，自作主張，濫殺無(wú)辜，將戰(zhàn)爭(zhēng)變成一場(chǎng)場(chǎng)無(wú)法“Restart”的游戲。又或者，有朝一日人工智能通過(guò)不斷的學(xué)習(xí)，其“心智”水平越來(lái)越高，有可能萌生脫離人類控制、獨(dú)立自主的傾向，再往后會(huì)與人類發(fā)生沖突甚至奴役或者滅絕人類。在各類科幻大片中，人工智能造反一直是經(jīng)久不衰的主題。

而巧合的是，機(jī)器人的英文單詞是“Robot”，最早由捷克作家卡雷爾·恰佩克在其科幻作品中首創(chuàng)，原意是“農(nóng)奴式被強(qiáng)迫的勞動(dòng)者”，并借此稱呼那些可能會(huì)造反的機(jī)器仆人。為了防止機(jī)器人“以奴欺主”，科幻大師阿西莫夫構(gòu)想了著名的“機(jī)器人三定律”，即：機(jī)器人不得傷害人類個(gè)體，或者目睹人類個(gè)體將遭受危險(xiǎn)而袖手不管；機(jī)器人必須服從人給予它的命令，當(dāng)該命令與第一定律沖突時(shí)例外；機(jī)器人在不違反第一、第二定律的情況下要盡可能保護(hù)自己的生存。稍作對(duì)比不難發(fā)現(xiàn)，在此次歐盟頒布的《準(zhǔn)則》的第1、第4和第2條分別與“機(jī)器人三定律”有相通之處，都是提倡“以人為本”，在原則上對(duì)相關(guān)倫理問(wèn)題做出了規(guī)定，以盡可能防止人工智能傷害人類。由于歐盟此舉領(lǐng)先于全世界，因此堪稱是人工智能發(fā)展史上一個(gè)重要節(jié)點(diǎn)，也會(huì)為其他國(guó)家或組織制定和出臺(tái)相關(guān)規(guī)定提供參照和依據(jù)。

同時(shí)，歐盟制定《準(zhǔn)則》的行為本身也說(shuō)明人工智能技術(shù)對(duì)于國(guó)際關(guān)系的影響已經(jīng)不容忽視了。國(guó)內(nèi)早就有學(xué)者指出，人工智能技術(shù)的發(fā)展將引發(fā)國(guó)際格局的變化，正如核技術(shù)的出現(xiàn)改變了現(xiàn)代世界的政治面貌一樣。

一方面在經(jīng)濟(jì)領(lǐng)域，人工智能可以成為新的虛擬勞動(dòng)力，并補(bǔ)充和提高現(xiàn)有勞動(dòng)力和實(shí)物資本的技術(shù)與能力，而且還能推動(dòng)創(chuàng)新、推進(jìn)結(jié)構(gòu)轉(zhuǎn)型。據(jù)統(tǒng)計(jì)，截至2018年初，中國(guó)人工智能核心產(chǎn)業(yè)規(guī)模達(dá)到180億元，帶動(dòng)相關(guān)產(chǎn)業(yè)規(guī)模達(dá)到2200億元。根據(jù)預(yù)測(cè)，到2030年人工智能將為全球GDP帶來(lái)14%的增長(zhǎng)空間，即15.7萬(wàn)億美元的市場(chǎng)規(guī)模，其中中國(guó)的GDP增長(zhǎng)規(guī)模為26%，北美的GDP增長(zhǎng)規(guī)模為14%，為全球受到人工智能帶動(dòng)效應(yīng)最大的地區(qū)。

另一方面在國(guó)防領(lǐng)域，人工智能對(duì)國(guó)家軍事力量影響早已不言而喻。隨著人工智能技術(shù)推廣，智能化武器的廣泛應(yīng)用將成為可能。深度學(xué)習(xí)算法可以使智能化武器在虛擬環(huán)境中建立武器操控的基本能力，并且借助人工智能系統(tǒng)進(jìn)行智能化武器的協(xié)調(diào)行動(dòng)，最大限度地獲得戰(zhàn)場(chǎng)優(yōu)勢(shì)。智能化武器系統(tǒng)不僅能夠使人與武器實(shí)現(xiàn)實(shí)質(zhì)性分離，使實(shí)際傷亡率無(wú)限趨近于0，而且沒(méi)有了感情用事，武器的使用效率和不同武器之間的協(xié)作也將大大提升。如在敘利亞戰(zhàn)場(chǎng)上，俄軍機(jī)器人部隊(duì)已經(jīng)首開了戰(zhàn)例。未來(lái)，具備人工智能的“無(wú)人軍團(tuán)”必將成為大國(guó)的“標(biāo)配”，進(jìn)一步拉大國(guó)與國(guó)之間的軍力差距，甚至出現(xiàn)單方面“碾壓”。

很明顯，對(duì)經(jīng)濟(jì)和安全產(chǎn)生重大影響的人工智能技術(shù)將成為未來(lái)國(guó)際關(guān)系中的重要因素之一。無(wú)怪乎今年2月11日美國(guó)總統(tǒng)特朗普簽署了一項(xiàng)行政命令，要求聯(lián)邦政府機(jī)構(gòu)將更多資源和資金投入到人工智能的研究、推廣和培訓(xùn)中，這無(wú)異于拉開了人工智能領(lǐng)域大國(guó)競(jìng)爭(zhēng)的大幕。而對(duì)于此次歐盟出臺(tái)《準(zhǔn)則》的背后意圖，有分析認(rèn)為，由于歐盟在投資和前沿研究方面，已經(jīng)無(wú)法與美國(guó)和中國(guó)一爭(zhēng)高下，因此它才迫不得已選擇了倫理作為塑造技術(shù)未來(lái)的最佳選擇。所以也可以說(shuō)歐盟是希望通過(guò)搶占人工智能“道德高地”，以此在國(guó)際社會(huì)爭(zhēng)取更多話語(yǔ)權(quán)，這也從另一個(gè)角度彰顯了人工智能對(duì)于一個(gè)國(guó)家國(guó)際地位的影響力。