著名科幻作家阿西莫夫在其作品中為機器人制定了三大法則，已經(jīng)超越科幻成為人們心目中機器人應該遵守的不二法則。隨著人工智能的迅猛發(fā)展，機器在未來幾十年內(nèi)可能會達到人類的智能水平，已被許多科學家認為是不可避免的趨勢。一旦達到這一點，機器人就可以改造自己，并創(chuàng)建其它同類，甚至制造出被稱為超級智能的更強大AI。如何確保機器人為人類利益服務，而不是像電影《終結者》里一樣，將人類文明終結，已經(jīng)不再是科幻作品里的紙上談兵，而是必須納入議事日程的重要課題。

2017年1月，在加利福尼亞州阿西洛馬舉行的Beneficial AI會議上，特斯拉CEO埃隆·馬斯克、DeepMind創(chuàng)始人戴米斯·哈薩比斯以及近千名人工智能和機器人領域的專家，聯(lián)合簽署了阿西洛馬人工智能23條原則，呼吁全世界在發(fā)展人工智能的同時嚴格遵守這些原則，共同保障人類未來的利益和安全。著名物理學家霍金和馬斯克在本周公開聲明支持這一系列原則，以確保擁有自主意識的機器保持安全，并以人類的最佳利益行事。

阿西洛馬AI原則分為三大類23條。第一類為科研問題，共5條，包括研究目標、經(jīng)費、政策、文化及競爭等；第二類為倫理價值，共13條，包括AI開發(fā)中的安全、責任、價值觀等；第三類為長期問題，共5條，旨在應對AI造成的災難性風險。

對比阿西莫夫的機器人三大法則：第一法則，機器人不得傷害人類，或因不作為使人類受到傷害；第二法則，除非違背第一法則，機器人必須服從人類的命令；第三法則，在不違背第一及第二法則下，機器人必須保護自己。我們可以發(fā)現(xiàn)，雖然阿西洛馬AI23原則沒有阿西莫夫機器人三原則簡潔明了，但它是人類進入人工智能時代的重要宣言，是指導人類開發(fā)安全AI的重要指南，受到了AI行業(yè)的廣泛支持。

但危機仍然存在，未來仍不確定，馬斯克在會議發(fā)言中說，我們正在走向超級智能，也有可能終結人類文明。當計算機開始自己做決定，我們?nèi)绾尾拍艽_保它們與人類的價值觀相一致？此前我們已經(jīng)看到了機器在學習中的偏見，微軟的聊天機器人chatbot曾發(fā)表種族言論，特斯拉的汽車AI造成致命事故。墨菲定律說，任何一個事件，只要具有大于零的概率，它就必定會發(fā)生。我們或許也可以說，一個受控制的系統(tǒng)，不管如何控制，最后終會崩潰。人工智能會是這樣嗎？天網(wǎng)已經(jīng)啟動了嗎？文明終將面臨最后的裁決，勝，則榮，敗，則滅！在卡達爾肖夫的宇宙文明等級理論中，人類一旦發(fā)展到II類文明，就沒有任何災難能造成文明的滅絕，希望我們可以通過阿西洛馬AI23原則，迎來人類文明發(fā)展的終極勝利。

阿西洛馬人工智能原則原文：https:///ai-principles/