指導(dǎo)人工智能治理：全面看待國家戰(zhàn)略

人工智能（AI）是國際關(guān)系中爭論不休的新領(lǐng)域，籠罩在失去技術(shù)控制和人為監(jiān)督的不確定性中。俄羅斯總統(tǒng)弗拉基米爾·普京在2017年曾說過一句名言：“誰成為這一領(lǐng)域的領(lǐng)導(dǎo)者，誰就是世界的統(tǒng)治者?！弊源舜罅康墓才c私人參與者發(fā)表了關(guān)于人工智能將如何讓社會變得更好或更壞的聲明，強(qiáng)調(diào)了基礎(chǔ)設(shè)施發(fā)展、軍事應(yīng)用以及對就業(yè)和人際關(guān)系的影響。公眾越來越認(rèn)識到基于算法處理和機(jī)器學(xué)習(xí)的工具所帶來的承諾與騷動一樣多，政府所承受的壓力與日俱增，要求它們?yōu)楣窀ｌ砗虯I存在的理由做出回應(yīng)。截至2020年，全球已有30多個國家開始討論設(shè)計國家的人工智能戰(zhàn)略，其中17個國家已經(jīng)在實施這些戰(zhàn)略。

隨著關(guān)注從技術(shù)視角轉(zhuǎn)向社會轉(zhuǎn)型的趨勢開始鞏固，治理方法開始受到密切關(guān)注。迄今為止，在學(xué)術(shù)和政策著作中，對倫理的關(guān)注蓋過了對實施監(jiān)管的興趣。本文通過探索以下問題解決這一差距：國家是如何選擇設(shè)計人工智能治理戰(zhàn)略的？通過混合的視角，本文基于對12個國家戰(zhàn)略的定性比較分析，提供了關(guān)于人工智能治理的連續(xù)性和變革的論述，它們嵌入并揭示了扶持新市場、規(guī)范新興技術(shù)以及與非國家行為者合作的主流方法。本文認(rèn)為國家戰(zhàn)略中概述的優(yōu)先事項構(gòu)成了監(jiān)管配置以及決策中角色和責(zé)任的職能分配的基礎(chǔ)，起草過程和確定的國家優(yōu)先事項，反映了多種制度邏輯在多大程度上對人工智能的混合治理方法產(chǎn)生影響。

在1956年的達(dá)特茅斯學(xué)院研討會上，人工智能被首次確立為一個研究領(lǐng)域，這之后對機(jī)器智能和機(jī)器人的非定向研究獲得了美日英政府的資助；然而自70年代初由于缺乏具體成果和應(yīng)用，公共資金被撤回后，私營部門開始在從工業(yè)機(jī)器人到數(shù)據(jù)挖掘等廣泛領(lǐng)域的人工智能研究和應(yīng)用中發(fā)揮主導(dǎo)作用。國家的撤退從資助相關(guān)研究到定義市場限制，但這并不意味著公眾支持的完全撤出，大學(xué)和政府資助的項目繼續(xù)就這一主題進(jìn)行相關(guān)研究。隨著人工智能的應(yīng)用越來越廣泛，它獲得了更多的支持，各國對人工智能發(fā)展日益增長的興趣集中在控制新技術(shù)的負(fù)面影響和意外后果的需要上，特別是它們對加劇不平等的影響，而公眾擔(dān)憂其可能被設(shè)計成為若干權(quán)力中心的意識形態(tài)和利益服務(wù)，導(dǎo)致地緣政治緊張局勢和新的“強(qiáng)國之間的逐底競爭”。

雖然自我監(jiān)管一直是全球?qū)用鎸θ斯ぶ悄苻D(zhuǎn)型的主要回應(yīng)，但自2016年以來區(qū)域和國家層面的監(jiān)管討論和戰(zhàn)略方法已獲得重視。與這些努力相輔相成的是監(jiān)管人工智能驅(qū)動的具體方法，并根據(jù)隱私和數(shù)據(jù)保護(hù)條款塑造該領(lǐng)域的發(fā)展。通過拼湊的立法，該領(lǐng)域的“國家的回歸”趨勢變得更加明顯，但只是以碎片化的方式，需要更廣泛的治理框架來重構(gòu)公共與私營部門之間的基本關(guān)系。在這方面國家戰(zhàn)略更清晰地揭示了在公共領(lǐng)域管理人工智能方法的創(chuàng)新和局限性。

擁有科技行業(yè)巨頭的國家已經(jīng)率先行動起來，雄心勃勃地希望在未來十年內(nèi)主導(dǎo)全球人工智能發(fā)展，而許多其他國家特別是發(fā)展中國家，仍在討論其國家優(yōu)先事項和未來框架。2017年3月，加拿大率先發(fā)布了全面的國家人工智能戰(zhàn)略，但韓國作為第一個發(fā)布針對特定行業(yè)戰(zhàn)略的國家，比它早了一年。各國目前還沒有對該領(lǐng)域的相關(guān)創(chuàng)新施加嚴(yán)格限制，但不意味著它們一直是被動參與者，通常情況下它們資助的基礎(chǔ)研究推動企業(yè)使用的進(jìn)步，近年來各國政府也開始采用這一技術(shù)改革政府，這些舉措反映了新興技術(shù)治理中更為復(fù)雜和深刻的變化，而無論是“國家的撤退”還是“國家的回歸”論點都不能充分捕捉到這些變化。

本文將治理理解為不同機(jī)構(gòu)和行為者之間有模式和有序互動的過程，可以審查體制安排，并將治理范圍內(nèi)的責(zé)任分開。在公共和私人行為者高度互動的情況下，混合性理論對于揭示不確定情況下的相互依賴關(guān)系特別有用，它為治理參與者之間的互動和重疊提供了更細(xì)致入微的概念化，揭示了獲得新制度形式的利益、角色和共同理解?；旌闲允恰胺翘乩灰欢ㄊ瞧毡榘l(fā)生的事件”，使用制度邏輯方法可以更好地解釋這一點，該方法將規(guī)范框架和組織實施方式聯(lián)系起來。每個社會的組織原則、物質(zhì)實踐和意識形態(tài)建構(gòu)構(gòu)成了制度邏輯的基礎(chǔ)，有影響力的等級、市場和網(wǎng)絡(luò)三部曲常被用來區(qū)分新的治理模式，在理想形式中，后者對應(yīng)于公共利益、營利性驅(qū)動和目標(biāo)的混合三種操作邏輯。混合治理所依據(jù)的多元邏輯在兩方面改變公共行為者與私人行為者的關(guān)系：首先，談判空間及其身份變得相互依賴；其次，機(jī)構(gòu)本身在面臨眾多制度邏輯時會發(fā)生變化，影響關(guān)鍵參與者和相關(guān)問責(zé)框架的定位。

將這一理論應(yīng)用于人工智能治理需要檢查混合性的兩個維度。第一個維度需要確定混合在什么階段出現(xiàn)，以及它是否代表了人工智能治理系統(tǒng)的一種新屬性，影響未來的政策方向。第二個維度是重新定義混合治理中參與者的角色和身份，以回應(yīng)對混合理論的批評之一，這一批評指出該理論需要更好的規(guī)范。公共和私人之間模糊的邊界可能會導(dǎo)致新的機(jī)構(gòu)和重新定義的職能。

隨著越來越多的國家定義其應(yīng)對人工智能挑戰(zhàn)的方法，它們開始在國家各個層面發(fā)布了戰(zhàn)略文件，囊括了關(guān)鍵參與者的愿景。這種對國家戰(zhàn)略的探索性分析評估了混合治理的實例，重點關(guān)注制度動態(tài)以及對參與者角色和身份的重新定義。本文的分析僅限于政府戰(zhàn)略或最終形式的國家計劃，無論其有無承諾的資源，因為這些文件往往措辭謹(jǐn)慎，適合定性內(nèi)容分析。在迄今為止發(fā)布的國家戰(zhàn)略中，一般分為一般性指導(dǎo)文件和具有明確優(yōu)先事項和附加資金的指令性計劃。本文采用兩步法來選擇后者的案例及具體的分析維度，僅保留專門針對這一領(lǐng)域的戰(zhàn)略，而非將人工智能與其他數(shù)字技術(shù)并列。

在選擇進(jìn)行分析的國家組中，首先區(qū)分將戰(zhàn)略作為產(chǎn)業(yè)政策指導(dǎo)的國家和采用綜合社會政治和經(jīng)濟(jì)激勵措施的國家，最后保留了12份國家文件進(jìn)行分析。第二步，將所選策略納入對感興趣維度的定性內(nèi)容分析，通過關(guān)鍵字進(jìn)行的初始搜索指向所分析文件中的相關(guān)章節(jié)，包括“公共”、“當(dāng)局”、“國家”、“機(jī)構(gòu)”、“政府”、“公共利益”、“私營部門”、“企業(yè)”、“行業(yè)”、“角色”、“責(zé)任”、“政策”等。然而僅有關(guān)鍵字是不夠的，對被調(diào)查維度的引用通常分布在文件的序言和行動要點之間，需要對上下文進(jìn)行深入分析以理解特定的表述和細(xì)微差別。

表1 分析中包含的國家戰(zhàn)略

本文分析的國家人工智能戰(zhàn)略反映了政府在相對較短的時間內(nèi)完成的權(quán)威優(yōu)先事項、方向和資源分配，然而從人工智能發(fā)展的部門愿景到成熟的產(chǎn)業(yè)戰(zhàn)略和全面的政府方法，它們的范圍和長度各不相同。在起草過程中，人工智能戰(zhàn)略早期采用者與國家在設(shè)計過程中的第一個差距在于，第一批往往是人工智能領(lǐng)導(dǎo)者和發(fā)達(dá)國家，而不是發(fā)展中國家。雖然本文分析的大多數(shù)國家都認(rèn)識到國際合作的必要性，但通常情況下都是與技術(shù)更先進(jìn)的國家進(jìn)行交流，很少提及與發(fā)展中國家的關(guān)系。德國是一個例外，其國家戰(zhàn)略的行動重點是“在經(jīng)濟(jì)合作的背景下，在發(fā)展中國家建立關(guān)于人工智能的能力和知識，以便利用當(dāng)?shù)氐慕?jīng)濟(jì)和社會機(jī)會?！?strong style="box-sizing: border-box;">第二個局限性體現(xiàn)在盡管編寫國家戰(zhàn)略所采用的的方法多種多樣，在許多情況下并未獲得廣泛共識：一些國家主持長期的部門磋商，另一些國家則將制定戰(zhàn)略委托給個人（如法國）或?qū)＜医M（如芬蘭）。

在起草過程中為企業(yè)分配主導(dǎo)地位的一個重要后果是從一開始就嵌入了混合性，沒有明確假設(shè)公共部門和私營部門之間的權(quán)力平衡。隨后，作為公共治理舉措的一部分，在監(jiān)督發(fā)展過程中行業(yè)代表繼續(xù)發(fā)揮重要作用，通常至少占機(jī)構(gòu)成員的三分之一。新興技術(shù)專業(yè)知識持續(xù)集中在私人手中，這是對推動人工智能創(chuàng)新的公司更先進(jìn)的商業(yè)戰(zhàn)略的補(bǔ)充，總體上鞏固了它們圍繞（數(shù)字）力量兩極的地位。在國際專利申請方面，中國在2018年僅次于美國，這兩個國家的少數(shù)幾家科技公司也擁有最大的人工智能研究投資，并在開發(fā)標(biāo)準(zhǔn)的行業(yè)機(jī)構(gòu)中占有一席之地。

分析中的大部分國家都采用了一種以人工智能發(fā)展為中心的協(xié)調(diào)方法，總是有多種制度邏輯在起作用，并且很多時候都是有意設(shè)計的。行業(yè)代表在專家討論和人工智能工作組中的大力參與揭露了長期存在的功能不確定性，不同行為體通過正式和非正式規(guī)則對彼此決策的相互影響，也體現(xiàn)了混合結(jié)構(gòu)中存在的多元和非等級治理概念的特點。

查看這些戰(zhàn)略中缺少的內(nèi)容同樣重要：從起草過程如何進(jìn)行的具體細(xì)節(jié)到人工智能的軍事和監(jiān)視用途。盡管新興技術(shù)與國家安全相關(guān)，但只有少數(shù)國家（中國、法國和美國）提及該領(lǐng)域的軍事利益。雖然許多戰(zhàn)略都對國家角色的變化進(jìn)行了詳盡但有選擇性的討論，但僅有少數(shù)戰(zhàn)略對公共利益和私人利益之間的區(qū)別提出了質(zhì)疑（芬蘭、日本和韓國）。在本文分析的案例中，政府為自己設(shè)想了多樣的角色，例如引領(lǐng)全球人工智能發(fā)展（中國、英國、美國），確保技術(shù)主權(quán)（德國），監(jiān)督人工智能應(yīng)用的過程（芬蘭、法國），糾正最弱勢群體的市場失靈（韓國），或成為先進(jìn)技術(shù)的第一買家（阿聯(lián)酋）。然而，所有戰(zhàn)略對于使他們能夠發(fā)揮這些作用的具體措施仍然含糊不清。

對這里提出的混合論點至關(guān)重要的是，公共和營利性部門的立場和利益在所分析的國家文件中似乎沒有明確界定，顯示出高度的功能不確定性。大多數(shù)政府似乎沒有采取監(jiān)管或提出一致的國家干預(yù)方向，而是通過反思方向來思考所需的改變。12項國家戰(zhàn)略沒有建立以規(guī)則為基礎(chǔ)的制度，而是采用并優(yōu)先考慮了道德導(dǎo)向，分析的所有文件（除了中國和美國的戰(zhàn)略）都強(qiáng)調(diào)設(shè)計倫理原則和指導(dǎo)規(guī)范方向的發(fā)展。雖然規(guī)則和道德方向并不矛盾且可能會共存，但它們代表了建立在不同價值觀和信任體系基礎(chǔ)上的監(jiān)管制度。

大多數(shù)國家都設(shè)想建立專門的人工智能委員會或數(shù)據(jù)委員會來監(jiān)控人工智能的采用和實施過程，推動人工智能政策任務(wù)的監(jiān)督機(jī)構(gòu)或人工智能委員會通常由學(xué)術(shù)界和私營部門的代表主導(dǎo)?？傮w而言，非政府組織和權(quán)利團(tuán)體的代表性并不相同，人工智能戰(zhàn)略很少將這些技術(shù)的最終用戶作為政策對話的特定群體。在設(shè)計它們時，混合性導(dǎo)致了一種共同的視野方法，因為相互性和相互依賴不斷增加，市場和國家的行動不再能被解綁，這可能更接近私營部門的邏輯。

在國家戰(zhàn)略中可以確定關(guān)于人工智能治理制度化的多種方法。在少數(shù)情況下（中國、日本、法國、美國），現(xiàn)有部委被要求推動和協(xié)調(diào)跨部門工作，職責(zé)范圍通常是它們所涵蓋的領(lǐng)域。更注重卓越研究的各國政府將注意力轉(zhuǎn)向即將建立的新機(jī)構(gòu)和研究方案。除這些結(jié)構(gòu)外，許多國家戰(zhàn)略以定義松散的專家組（稱為“獨立的”或“多方利益攸關(guān)方”）的形式引入正式的政策投入，其最終組成一般在文件發(fā)表時尚未確定。他們參與設(shè)計使用人工智能數(shù)據(jù)的倫理原則，并在人工智能相關(guān)優(yōu)先事項上向政府提供更廣泛的指導(dǎo)。

這些新設(shè)立的機(jī)構(gòu)是對新技術(shù)所蘊(yùn)含的不確定性的制度性回應(yīng)，因為它們的職權(quán)沒有明確規(guī)定，且仍然取決于選定的成員。因此公共和私營部門角色的重新定義出現(xiàn)了新的轉(zhuǎn)變，在將人工智能治理納入現(xiàn)有部委的職權(quán)范圍、設(shè)立新的職能和提出職責(zé)模糊的新機(jī)構(gòu)之間搖擺不定。大多數(shù)情況下這些解決方案被組合在一起，形成了人工智能領(lǐng)域日益復(fù)雜的配置。目前國家戰(zhàn)略中缺少的是明確說明由誰制定規(guī)則以及規(guī)則的持續(xù)時間，在這種背景下問責(zé)制框架仍然難以建立。

作為部署在日常服務(wù)中的通用技術(shù)，人工智能需要國家和國際治理體系。在本文分析的國家戰(zhàn)略中，將政治意愿、公共資源與行業(yè)利益結(jié)合起來似乎是人工智能政策制定的首選配方，公共利益政策與市場主導(dǎo)利益分開變得越來越困難，這是混合治理體系中多元邏輯的一大特征。新的咨詢機(jī)構(gòu)的出現(xiàn)，可能會導(dǎo)致人們更多地接受功能不確定性作為人工智能治理的主流做法。值得注意的是，各國政府和行業(yè)的利益在國家層面是緊密結(jié)合的。強(qiáng)烈的市場創(chuàng)造導(dǎo)向、公共和私營部門角色的模糊定義以及道德準(zhǔn)則的優(yōu)先次序表明，混合治理體系既是政府的意圖，也是人工智能快速發(fā)展的結(jié)果。未來的研究需要擴(kuò)展新興人工智能秩序的影響，捕捉其早期設(shè)計如何在（數(shù)字）權(quán)力分配中發(fā)揮作用，特別在私人標(biāo)準(zhǔn)和國際議程層面。在創(chuàng)新方面，技術(shù)先進(jìn)的國家正在設(shè)定標(biāo)準(zhǔn)，在這種背景下，需要在不久的將來對發(fā)展中國家的人工智能戰(zhàn)略進(jìn)行分析。

審校 | 肖龍 趙怡雯

排版 | 任航奇 趙梓煦