作者：劉芳 編審：王新凱

排版：王落塵

在數(shù)據(jù)保護和人工智能技術(shù)監(jiān)管方面，歐盟一直走在立法實踐的最前端。當(dāng)?shù)貢r間 4 月 21 日，歐盟委員會公布了名為 “Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) And Amending Certain Union Legislative Acts” 的草案，對人工智能技術(shù)應(yīng)用進行了風(fēng)險評定。

根據(jù)這份草案，歐盟將全面禁止大規(guī)模監(jiān)控和利用人工智能技術(shù)的社會信用體系，同時對特定領(lǐng)域的 “高風(fēng)險” 應(yīng)用進行嚴(yán)格限制。

2020 年 2 月 19 日，歐盟委員會曾發(fā)布了名為 “White Paper on Artificial Intelligence - A European approach to excellence and trust” 的白皮書，就如何促進人工智能發(fā)展及解決相關(guān)風(fēng)險進行了討論。而 21 日發(fā)布的這項草案正是白皮書的法律延伸，目的在于為實現(xiàn)可信賴的人工智能生態(tài)系統(tǒng)提供牢固的法律框架。

一旦得到通過，這項法案將在很大程度上對其他地區(qū)的人工智能治理帶來影響，就如 2018 年 5 月 25 日生效的《歐盟一般數(shù)據(jù)保護條例》（GDPR）一樣。

歐盟競爭事務(wù)負責(zé)人 Margrethe Vestager 在公布草案時表示：“通過標(biāo)志性法規(guī)，歐盟正在確立全球規(guī)范，以確保人工智能是一項值得信賴的技術(shù)。通過制定標(biāo)準(zhǔn)，我們可以為符合倫理的人工智能技術(shù)鋪平道路，并確保歐盟在此過程中保持競爭力。”

Politico 專門負責(zé) AI 報道的 Melissa Heikkil? 則認為，這個草案有著一定的先發(fā)優(yōu)勢，它將在很大程度上影響由歐洲理事會、經(jīng)合組織、北約、聯(lián)合國教科文組織和七國集團主導(dǎo)的全球人工智能伙伴關(guān)系 (Global Partnership on Artificial Intelligence) 的探討。

被全面禁止的人工智能應(yīng)用

在草案中，歐盟委員會首先討論了什么是人工智能這個問題。

由于技術(shù)錯綜復(fù)雜，行業(yè)內(nèi)部一直沒有就這個問題給出確定的統(tǒng)一答案。歐盟委員會認為，人工智能是一大類迅速發(fā)展技術(shù)的統(tǒng)稱。對于一組人類指定目標(biāo)，這項技術(shù)可以在物理或數(shù)字維度給出包括內(nèi)容、預(yù)測、建議或決策的輸出，從而對其交互的環(huán)境產(chǎn)生影響。人工智能系統(tǒng)或自己為終端產(chǎn)品（非嵌入式），或為產(chǎn)品的一個組成部分（嵌入式）。

為了提供必要的法律確定性，歐盟委員會在草案中用附件的形式詳細列舉出了屬于人工智能范圍內(nèi)的技術(shù)清單。不僅如此，該清單還會不斷更新，從而和最前沿的人工智能技術(shù)保持同步性。換言之，人工智能的定義在這項草案里具有靈活性和時效性，巧妙化解了法律滯后性和技術(shù)飛速發(fā)展之間的矛盾，為之后行業(yè)的合規(guī)帶來了便利。

草案將人工智能應(yīng)用分為了完全不可接受風(fēng)險、高風(fēng)險和低風(fēng)險等不同等級，其中有三種應(yīng)用被完全禁止。

第一種是在不知不覺中對人類意識進行操控，從而影響其決定或扭曲其行為，進而對人類造成身體或心理的傷害。有觀察家認為，這項條例可以讓人聯(lián)想到 Facebook、Twitter、谷歌和亞馬遜的大部分商業(yè)模式，及虛假信息和極端主義等推薦算法。雖然沒有明確指出條例所針對的對象，但歐盟委員會是世界上首個以法律語言禁止人工智能系統(tǒng) “操控” 人類思想的機構(gòu)。

第二種情況是利用兒童或殘疾人的脆弱性對其造成傷害，這顯示了歐盟一貫的對弱勢群體的重視和保護。

第三項則是基于人工智能系統(tǒng)上的社會信用體系。歐盟委員會認為，公共當(dāng)局根據(jù)自然人的社會行為或人格特征對其進行信用評估會造成不可預(yù)見的后果，個人或特定群體的權(quán)益將受到損害。不同的社會語境會產(chǎn)生不同的算法偏見，而算法偏見將直接對信用評估產(chǎn)生影響。這樣的社會信用體系侵蝕社會公平公正的原則，因此需要被禁止。

對于很多人關(guān)注的面部識別技術(shù)，歐盟委員會在這份草案中留出了余地。作為 “實時遠程生物識別技術(shù)” 的一種，面部識別在很大程度上侵犯了人們的隱私。因此，無差別的大規(guī)模監(jiān)控會被歐盟全面禁止，只有在三種特定情況下除外：尋找失蹤兒童；解除恐怖襲擊的威脅；以及在法律允許范圍內(nèi)追查特定的刑事犯罪嫌疑人。

“實時遠程生物識別技術(shù)” 是這次歐盟委員會著重強調(diào)進行限制的人工智能技術(shù)，它特指在沒有顯著延遲的情況下對個體生物數(shù)據(jù)的捕獲、比較和識別。這項技術(shù)的特點是將人的生物數(shù)據(jù)與數(shù)據(jù)庫進行比較，并且事先并不確定目標(biāo)人物是否會出現(xiàn)。值得注意的是，在歐盟議會內(nèi)部有強烈的全面禁止這項技術(shù)的聲音。上周，40 名歐盟議會議員曾聯(lián)名上書，批評該草案對 “實時遠程生物識別” 技術(shù)網(wǎng)開一面。 

高風(fēng)險應(yīng)用場景

除了以上被全面禁止的情況外，歐盟委員會還詳細列舉了人工智能的 “高風(fēng)險” 應(yīng)用。草案稱，高風(fēng)險的人工智能系統(tǒng)只有在符合歐盟強制性要求的情況下才能投入市場使用，否則公共利益會受到不可接受的風(fēng)險。換言之，未來不符合準(zhǔn)入標(biāo)準(zhǔn)的人工智能系統(tǒng)將被無情地擋在歐盟市場之外。

首先是執(zhí)法系統(tǒng)和法院對人工智能的使用。草案稱，執(zhí)法當(dāng)局使用人工智能系統(tǒng)會導(dǎo)致權(quán)力嚴(yán)重失衡，侵犯個人基本權(quán)益。如果訓(xùn)練這些算法的數(shù)據(jù)質(zhì)量不高，或算法的準(zhǔn)確性及魯棒性沒有達到要求，那么程序性正義，公平審判權(quán)，辯護權(quán)和無罪推定的權(quán)利就會受到?jīng)_擊。歐盟委員會尤其將個人風(fēng)險評估、測謊儀、辨別情緒等應(yīng)用歸為高風(fēng)險。在刑事訴訟中，基于人工智能技術(shù)對證據(jù)進行可靠性評估，對嫌疑人的性格特征進行判斷，或基于過去的犯罪行為進行推定等行為同樣被歸為高風(fēng)險范圍。

其他的高風(fēng)險應(yīng)用場景主要集中在社會保障、就業(yè)和教育等與生活息息相關(guān)的方面。在就業(yè)方面，歐盟委員會考慮到了人工智能在招聘、升職、解雇及合同關(guān)系中可能扮演的重要角色。草案認為，利用算法對工作人員進行評估或監(jiān)測無疑屬于高風(fēng)險，因為它們對員工的職業(yè)前景和基本生計有著難以把控的影響。同時因為算法偏見，人工智能對婦女、殘疾人或年齡的歧視也將繼續(xù)，人們的隱私權(quán)將不可避免地受到威脅。

在教育方面，歐盟委員會認為利用算法進行招生錄取及考試評定必須被視為高風(fēng)險，因為這很可能會影響他們這一生受教育的機會，還將產(chǎn)生社會固化的問題。在社會保障系統(tǒng)方面，歐盟委員會認為人工智能參與決策過程將對民生產(chǎn)生重大影響。例如，利用人工智能決定人們是否能獲得銀行貸款、財政補助、保障性住房、電力電信等基本服務(wù)。由于種族、殘疾、年齡、性取向等各種因素，算法很可能會延續(xù)目前社會已經(jīng)存在的廣泛歧視，從而使弱勢群體處于更加不利的地位。

草案中對于高風(fēng)險人工智能的合規(guī)要求招來了一些歐盟組織的反對。雖然歐盟將通過質(zhì)量管理和評估程序嚴(yán)格管控，但一些人工智能技術(shù)供應(yīng)商將被允許進行自我合規(guī)測評。數(shù)字權(quán)利組織 EDRi 的高級政策顧問 Sarah Chander 對 Politico 表示：“歐盟委員會將合規(guī)交給了人工智能供應(yīng)商，這可能會損害（人們的）基本權(quán)利，甚至可能讓公共當(dāng)局逍遙法外。” 

對此某些科技行業(yè)的游說人士則感到寬慰，他們對高風(fēng)險應(yīng)用的合規(guī)要求表示稱贊。計算機與通信行業(yè)協(xié)會（Computer & Communications Industry Association）的 Christian Borggreen 對法新社指出，歐盟委員會采用了基于風(fēng)險的評估方法，這很好。該協(xié)會代表了包括亞馬遜、Facebook 和谷歌在內(nèi)的多家科技巨頭。違反此法案的公司可能被處于 2000 萬歐元或公司收入 4% 的罰款，與此前的反壟斷法規(guī)定類似。

隨著草案的出臺，關(guān)于數(shù)據(jù)主體基本權(quán)利與技術(shù)創(chuàng)新間關(guān)系的新一輪爭論也將隨之拉開序幕。要想獲得通過，這項法案必須得到代表歐盟 27 國政府的歐洲理事會和直接選舉產(chǎn)生的歐洲議會的批準(zhǔn)，整個過程可能需要數(shù)年時間。去年年底，以丹麥為首的 14 個國家發(fā)表了一份不具約束力的文件，呼吁建立一個更 “靈活” 的法律框架。但對于德國這樣更注重隱私的國家來說，這項草案的規(guī)定明顯還不夠深入。

人工智能技術(shù)的日新月異與歐盟繁瑣復(fù)雜的立法機制形成了鮮明的對比。但無論如何，人類已經(jīng)就人工智能的系統(tǒng)性風(fēng)險已經(jīng)展開了實質(zhì)性的立法規(guī)劃。從這個意義上來看，歐盟再次在法治戰(zhàn)略上搶得先機。

參考資料：

https://digital-strategy.ec./en/library/proposal-regulation-european-approach-artificial-intelligence

https://www./

https://www./newsletter/ai-decoded/politico-ai-decoded-key-battles-for-the-eus-ai-law-ai-governance-twitters-algorithm/ 

https://news.yahoo.com/eu-unveils-ai-rules-temper-041250924.html

https://www./2021/04/16/business/artificial-intelligence-regulation.html