無人駕駛，法律你準(zhǔn)備好了嗎？

作者：Ryan Calo，民法教授，華盛頓大學(xué)法學(xué)副教授，研究自動(dòng)駕駛汽車近10年。

來源：https://cacm.

編譯：plus評(píng)論員 張濤

雖然文章的標(biāo)題是“無人駕駛，法律你準(zhǔn)備好了嗎”，但我仍然認(rèn)為美國(guó)法律已經(jīng)決定了要接納自動(dòng)駕駛汽車。法院幾百年來不斷遭遇各種新技術(shù)的出現(xiàn)，而法院也必須對(duì)這些新技術(shù)產(chǎn)生的法律問題做出決定。未來法庭可能必須要面對(duì)的一個(gè)問題就是當(dāng)自動(dòng)駕駛汽車或自動(dòng)駕駛系統(tǒng)普及以后，如何解決各種當(dāng)前無法預(yù)見的傷害？

我們可以設(shè)想自動(dòng)駕駛汽車被廣泛使用的場(chǎng)景，自動(dòng)駕駛比人類駕駛更加安全，人們可以在車輛行駛的過程中看電影、發(fā)郵件。法庭雖然很容易地決定誰應(yīng)當(dāng)對(duì)偶然發(fā)生無人駕駛汽車事故負(fù)責(zé)，但一些權(quán)威人士和法律界人士對(duì)此頗為不滿。當(dāng)有人創(chuàng)造出一個(gè)能夠讓人們安全地運(yùn)動(dòng)的產(chǎn)品時(shí)，法官就會(huì)把這種責(zé)任分配給事故汽車制造商。也會(huì)有一些比較難判斷和決定的案例。政策的制定者必須在無人駕駛汽車上路前給出無人駕駛汽車上路的安全要求。

未來可能會(huì)出現(xiàn)這樣的場(chǎng)景，人類和自動(dòng)駕駛系統(tǒng)都可以參與但未參與的情況下，法院又將必須確定責(zé)任劃分，這將陷入一個(gè)困境。如果法院發(fā)現(xiàn)有人類司機(jī)可以承擔(dān)責(zé)任，也會(huì)避免機(jī)器去擔(dān)責(zé)。另一方面，也要限制和防止公司將責(zé)任轉(zhuǎn)嫁到車主身上，因?yàn)楣緯?huì)要求車主點(diǎn)擊同意服務(wù)條款協(xié)議。

在去年致命的特斯拉撞車事故中，死者司機(jī)承擔(dān)了使用自動(dòng)駕駛的風(fēng)險(xiǎn)。今年，一輛Uber的無人駕駛汽車撞死了行人，但行人不該承擔(dān)這樣的責(zé)任。然而在一個(gè)新技術(shù)的時(shí)代里，傳統(tǒng)法律亟需解決這些棘手的新問題。Uber會(huì)對(duì)被撞者家屬進(jìn)行賠償，否則法院將出面解決。

對(duì)于自動(dòng)駕駛，面臨的另一個(gè)問題可能就是“新電車難題”，自動(dòng)駕駛汽車將必須做出細(xì)粒度的道德決策，以決定在發(fā)生事故時(shí)要?dú)⑺勒l。我們可以想象一個(gè)駕駛技術(shù)特別差的機(jī)器人在駕駛時(shí)發(fā)現(xiàn)它必須做出“殺掉”某人的決定。同時(shí)，機(jī)器人會(huì)進(jìn)行復(fù)雜的權(quán)衡來實(shí)時(shí)地做出殺掉一個(gè)小孩還是三個(gè)老人的抉擇。

技術(shù)對(duì)法律的挑戰(zhàn)并不會(huì)隨著時(shí)間和空間的推移而變化，但無人駕駛可能會(huì)，因?yàn)榧夹g(shù)可能會(huì)給現(xiàn)有的法律體系無法預(yù)測(cè)的一個(gè)新穎的啟示。

我們可以假設(shè)另一個(gè)場(chǎng)景，未來在無人駕駛領(lǐng)域有一個(gè)制造商能夠脫穎而出。其車輛不僅不需要乘車者在保持相當(dāng)高的安全記錄的同時(shí)駕駛，而且可以自適應(yīng)地減少其對(duì)環(huán)境的影響。該系統(tǒng)的設(shè)計(jì)者不僅提供了更大的燃料效率，還能夠保持與道路行駛法規(guī)相一致。在一個(gè)月左右部署完成后，車輛發(fā)現(xiàn)如果用充滿電的電池運(yùn)行的話，會(huì)更高效。因此，汽車決定在車庫里通宵運(yùn)行燃?xì)獍l(fā)動(dòng)機(jī)，但這會(huì)殺死家里的每一個(gè)人。

我們可以想象如果汽車的設(shè)計(jì)師們出庭的時(shí)候，他們肯定會(huì)否定關(guān)于發(fā)生的這一切。他們知道無人駕駛的汽車可能會(huì)發(fā)生事故。他們知道燃?xì)饪赡軙?huì)耗盡，也可能把乘客撞死。但他們從沒想過汽車會(huì)通過一氧化碳中毒殺人。

乍一看，這與無人駕駛汽車事故一樣容易，但可能并不是。即使在嚴(yán)格的責(zé)任制度下，不需要在被告身上發(fā)現(xiàn)意圖或過失，法院仍需要原告表明被告至少可以預(yù)見所發(fā)生的損害類別。相關(guān)的法律術(shù)語是“因果關(guān)系”。因此，一家用炸藥拆除建筑物公司需要對(duì)由于爆炸引起的振動(dòng)而使附近的停車場(chǎng)倒塌的事故負(fù)責(zé)，即使該公司使用的是中最佳做法。但是，在1954年華盛頓的法庭上，拆遷公司并不對(duì)爆炸場(chǎng)地附近的水貂養(yǎng)殖場(chǎng)中的水貂因?yàn)檎饎?dòng)而本能地吞噬它們的幼崽的行為負(fù)責(zé)。前者的傷害是可預(yù)見的，因此是公平的責(zé)任基礎(chǔ)；而第二種傷害則不是。隨著越來越多的自適應(yīng)系統(tǒng)進(jìn)入現(xiàn)實(shí)世界，法院將不得不重新審視這種“可預(yù)見性”的作用在“因果關(guān)系和公平”中的基本作用。

系統(tǒng)設(shè)計(jì)師扮演什么樣的角色呢？當(dāng)然，我不建議將修改或出現(xiàn)作為研究目標(biāo)或系統(tǒng)特征。事實(shí)上，機(jī)器在解決問題方面越來越有用，因?yàn)樗鼈円匀祟愐庀氩坏降姆绞饺ソ鉀Q問題、發(fā)現(xiàn)模式和實(shí)現(xiàn)目標(biāo)。

盡管如此，我還會(huì)提一些想法供大家參考。

• 首先，對(duì)于嘗試預(yù)測(cè)機(jī)器人行為和減輕傷害的工具的投資是值得的。密歇根大學(xué)就建造了一個(gè)人造城市（環(huán)境）來對(duì)無人駕駛汽車進(jìn)行測(cè)試。虛擬環(huán)境雖然可以用來研究機(jī)器人與復(fù)雜輸入的交互作用，但不能預(yù)測(cè)所有可能的行為。但是在投放在公路之前，我們對(duì)自動(dòng)駕駛系統(tǒng)的了解越多越好。

• 第二，非常重要的一點(diǎn)是研究人員應(yīng)當(dāng)被允許甚至被鼓勵(lì)測(cè)試這樣的的系統(tǒng)。公司和監(jiān)管者應(yīng)當(dāng)支持對(duì)自動(dòng)駕駛技術(shù)的研究，以了解可能的反應(yīng)。最接近的類比應(yīng)當(dāng)是安全生態(tài)中的漏洞獎(jiǎng)勵(lì)計(jì)劃；至少，服務(wù)條款協(xié)議應(yīng)該聲明針對(duì)安全相關(guān)關(guān)鍵的研究是受歡迎和支持的，不會(huì)遭到訴訟。

• 最后，目前的人工智能浪潮之前有一波同等重要的互聯(lián)浪潮。研究互聯(lián)的公司目前正在將智能產(chǎn)品互聯(lián)，這可能會(huì)帶來問題，但同時(shí)也是一個(gè)好的監(jiān)控的機(jī)會(huì)。

所有的這些干預(yù)方法都不是萬能的，不能解決所有問題。但好消息是我們還有時(shí)間。從法學(xué)教授的觀點(diǎn)來看，包括自動(dòng)駕駛汽車在內(nèi)陸第一代主流機(jī)器人并沒有給法律帶來真正的難題。但下一代可能就會(huì)帶來問題了。在此期間，我希望法律和技術(shù)界可以攜手努力解決技術(shù)不確定性產(chǎn)生的法律不確定性問題。