在過(guò)去十年，AI以大數(shù)據(jù)為驅(qū)動(dòng)，給人類(lèi)帶來(lái)了前所未有的便利。但是，數(shù)據(jù)泄露、隱私丟失等問(wèn)題也日益嚴(yán)重。

提升模型精度是否一定意味著犧牲隱私保護(hù)？美國(guó)多地禁止人臉識(shí)別，重視隱私保護(hù)是否阻礙人工智能發(fā)展？對(duì)AI應(yīng)用的用戶(hù)隱私與數(shù)據(jù)安全的擔(dān)憂(yōu)是杞人憂(yōu)天還是未雨綢繆？如何處理好發(fā)展AI技術(shù)（比如提升模型精度，實(shí)現(xiàn)認(rèn)知智能）與人的關(guān)系？

隱私的定義是什么？隱私的范疇在哪里？AI與隱私的關(guān)系是什么？張鈸院士從隱私的定義出發(fā)，從AI制度和AI技術(shù)手段兩方面入手，指出了保護(hù)隱私應(yīng)該堅(jiān)持的發(fā)展方向、具體措施。

隱私是一個(gè)相對(duì)的概念，隱私保護(hù)是一個(gè)社會(huì)學(xué)范疇內(nèi)的問(wèn)題，高文院士指出在目前的階段，相關(guān)法律制度還不健全，因此，完善相關(guān)的法律法規(guī)、政策制度，出臺(tái)侵犯隱私的懲罰措施等都是非常重要的內(nèi)容。

隱私一直以來(lái)是AI的短板，因?yàn)樯疃葘W(xué)習(xí)離不開(kāi)大數(shù)據(jù)，但數(shù)據(jù)量的增加會(huì)導(dǎo)致侵犯隱私的威脅也在增加。在此背景下，楊強(qiáng)教授分享了瑞典政府對(duì)GDPR的看法和思路：嚴(yán)格的隱私保護(hù)法規(guī)是動(dòng)力，會(huì)激勵(lì)保護(hù)隱私的技術(shù)及早出現(xiàn)，并幫助歐洲在技術(shù)領(lǐng)域領(lǐng)先。

針對(duì)用戶(hù)訴求、國(guó)家監(jiān)管需要，以聯(lián)邦學(xué)習(xí)為代表的AI新技術(shù)能否解決大數(shù)據(jù)AI協(xié)作與數(shù)據(jù)隱私保護(hù)之間的矛盾？這些技術(shù)的優(yōu)勢(shì)與局限性有哪些？如何讓更多人參與到這些技術(shù)創(chuàng)新中來(lái)，開(kāi)源？激勵(lì)機(jī)制？

技術(shù)流派應(yīng)該百花齊放，整個(gè)社會(huì)應(yīng)該重視誠(chéng)信。高文院士認(rèn)為：第一，各家應(yīng)該努力去尋找最好的技術(shù)，讓隱私得到最好的保護(hù)。第二，根據(jù)我國(guó)技術(shù)和社會(huì)發(fā)展現(xiàn)狀，如果想讓技術(shù)和社會(huì)和諧快速發(fā)展，隱私得到很好地保護(hù)，誠(chéng)信是非常重要的內(nèi)容。此外，開(kāi)源在技術(shù)發(fā)展中具有重大價(jià)值，需要特別關(guān)注。

為什么要保護(hù)隱私？張鈸院士先提出了這個(gè)關(guān)鍵問(wèn)題，之后開(kāi)始詳細(xì)闡釋了隱私保護(hù)的目的，并就東、西方價(jià)值觀的差異引申出了我國(guó)隱私保護(hù)的核心問(wèn)題——不濫用個(gè)人信息。避免濫用有兩個(gè)方面，一方面是制定法律、規(guī)則，限制濫用行為；另一方面是發(fā)展安全、可靠、可信賴(lài)、可擴(kuò)展的AI技術(shù)。

聯(lián)邦學(xué)習(xí)的基本思想是：數(shù)據(jù)不出本地，模型得到更新。基于此，楊強(qiáng)教授詳細(xì)剖析了傳統(tǒng)的數(shù)據(jù)處理、模型訓(xùn)練方式和聯(lián)邦學(xué)習(xí)中數(shù)據(jù)處理、模型訓(xùn)練方式的異同，指出了聯(lián)邦學(xué)習(xí)的優(yōu)勢(shì)、對(duì)抗機(jī)制，及其在企業(yè)之間應(yīng)用的實(shí)例。

面對(duì)現(xiàn)有的困境與桎梏，下一代AI技術(shù)應(yīng)該具備哪些特點(diǎn)？我們?nèi)绾螕屨贾聘唿c(diǎn)？人與AI如何更好地協(xié)作，創(chuàng)造更大的價(jià)值？

下一代AI首先要考慮人，要考慮人與機(jī)器的協(xié)作，要考慮人的利益，基于此認(rèn)識(shí)，楊強(qiáng)教授指出下一代AI中可解釋性是非常重要的，同時(shí)，要了解如何將人類(lèi)的智慧賦予機(jī)器，讓機(jī)器站在人類(lèi)的肩膀上學(xué)習(xí)。針對(duì)相關(guān)問(wèn)題，楊強(qiáng)教授號(hào)召研究者選問(wèn)題時(shí)要從很新、很難、容易解釋的角度切入。

對(duì)于可解釋性是第一位的觀點(diǎn)，高文院士表示認(rèn)可，并補(bǔ)充指出AI的高效能也是非常重要的一點(diǎn)。對(duì)比人腦，現(xiàn)有AI系統(tǒng)的效能還不夠高，根據(jù)鵬城實(shí)驗(yàn)室的實(shí)際工作來(lái)看，AI精度超過(guò)人類(lèi)的代價(jià)很大。對(duì)此，研究者應(yīng)該去做其他人沒(méi)有做過(guò)的東西，嘗試讓機(jī)器對(duì)知識(shí)有繼承。

AI的最終目標(biāo)是什么？我們現(xiàn)在做了哪些事？張鈸院士以此為出發(fā)點(diǎn)，指出了目前我們沿著符號(hào)主義、連接主義已經(jīng)取得的成就，并一針見(jiàn)血地指出現(xiàn)有AI的發(fā)展還處于序幕階段，沒(méi)有解決符號(hào)基礎(chǔ)問(wèn)題，沒(méi)有涉及智能的根本問(wèn)題，現(xiàn)有AI系統(tǒng)不安全、不可靠、不可解釋、不容易擴(kuò)展。對(duì)此，我們只有加強(qiáng)AI相關(guān)基礎(chǔ)研究，具體到我們國(guó)家，我們其實(shí)已經(jīng)有條件去做這件事了，但是路程還很漫長(zhǎng)。

對(duì)于基礎(chǔ)研究，張鈸院士認(rèn)為落腳點(diǎn)還是發(fā)表論文。目前，我國(guó)的基礎(chǔ)研究已經(jīng)取得長(zhǎng)足進(jìn)步，基礎(chǔ)研究的平均水平達(dá)到了世界一流水平，但是最高水平與世界一流水平還存在差距，我們要在制度、體制上創(chuàng)新，鼓勵(lì)、支持研究者探索新領(lǐng)域，勇于面對(duì)失敗，能夠經(jīng)得起失敗。

近期，國(guó)家新一代人工智能治理專(zhuān)業(yè)委員會(huì)發(fā)布了《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》，針對(duì)AI的下一個(gè)十年，三位專(zhuān)家也給出了自己的總結(jié)與展望。

AI的治理問(wèn)題非常重要，張鈸院士認(rèn)為只有把AI智力問(wèn)題想清楚了，才能看清技術(shù)的發(fā)展方向，清楚自己該做什么工作。

發(fā)展AI是為了造福人類(lèi)社會(huì)，高文院士提出要綜合考慮技術(shù)發(fā)展、社會(huì)影響與成本。

AI的發(fā)展引起了全社會(huì)的關(guān)注，進(jìn)而引出來(lái)了越來(lái)越多的限制和要求，如隱私保護(hù)等。楊強(qiáng)教授認(rèn)為這些要求孕育了新的機(jī)會(huì)，引出了新的研究課題，有志向的研究者要勇于踏進(jìn)新的技術(shù)領(lǐng)域，開(kāi)創(chuàng)新的局面。