美國(guó)高級(jí)研究計(jì)劃局（DARPA）為了提高人們對(duì)其人工智能研發(fā)工作的認(rèn)識(shí)，于2019年3月6日至7日在弗吉尼亞州亞歷山大市舉辦了人工智能研討會(huì)（AIC）。此次活動(dòng)匯集了國(guó)防部、研究界和國(guó)防利益相關(guān)者，以了解有關(guān)DARPA當(dāng)前和未來(lái)AI項(xiàng)目的更多信息，并探索各種開發(fā)技術(shù)如何應(yīng)用于他們的各種任務(wù)。

據(jù)防務(wù)菌的好基友小智介紹，此次AIC活動(dòng)強(qiáng)調(diào)了DARPA在推動(dòng)人工智能技術(shù)發(fā)展方面的全面投資及最新研究成果，力求通過(guò)在全國(guó)學(xué)術(shù)和工業(yè)基地內(nèi)聘用廣泛的科學(xué)家、工程師和技術(shù)專家，加強(qiáng)和擴(kuò)大DARPA的創(chuàng)新生態(tài)系統(tǒng)。研討會(huì)致力于在確保國(guó)家安全的背景下，向利益相關(guān)者通報(bào)DARPA對(duì)人工智能的愿景和將要發(fā)展的優(yōu)先事項(xiàng)，以更好地促進(jìn)人工智能領(lǐng)域的技術(shù)合作和過(guò)渡。DARPA旨在通過(guò)該種形式的活動(dòng)分享其研究成果及創(chuàng)新歷程，鼓勵(lì)技術(shù)研究團(tuán)體、商業(yè)公司等尋求與DARPA建立或發(fā)展伙伴關(guān)系共同開展研究。

DARPA已經(jīng)在油管上po出了本次研討會(huì)有關(guān)視頻，小智童鞋對(duì)其進(jìn)行了初步整理，共23個(gè)，內(nèi)容涉及AI在各領(lǐng)域的應(yīng)用，如在軟件工程、協(xié)同探索、物理、化學(xué)、頻譜作戰(zhàn)、戰(zhàn)術(shù)自主、網(wǎng)絡(luò)防御、射頻機(jī)器學(xué)習(xí)等領(lǐng)域的應(yīng)用項(xiàng)目，同時(shí)還包括腦-機(jī)接口、機(jī)器學(xué)習(xí)、自然語(yǔ)言理解等領(lǐng)域內(nèi)的細(xì)分技術(shù)等，基本涵蓋了DARPA近期對(duì)人工智能的關(guān)注重點(diǎn)和其開展的重點(diǎn)研究項(xiàng)目。

我們對(duì)這些視頻進(jìn)行了整理，推出了一個(gè)《DARPA人工智能研討會(huì)視頻集萃》的東東。今天，先po一個(gè)“可解釋人工智能”出來(lái)。

DARPA人工智能研討會(huì)：可解釋人工智能（翻譯&字幕 by 防務(wù)菌）

演講者：美國(guó)海軍研究實(shí)驗(yàn)室人工智能應(yīng)用研究中心代理主任，David Aha博士

 內(nèi)容簡(jiǎn)介：機(jī)器學(xué)習(xí)（ML）的巨大成功引發(fā)了人工智能應(yīng)用（如交通、安全、醫(yī)學(xué)、金融和國(guó)防）的新浪潮，并帶來(lái)了巨大的收益。但是，當(dāng)前的機(jī)器學(xué)習(xí)無(wú)法向用戶解釋其決策與行動(dòng)。DARPA“可解釋人工智能”（XAI）項(xiàng)目致力于創(chuàng)建學(xué)習(xí)的模型和決策可以被最終用戶理解和適當(dāng)信任的人工智能系統(tǒng)，實(shí)現(xiàn)這一點(diǎn)需要學(xué)習(xí)更多可解釋模型的方法，設(shè)計(jì)有效的解釋界面，以及理解有效解釋的心理需求。本演講將總結(jié)XAI項(xiàng)目并介紹該項(xiàng)目第一階段的要點(diǎn)。

額外附贈(zèng)：“可解釋人工智能”（XAI）項(xiàng)目背景資料

機(jī)器學(xué)習(xí)的巨大成功產(chǎn)生了大量人工智能（AI）應(yīng)用項(xiàng)目。照此發(fā)展，其持續(xù)的進(jìn)步有望產(chǎn)生能夠自我感知、學(xué)習(xí)、決策和行動(dòng)的自主系統(tǒng)。然而，這些系統(tǒng)的有效性受到機(jī)器當(dāng)前無(wú)法向人類用戶解釋其決策和行動(dòng)的限制（如下圖）。美國(guó)國(guó)防部（DoD）面臨著需要更智能、自主和共生系統(tǒng)的挑戰(zhàn)。如果未來(lái)的戰(zhàn)士能夠理解，適當(dāng)?shù)匦湃尾⒂行У毓芾硇乱淮斯ぶ悄軝C(jī)器協(xié)作伙伴，那么可解釋人工智能，特別是可解釋的機(jī)器學(xué)習(xí)，將是必不可少的。

XAI項(xiàng)目需求

“可解釋人工智能”（XAI）項(xiàng)目旨在創(chuàng)建一套機(jī)器學(xué)習(xí)技術(shù)：

• 產(chǎn)生更多可解釋的模型，同時(shí)保持高水平的學(xué)習(xí)成績(jī)（預(yù)測(cè)準(zhǔn)確性）；

• 使人類用戶能夠理解，適當(dāng)?shù)匦湃尾⒂行У毓芾硇乱淮斯ぶ悄芎献骰锇椤?/strong>

XAI項(xiàng)目強(qiáng)調(diào)區(qū)域

新的機(jī)器學(xué)習(xí)系統(tǒng)將能夠解釋它們的基本原理，表征它們的優(yōu)點(diǎn)和缺點(diǎn)，并傳達(dá)對(duì)它們將來(lái)如何表現(xiàn)的理解。實(shí)現(xiàn)該目標(biāo)的策略是開發(fā)新的或改進(jìn)機(jī)器學(xué)習(xí)技術(shù)，以產(chǎn)生更多可解釋的模型。這些模型將結(jié)合最先進(jìn)的人機(jī)界面技術(shù)，能夠?qū)⒛Ｐ娃D(zhuǎn)化為最終用戶可理解和有用的解釋對(duì)話（如下圖）。DARPA研究團(tuán)隊(duì)的策略是采用各種技術(shù)，以生成一系列方法，為未來(lái)的開發(fā)人員提供一系列涵蓋性能與可解釋性交易空間的設(shè)計(jì)方案。

XAI項(xiàng)目概念

XAI項(xiàng)目是當(dāng)前DARPA正在推行的AI項(xiàng)目之一，旨在實(shí)現(xiàn)“第三波AI系統(tǒng)”，其中機(jī)器了解其運(yùn)行的環(huán)境和環(huán)境，并隨著時(shí)間的推移構(gòu)建底層解釋模型，使其能夠表征現(xiàn)實(shí)世界現(xiàn)象。

XAI項(xiàng)目通過(guò)解決兩個(gè)技術(shù)領(lǐng)域的挑戰(zhàn)問(wèn)題，專注于多系統(tǒng)的開發(fā)：

（1）機(jī)器學(xué)習(xí)問(wèn)題，用于對(duì)異構(gòu)、多媒體數(shù)據(jù)中感興趣的事件進(jìn)行分類；

（2）機(jī)器學(xué)習(xí)問(wèn)題，為自主系統(tǒng)構(gòu)建決策策略，以執(zhí)行各種模擬任務(wù)。

XAI項(xiàng)目挑戰(zhàn)問(wèn)題領(lǐng)域

這兩個(gè)挑戰(zhàn)問(wèn)題領(lǐng)域被選擇來(lái)代表兩個(gè)重要的機(jī)器學(xué)習(xí)方法（分類和強(qiáng)化學(xué)習(xí)）和兩個(gè)重要的國(guó)防部操作問(wèn)題領(lǐng)域（情報(bào)分析和自主系統(tǒng)）的交叉點(diǎn)。

XAI項(xiàng)目結(jié)構(gòu)

此外，研究人員正在研究解釋心理學(xué)。

XAI研究原型在整個(gè)項(xiàng)目過(guò)程中經(jīng)過(guò)測(cè)試和持續(xù)評(píng)估。在2018年5月，XAI研究人員展示了他們可解釋學(xué)習(xí)系統(tǒng)的初步實(shí)施，并展示了他們的第一階段評(píng)估的初步試點(diǎn)研究結(jié)果。隨后在2018年11月進(jìn)行全階段1系統(tǒng)評(píng)估。

XAI項(xiàng)目評(píng)估工作

在項(xiàng)目結(jié)束時(shí)，最終交付將是一個(gè)工具包庫(kù)，包括機(jī)器學(xué)習(xí)和人機(jī)界面軟件模塊，可用于開發(fā)未來(lái)可解釋的AI系統(tǒng)。該項(xiàng)目完成后，這些工具包將可用于進(jìn)一步完善并轉(zhuǎn)換為國(guó)防或商業(yè)應(yīng)用項(xiàng)目。

XAI項(xiàng)目推進(jìn)時(shí)間表