人工智能中的深度學(xué)習(xí)計(jì)算機(jī)網(wǎng)絡(luò)到底有多智能?這些機(jī)器在多大程度上模仿了人類(lèi)的大腦?針對(duì)以上問(wèn)題，美國(guó)加州大學(xué)洛杉磯分校的一組認(rèn)知心理學(xué)家近日在《公共科學(xué)圖書(shū)館計(jì)算生物學(xué)》(PLOS computing Biology)雜志上發(fā)表報(bào)告稱(chēng)，近年來(lái)，這方面的研究雖取得了很大進(jìn)展，但仍有很長(zhǎng)的路要走。

支持者們對(duì)利用人工智能完成許多傳統(tǒng)上由人類(lèi)來(lái)完成的個(gè)人任務(wù)，甚至是工作表現(xiàn)出了極大的熱情。然而，本研究的五個(gè)實(shí)驗(yàn)結(jié)果表明，深度學(xué)習(xí)計(jì)算機(jī)網(wǎng)絡(luò)很容易被欺騙，它們所使用的計(jì)算機(jī)視覺(jué)與人類(lèi)視覺(jué)有很大的不同。

“機(jī)器有嚴(yán)重局限性?！奔又荽髮W(xué)洛杉磯分校(UCLA)著名心理學(xué)教授、該研究的資深作者Philip Kellman說(shuō)，“我們?cè)谡f(shuō)，‘等等，別那么快?！?/p>

機(jī)器視覺(jué)也有缺點(diǎn)。在第一個(gè)實(shí)驗(yàn)中，心理學(xué)家向目前最優(yōu)秀的深度學(xué)習(xí)網(wǎng)絡(luò)之一——VGG-19展示了一些被修改了的動(dòng)物和物體的彩色圖像。舉例來(lái)說(shuō)，一個(gè)具有高爾夫球樣凹凸不平表面的茶壺;一匹具有斑馬一樣條紋的駱駝;一頭顏色像藍(lán)色和紅色菱形花紋襪子的大象。VGG-19識(shí)別圖片后給出了可能的答案選項(xiàng)，并對(duì)這些選項(xiàng)進(jìn)行了排名，結(jié)果在40個(gè)對(duì)象中，只有5個(gè)的正確的答案被列為了第一選項(xiàng)。“欺騙這些人工系統(tǒng)很容易?！奔又荽髮W(xué)洛杉磯分校心理學(xué)教授、合著者盧洪靜(音譯)說(shuō)，“它們的學(xué)習(xí)機(jī)制遠(yuǎn)不如人類(lèi)的大腦復(fù)雜?！?/p>

VGG-19認(rèn)為大象是大象的概率是0，茶壺是茶壺的概率只有0.41%。該研究的第一作者、加州大學(xué)洛杉磯分校(UCLA)心理學(xué)研究生Nicholas Baker說(shuō)，VGG19認(rèn)為這款茶壺最可能是一個(gè)高爾夫球，這表明人工智能網(wǎng)絡(luò)更關(guān)注物體的質(zhì)地，而不是形狀。Kellman說(shuō):“高爾夫球出現(xiàn)在答案中是完全合理的，但令人擔(dān)憂(yōu)的是，選項(xiàng)中沒(méi)有茶壺。”“它沒(méi)有考慮到形狀?！倍祟?lèi)主要通過(guò)形狀來(lái)識(shí)別物體。研究人員懷疑計(jì)算機(jī)網(wǎng)絡(luò)使用了一種不同的方法。

在第二個(gè)實(shí)驗(yàn)中，心理學(xué)家向VGG-19和另一個(gè)名為AlexNet的深度學(xué)習(xí)網(wǎng)絡(luò)展示了玻璃雕像的圖像。這兩個(gè)深度學(xué)習(xí)網(wǎng)絡(luò)都經(jīng)過(guò)訓(xùn)練，可以使用名為ImageNet的圖像數(shù)據(jù)庫(kù)識(shí)別對(duì)象。然而，兩者的表現(xiàn)都很差，都無(wú)法識(shí)別這些玻璃雕像。VGG-19和AlexNet都沒(méi)有正確地識(shí)別出這些雕像并將正確答案作為首選。在這兩個(gè)網(wǎng)絡(luò)中，一尊大象雕像被認(rèn)為是大象的幾率幾乎為0%。大多數(shù)排在前列的回答都讓研究人員感到困惑，比如VGG-19認(rèn)為“鵝”是“網(wǎng)站”，認(rèn)為“北極熊”是“開(kāi)罐器”。平均而言，AlexNet在給出的1000個(gè)選項(xiàng)中把正確答案排在第328位?！皺C(jī)器犯的錯(cuò)誤和人類(lèi)非常不同?！北R說(shuō)。

在第三個(gè)實(shí)驗(yàn)中，研究人員向VGG-19和AlexNet展示了40幅線(xiàn)條為黑色，底色為白色的圖片。結(jié)果顯示，深度學(xué)習(xí)網(wǎng)絡(luò)在識(shí)別蝴蝶、飛機(jī)和香蕉等物品方面做得依舊很差。

在第四個(gè)實(shí)驗(yàn)中，研究人員向這兩個(gè)深度學(xué)習(xí)網(wǎng)絡(luò)展示了40幅純黑色的圖像。此次，對(duì)于黑色圖像，深度學(xué)習(xí)網(wǎng)絡(luò)的表現(xiàn)有了進(jìn)步，有大約20幅圖片的前五個(gè)選項(xiàng)中出現(xiàn)了正確答案。例如，VGG-19認(rèn)為算盤(pán)是算盤(pán)的幾率為99.99%，大炮是大炮的幾率為61%。相比之下，VGG-19和AlexNet都認(rèn)為白色錘子(用黑色標(biāo)出)是錘子的概率小于1%。

研究人員認(rèn)為，深度學(xué)習(xí)網(wǎng)絡(luò)對(duì)黑色物體的處理要好得多，因?yàn)檫@些物體缺少Kellman所說(shuō)的“內(nèi)部輪廓”——使機(jī)器迷惑的邊緣。

在實(shí)驗(yàn)五中，研究人員打亂了圖像，使其更難被識(shí)別，但他們保留了這些物體的碎片。對(duì)于人類(lèi)來(lái)說(shuō)，通過(guò)這些碎片識(shí)別出原始物體非常困難。研究人員選擇了VGG-19最初識(shí)別成功的6張圖像，結(jié)果這次VGG-19成功地識(shí)別出了6張圖片中的5張。

作為第五項(xiàng)實(shí)驗(yàn)的一部分，研究人員還測(cè)試了加州大學(xué)洛杉磯分校的本科生，向這10名學(xué)生展示了黑色輪廓的物體——其中一些被打亂了，難以辨認(rèn)；一些沒(méi)有被打亂。觀察時(shí)間也被區(qū)分為一秒鐘和想看多久就看多久。在只能看一秒鐘的情況下，學(xué)生們正確識(shí)別出了92%的未被打亂的物體和23%的被打亂的物體。當(dāng)學(xué)生們想看多久就看多久時(shí)，他們正確識(shí)別出未被打亂物體的幾率為97%，識(shí)別出被打亂物體的幾率則為37%。

由此，心理學(xué)家得出結(jié)論：人類(lèi)關(guān)注于物體的整個(gè)輪廓，而人工智能網(wǎng)絡(luò)則可以識(shí)別物體的碎片。

Kellman 說(shuō):“這項(xiàng)研究表明，在不考慮形狀的情況下，深度學(xué)習(xí)網(wǎng)絡(luò)能夠從訓(xùn)練過(guò)的圖像中得到正確的答案?！薄皩?duì)人類(lèi)來(lái)說(shuō)，整體形狀是物體識(shí)別的首要條件，而通過(guò)整體形狀識(shí)別圖像似乎根本不在這些深度學(xué)習(xí)網(wǎng)絡(luò)的考慮之中?！?/p>

編譯：Max 審稿：alone 責(zé)編：張夢(mèng)