紐約時間2019年3月27日，美國計算機(jī)協(xié)會（Association for Computing Machinery，簡稱 ACM）將2018年度的圖靈獎頒發(fā)給了Yoshua Bengio，Geoffrey Hinton和Yann LeCun。三人因為在深度學(xué)習(xí)領(lǐng)域的突破性研究，被稱為“深度學(xué)習(xí)三巨頭”。

Yoshua Bengio，Geoffrey Hinton和Yann LeCun，因為其在概念和工程方面的突破，使得深度神經(jīng)網(wǎng)絡(luò)成為計算領(lǐng)域的重要組成部分，評為2018年ACM AM圖靈獎的獲獎?wù)摺?/p>

• Bengio：蒙特利爾大學(xué)教授，魁北克人工智能研究所Mila科學(xué)主任；

• Hinton：Google的副總裁兼工程研究員，Vector Institute首席科學(xué)顧問，多倫多大學(xué)名譽(yù)教授；

• LeCun：紐約大學(xué)的教授，F(xiàn)acebook的副總裁和首席AI科學(xué)家。

Hinton，LeCun和Bengio獨立工作，共同開發(fā)了深度學(xué)習(xí)領(lǐng)域的概念基礎(chǔ)，通過實驗確定了令人驚訝的現(xiàn)象，并貢獻(xiàn)了工程進(jìn)展，證明了深度神經(jīng)網(wǎng)絡(luò)的實際優(yōu)勢。近年來，計算機(jī)視覺，語音識別，自然語言處理和機(jī)器人技術(shù)以及其他應(yīng)用領(lǐng)域頻頻取得突破，深度學(xué)習(xí)方法是背后原因。

雖然早在20世紀(jì)80年代，學(xué)界就引入了人工神經(jīng)網(wǎng)絡(luò)，作為幫助計算機(jī)模式識別和模擬人類智能的工具，但到了21世紀(jì)初，LeCun，Hinton和Bengio仍然是堅持神經(jīng)網(wǎng)絡(luò)方法的少數(shù)人。雖然他們試圖重燃AI社區(qū)對神經(jīng)網(wǎng)絡(luò)興趣的努力最初曾遭受懷疑，但他們的想法近年來導(dǎo)引發(fā)了重大技術(shù)進(jìn)步，他們的方法現(xiàn)在已成為人工智能領(lǐng)域的主流范例。

ACM AM圖靈獎，通常被稱為“計算機(jī)界的諾貝爾獎”，由Google提供資金支持，獎金為100萬美元。它以英國數(shù)學(xué)家Alan M. Turing的名字命名，圖靈發(fā)現(xiàn)了計算機(jī)的數(shù)學(xué)基礎(chǔ)和及其運行限制。

“人工智能現(xiàn)在是所有科學(xué)領(lǐng)域中發(fā)展最快的領(lǐng)域之一，也是社會上最受關(guān)注的話題之一，”ACM主席Cherri M. Pancake說?！叭斯ぶ悄艿脑鲩L和興趣在很大程度上歸功于Bengio，Hinton和LeCun在深度學(xué)習(xí)上的最新進(jìn)展。相關(guān)技術(shù)已經(jīng)被數(shù)十億人使用。任何有智能手機(jī)的人都可以體驗到自然語言處理和計算機(jī)視覺方面的進(jìn)步，這在10年前是不可能實現(xiàn)的。除了我們每天使用的產(chǎn)品之外，深度學(xué)習(xí)的新進(jìn)展為科學(xué)家提供了強(qiáng)大的新工具——從醫(yī)學(xué)，天文學(xué)到材料科學(xué)?！?/p>

“深度神經(jīng)網(wǎng)絡(luò)促成了現(xiàn)代計算機(jī)科學(xué)的一些最大進(jìn)步，幫助在計算機(jī)視覺，語音識別和自然語言理解方面的長期問題上取得實質(zhì)性進(jìn)展，”Google高級研究員兼Google AI 副總裁 Jeff Dean說?！斑@些進(jìn)展的核心，是30多年前由Yoshua Bengio，Geoffrey Hinton和Yann LeCun開創(chuàng)的基礎(chǔ)技術(shù)。通過大幅提高計算機(jī)理解世界的能力，深度神經(jīng)網(wǎng)絡(luò)不僅改變了計算領(lǐng)域，而且?guī)缀醺淖兞丝茖W(xué)和人類努力的每一個領(lǐng)域?！?/p>

在傳統(tǒng)計算任務(wù)中，程序使用明確的逐步指令來控制計算機(jī)。在深度學(xué)習(xí)中，計算機(jī)沒有明確被告知要如何解決特定任務(wù)，比如對象分類。相反，它使用學(xué)習(xí)算法來提取數(shù)據(jù)中的模式，這些模式將輸入數(shù)據(jù)（例如圖像的像素）與所需的輸出（例如標(biāo)簽“cat”）相關(guān)聯(lián)。研究人員面臨的挑戰(zhàn)是開發(fā)有效的學(xué)習(xí)算法，以修改人工神經(jīng)網(wǎng)絡(luò)中連接的權(quán)重，從而使得這些權(quán)重捕獲數(shù)據(jù)中的相關(guān)模式。

Geoffrey Hinton自20世紀(jì)80年代初以來，一直倡導(dǎo)人工智能機(jī)器學(xué)習(xí)方法的研究了人類大腦如何發(fā)揮作用來建議機(jī)器學(xué)習(xí)系統(tǒng)的開發(fā)方式。受大腦的啟發(fā)，他和其他人提出“人工神經(jīng)網(wǎng)絡(luò)”作為他們機(jī)器學(xué)習(xí)調(diào)查的基石。

在計算機(jī)科學(xué)中，“神經(jīng)網(wǎng)絡(luò)”指的是，由“神經(jīng)元”這種的相對簡單的計算單元組成的系統(tǒng)。這些“神經(jīng)元”只與人類大腦中的神經(jīng)元相似，通過加權(quán)連接相互影響。通過改變連接權(quán)重，可以改變神經(jīng)網(wǎng)絡(luò)所做的計算。Hinton，LeCun和Bengio認(rèn)識到了使用深層神經(jīng)網(wǎng)絡(luò)的重要性——他們的工作被稱為“深度學(xué)習(xí)”。

LeCun，Bengio和Hinton在30年期間奠定的概念基礎(chǔ)和工程進(jìn)步因強(qiáng)大的圖形處理單元（GPU）計算機(jī)的普及以及對大量數(shù)據(jù)集的訪問而得到顯著提升。近年來，這些和其他因素導(dǎo)致了計算機(jī)視覺，語音識別和機(jī)器翻譯等技術(shù)的跨越式發(fā)展。

Hinton，LeCun和Bengio一起獨立合作。例如，LeCun在Hinton的監(jiān)督下進(jìn)行了博士后工作，LeCun和Bengio從20世紀(jì)90年代初開始在貝爾實驗室工作。即使不合作，他們的工作也會產(chǎn)生協(xié)同作用和相互聯(lián)系，他們彼此之間的影響很大。

Bengio，Hinton和LeCun繼續(xù)探索機(jī)器學(xué)習(xí)與神經(jīng)科學(xué)和認(rèn)知科學(xué)的交叉，特別是通過他們共同參與CIFAR（以前稱為加拿大高級研究所）的一項計劃機(jī)器和腦力學(xué)習(xí)計劃。

今年圖靈獎獲得者的技術(shù)成就，導(dǎo)致人工智能技術(shù)取得重大突破，包括但不限于以下內(nèi)容：

Geoffrey Hinton

反向傳播算法：在1986年與David Rumelhart和Ronald Williams共同撰寫的“通過誤差傳播學(xué)習(xí)內(nèi)部表征”（Learning Internal Representations by Error Propagation）一文中，Hinton證明了，反向傳播算法能夠讓神經(jīng)網(wǎng)絡(luò)發(fā)現(xiàn)自己內(nèi)部數(shù)據(jù)的表征方法，這使得使用神經(jīng)網(wǎng)絡(luò)可解決的問題范圍大大拓寬。反向傳播算法是當(dāng)今大多數(shù)神經(jīng)網(wǎng)絡(luò)的標(biāo)準(zhǔn)算法。

Boltzmann機(jī)：1983年，Hinton與Terrence Sejnowski一起，發(fā)明了Boltzmann機(jī)，這是第一個能夠?qū)W習(xí)神經(jīng)元內(nèi)部表征的神經(jīng)網(wǎng)絡(luò)之一。

改進(jìn)卷積神經(jīng)網(wǎng)絡(luò)：2012年，Hinton與其學(xué)生Alex Krizhevsky和Ilya Sutskever，使用線性整流和丟棄正則化，改進(jìn)了卷積神經(jīng)網(wǎng)絡(luò)。在著名的ImageNet競賽中，Hinton和他的學(xué)生將對象識別的錯誤率幾乎減半，這重塑了計算機(jī)視覺領(lǐng)域。

Yoshua Bengio

序列的概率模型：在20世紀(jì)90年代，Bengio將神經(jīng)網(wǎng)絡(luò)與序列的概率模型相結(jié)合（如隱馬爾可夫模型）。這些想法被納入了手寫支票識別系統(tǒng)中，被認(rèn)為是20世紀(jì)90年代神經(jīng)網(wǎng)絡(luò)研究的巔峰之作，現(xiàn)代的深度學(xué)習(xí)語音識別系統(tǒng)正在擴(kuò)展這些概念。

高維詞匯嵌入和注意力機(jī)制：2000年，Bengio撰寫了具有里程碑意義的論文“神經(jīng)概率語言模型”，它引入了高維詞嵌入表示詞語含義。Bengio的見解對自然語言處理任務(wù)產(chǎn)生了深遠(yuǎn)影響，包括語言翻譯、問答和視覺問答。他的團(tuán)隊引入了“注意力機(jī)制”，這引發(fā)了機(jī)器翻譯的突破，并成為用深度學(xué)習(xí)進(jìn)行序列處理的核心步驟。

生成式對抗網(wǎng)絡(luò)：2010年以來，Bengio關(guān)于生成性深度學(xué)習(xí)的論文，特別是他與Ian Goodfellow共同開發(fā)的生成式對抗網(wǎng)絡(luò)（GAN），引發(fā)了計算機(jī)視覺和計算機(jī)圖形學(xué)的革命。這項工作的一個著名應(yīng)用是，計算機(jī)可以創(chuàng)建出逼真的圖像，仿佛擁有了人類智能才特有的創(chuàng)造力。

Yann LeCun

卷積神經(jīng)網(wǎng)絡(luò)：在20世紀(jì)80年代，LeCun就開發(fā)卷積神經(jīng)網(wǎng)絡(luò)，這是該領(lǐng)域的基礎(chǔ)研究。卷積神經(jīng)網(wǎng)絡(luò)優(yōu)點很多，它使深度學(xué)習(xí)變得更加必要。20世紀(jì)80年代末，LeCun在多倫多大學(xué)和貝爾實驗室工作期間，率先在手寫數(shù)字圖像上訓(xùn)練卷積神經(jīng)網(wǎng)絡(luò)系統(tǒng)。如今，卷積神經(jīng)網(wǎng)絡(luò)是計算機(jī)視覺及語音識別、語音合成、圖像合成和自然語言處理的行業(yè)標(biāo)準(zhǔn)。它們有各種應(yīng)用，包括自動駕駛、醫(yī)學(xué)圖像分析、語音助手和信息過濾。

改進(jìn)反向傳播算法：LeCun提出了反向傳播算法（backprop）的早期版本，并根據(jù)變分原理對其進(jìn)行了簡潔推導(dǎo)。他推動反向傳播算法的工作包括給出了兩種加速學(xué)習(xí)時間的簡單方法。

拓寬神經(jīng)網(wǎng)絡(luò)的視野：LeCun拓展了神經(jīng)網(wǎng)絡(luò)的應(yīng)用范圍。他讓神經(jīng)網(wǎng)絡(luò)成為可以完成多種不同任務(wù)的計算模型，他在早期引入的一些工作，現(xiàn)在已成為人工智能領(lǐng)域的基礎(chǔ)概念。例如，在識別圖像的領(lǐng)域，LeCun研究了如何在神經(jīng)網(wǎng)絡(luò)中學(xué)習(xí)分層特征表示——這個概念經(jīng)常在識別任務(wù)中出現(xiàn)。LeCun與Léon Bottou一起，提出了“學(xué)習(xí)系統(tǒng)可以被構(gòu)建為由模塊組成的復(fù)雜網(wǎng)絡(luò)”，這些模塊通過自動微分來執(zhí)行反向傳播算法——這成為了當(dāng)今深度學(xué)習(xí)程序通用的想法。他們還提出可以處理結(jié)構(gòu)化數(shù)據(jù)（如圖數(shù)據(jù)）的深度學(xué)習(xí)架構(gòu)。

本文編譯自ACM 官網(wǎng)：

https://awards./about/2018-turing

編輯：劉楊珂