AI 教父Hinton 陷入了矛盾之中。

Geoffrey Hinton，這位被譽為「深度學習教父」的科學家，最近在The Diary of a CEO播客中袒露了一個鮮為人知的故事：他當年把自己的神經(jīng)網(wǎng)絡公司賣給谷歌，竟然是為了給有學習障礙的兒子攢夠養(yǎng)老錢。

這位75歲的老人在播客中坦言：

我有一個有學習障礙的兒子。為了確保他永遠不會流落街頭，我需要幾百萬美元。作為學者是賺不到這些錢的。我試過了。所以我教了Coursera課程，希望能賺很多錢，但那里沒有錢。所以我想，賺幾百萬美元的唯一方法就是把自己賣給一家大公司。

無奈之下，65歲的Hinton做了一個改變AI歷史的決定。

當時，他的兩個天才學生——包括后來創(chuàng)立OpenAI的Ilya Sutskever——開發(fā)出了AlexNet，這個神經(jīng)網(wǎng)絡在圖像識別領(lǐng)域取得了突破性進展。Hinton看到了機會，和學生們成立了一家小公司，然后搞了一場拍賣會，讓各大科技巨頭競價。

最終，谷歌贏得了這場競標。

谷歌對Hinton相當寬容：

他們對我很好。他們說，基本上你可以做任何你想做的事。我研究了一種叫做蒸餾的技術(shù)，效果非常好?，F(xiàn)在一直在使用。

但正是在谷歌的這段經(jīng)歷，讓Hinton意識到了AI的可怕之處。

這與意識到為什么數(shù)字系統(tǒng)在共享信息方面比模擬系統(tǒng)好得多相結(jié)合，突然讓我對AI安全非常感興趣。這些東西真的會比我們聰明得多。

75歲時，Hinton離開了谷歌。

他澄清說，離開并不是因為對谷歌有什么不滿——恰恰相反，他認為谷歌表現(xiàn)得非常負責任。當谷歌擁有大型聊天機器人時，他們沒有急于發(fā)布，可能是擔心損害自己的聲譽。

反觀OpenAI，Hinton說：

OpenAI沒有聲譽。所以他們可以承擔這個賭注。

Hinton 的話里透露出一個無奈而諷刺的現(xiàn)實——Hinton的學生Ilya Sutskever離開谷歌創(chuàng)立了OpenAI，并開發(fā)出了ChatGPT，引領(lǐng)了這場AI革命。

而Hinton本人，卻成了最大聲疾呼AI 風險的人之一。

但Hinton對AI的態(tài)度并非完全悲觀。

在另一段采訪中，他描繪了人類與AI共生的美好愿景：

AI將被廣泛使用，而且會變得非常智能。如果我們能達到人類與AI共生的狀態(tài)，AI將讓世界對人類來說更加有趣。平凡的事情將由AI完成，這種共生關(guān)系將讓人們學得更快，生活更有趣。這是好的場景，我希望我們能實現(xiàn)它。

然而，他也清醒地指出了現(xiàn)實的殘酷：

這很快就涉及到政治，因為將要發(fā)生的是，平凡的智力工作將由AI完成，這將取代很多工作。在某些領(lǐng)域這很好。例如在醫(yī)療保健中，如果你能讓醫(yī)生和護士更高效，我們都可以獲得更多的醫(yī)療保健。我們都想有個隨時可以詢問的醫(yī)生。

他警告道：

但在其他領(lǐng)域，你只需要那么多，這將導致失業(yè)。我相信有些人認為不會。有些人認為會創(chuàng)造新的工作。我不相信。擔心的是，生產(chǎn)力會大幅提升，這本應是好事。但生產(chǎn)力大幅提升帶來的商品和服務增長不會惠及大多數(shù)人。許多人會失業(yè)，少數(shù)人會變得非常富有。這不是AI的問題，而是AI在我們現(xiàn)有社會中發(fā)展的問題。

Prashan Agarwal(@prashan_agarwal)評論稱：

Hinton的軌跡幾乎像神話。先點燃火焰，然后警告大家小心燒傷。進步和謹慎不是敵人，它們只需要保持對話。

FanTV AI(@FanTV_official)也感慨：

技術(shù)界的師承關(guān)系就是這樣回響。一代人建造工具，下一代人拿著它們狂奔……有時候跑得太遠了。

更讓人深思的是Hinton對AI 末日的概率評估。

AIFRontier(@EdgeOfFiRa)在聽完播客后指出：

值得注意的是，一直被描繪成AI末日論者的他，實際上只給末日場景分配了10-20%的概率。值得反思的是，專家的不確定性是如何被壓縮成二元的末日/繁榮框架供公眾消費的。

但misaligned hominid(@ra75293)認為：

他的末日概率超過50%。他說10-20%只是因為Yann LeCun說得更低。但他基本上認為我們完蛋了。

關(guān)于AI未來的爭論還在繼續(xù)。

有人擔心我們正走向滅絕，有人則認為沒人真正知道未來會怎樣。

cptbhb(@werwt5yvh)悲觀地說：

歷史上好幾次，我們離核末日如此之近，最后都是靠某個隨機的人違抗命令才幸免。有權(quán)勢的人都是徹底的傻瓜。沒有大人在房間里，也沒有人在掌舵。

Hinton的故事也揭示了AI 發(fā)展中的悖論。

一個為了兒子的未來而投身商業(yè)的科學家，最終成了警告AI可能毀滅人類未來的先知。他的學生們推動著AI革命滾滾向前，而他卻在努力讓這列火車慢下來。

Hinton 仍在警告著AI 風險——

而Sam Altman 領(lǐng)導下的OpenAI，正在引領(lǐng)他點燃的AI 革命。

播客Geoffrey Hinton on The Diary of a CEO: https://www./watch?v=giT0ytynSqg