大數(shù)據(jù)文摘出品

作者：宋欣儀

我們都會遺忘，但是遺忘的過程是什么樣子的？從一閉眼就能浮現(xiàn)的那張清晰的臉龐到那一團模糊不清的影子，是眉毛先消失還是眼睛先不見？

最近，一位藝術(shù)家想用AI展現(xiàn)這個過程。

她創(chuàng)建了一張算法生成的臉，然后通過逐漸關(guān)閉個別神經(jīng)元，讓AI慢慢忘記這張臉，并把這個過程可視化為了一段視頻。

視頻的名字叫做'What I saw before the darkness“，為我們展示了一個AI的心靈運作過程。

視頻中最開始展現(xiàn)的面孔由生成對抗網(wǎng)絡(luò)（GAN）生成，GAN是一種機器學(xué)習(xí)程序，可以從現(xiàn)有照片中學(xué)習(xí)以產(chǎn)生新事物。通過這種方式GAN訓(xùn)練了數(shù)以百萬計的肖像，可以生成逼真的人臉。

網(wǎng)絡(luò)相互連接的神經(jīng)元決定了這張臉的特征：眼睛，膚色，形狀，頭發(fā)，類似于人類大腦使用神經(jīng)元網(wǎng)絡(luò)來構(gòu)建面部的心理圖像。

而項目的創(chuàng)作者試圖教會AI忘記。通過逐漸關(guān)閉個別神經(jīng)元，然后重復(fù)這個過程，直到AI完全“忘記”這張臉。

視頻展現(xiàn)的效果有點讓人毛骨悚然。起初看起來好像是生成的人臉正在迅速老化。無數(shù)細小的線條出現(xiàn)在她的眼睛下方和臉部周圍，她的頭發(fā)開始變薄和變淡。

幾秒鐘后，出現(xiàn)了一些完全不同的東西。她的皮膚逐漸變成綠色的色調(diào)，而隨著神經(jīng)元繼續(xù)變暗，她的特征開始消失。

六十秒內(nèi)，這張臉完全腐爛了，只剩下一些白色和棕色的色調(diào)。

最后會變成線條然后完全變黑。

創(chuàng)作者介紹這個項目的靈感是源于對人類感知的思考，人類所看到的一切其實都是大腦對周圍世界的再解釋。一個人無法直接進入外部現(xiàn)實，只能通過在大腦再構(gòu)建一個圖像的方式接觸世界。

印象派畫家莫奈的代表畫作《議會大廈》

克勞德·莫奈的畫作在他的晚年風(fēng)格發(fā)生了變化，他晚期的畫筆觸逐漸變得模糊，而且色調(diào)會偏向混亂的綠色和黃色。人類的眼睛和大腦以及連接它們的網(wǎng)絡(luò)隨時間會經(jīng)歷變化或者說是惡化，而通常我們?nèi)祟惒粫⒁獾竭@一變化。

雖然說大腦里有一個全新的被建構(gòu)的世界，但是它不是空中樓閣，憑空捏造的。在某些方面，深度神經(jīng)網(wǎng)絡(luò)與視覺系統(tǒng)非常相似，神經(jīng)網(wǎng)絡(luò)是非常神秘的東西，他們作出的一些決定可能連創(chuàng)造它們的專家都無法解釋。

這個項目可以幫助模擬世界在人們心中發(fā)生變化的過程，通過倒推神經(jīng)網(wǎng)絡(luò)的工作步驟，通過系統(tǒng)地刪除神經(jīng)元，看看哪些圖片對AI的世界是重要的，也許可以成為揭開人工智能的面紗，打開黑匣子的一個辦法。

一個比較流行的比喻解釋了為什么人們會忘記：人們的大腦的容量會飽和，因此，我們需要忘記一些東西給大腦騰出更多的存儲空間。

遺忘不僅僅是一次失敗的記憶，這是一個積極的過程，可以幫助大腦獲取新信息并更有效地做出決策，遺忘是人的能力。

記憶幫助我們了解這個世界，而不僅僅是記住它。用這種方法，我們似乎保留了有用的、有價值的和相關(guān)的記憶，同時忘記了低價值的信息。對于人類而言，遺忘可以通過減少過時信息對我們決策的影響來增強靈活性。還可以防止過度擬合特定的過去事件，促進概括（神經(jīng)元）有效值。為了地適應(yīng)生活，人類需要能夠戰(zhàn)略性地忘記。

盡管忘記有時候會使我們感到沮喪，但人類忘記的能力正是我們優(yōu)于人工智能的地方。計算機記憶即電腦內(nèi)存，通常是指存儲信息和找回信息的容量，以及存儲這些信息的計算機物理組件。當(dāng)計算機的某些內(nèi)存不再被任務(wù)需要時，計算機將“忘記”這些數(shù)據(jù)，釋放空間供其他任務(wù)源。

AI存儲記憶的一種方法是象征性的記憶表征，其中，知識是由邏輯事實來表示的（如“鳥會飛”，“Tweety是鳥”，因此“Tweety可以飛”）。這些高度結(jié)構(gòu)化的人造表示雖然可以很容易地刪除，就像在電腦上刪除一個文件。但是機器學(xué)習(xí)算法不知道需要什么時候保留舊信息，什么時候拋棄過時的信息。不僅如此，它還會面臨著與“遺忘”有關(guān)的幾個問題。

一個是“過學(xué)習(xí)”的問題。“過學(xué)習(xí)”指的是當(dāng)一個學(xué)習(xí)機器存儲了源于以往經(jīng)驗的過于詳細的信息時，阻礙了其概括和預(yù)測未來事件的能力。另外有時人造神經(jīng)網(wǎng)絡(luò)的神經(jīng)元在學(xué)習(xí)過程的早期采用不良的激活模式，會損害AI的未來學(xué)習(xí)能力。

還有一個問題是“災(zāi)難性遺忘”。 比如如果教一個說英語的孩子學(xué)習(xí)西班牙語，孩子會很容易把學(xué)習(xí)英語的方法應(yīng)用到西班牙語的學(xué)習(xí)中，比如名詞，動詞時態(tài)，句子構(gòu)建，同時忘記那些不相關(guān)，比如口音，喃喃自語，語調(diào)。人類可以同時進行遺忘和學(xué)習(xí)。

相反，如果訓(xùn)練神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)英語，則參數(shù)需要適用于英語。如果還想同時教它西班牙語，對西班牙語的新改編將覆蓋神經(jīng)網(wǎng)絡(luò)以前為英語獲得的知識，有效地刪除所有內(nèi)容并重新開始。這被稱為“ 災(zāi)難遺忘 ”，也是神經(jīng)網(wǎng)絡(luò)的一個局限。

倫理方面的考量也是一個問題。人類死后他們的數(shù)據(jù)要怎么處理？一旦那個人死了，是否能夠用這些數(shù)據(jù)再訓(xùn)練AI然后復(fù)制出另一個他？缺乏適用的法律、規(guī)則，沒有設(shè)定好的邊界，我們留下了一個沒有人控制的分散系統(tǒng)。算法不能選擇忘記什么，而負責(zé)它們的人可能沒有權(quán)利或解決問題的能力。

廉價的信息存儲代價和AI無窮的容量相結(jié)合，打造出了一個看似非常有吸引力的工具，但背后的問題是大量數(shù)據(jù)持續(xù)的收集，而沒有簡單的方法來“忘記”數(shù)據(jù)。

要創(chuàng)造更好的人工智能，首先要了解我們的大腦在關(guān)于什么是值得記住的，什么是要遺忘的方面是如何做決定的。

然后應(yīng)用到AI，就像人一樣，人工智能應(yīng)該記住重要和有用的信息，同時忘記低價值，無關(guān)緊要的知識。然而，確定什么是相關(guān)和有價值的信息，除了手頭的任務(wù)之外，還加入包括如倫理，法律和隱私問題等因素。

學(xué)會遺忘是人工智能面臨的重大挑戰(zhàn)之一。雖然它仍然是一個新的領(lǐng)域，但科學(xué)家最近已經(jīng)探索了一些關(guān)于如何克服這一局限的常識性理論，比如循環(huán)神經(jīng)網(wǎng)絡(luò)LSTM，它使用特定的學(xué)習(xí)機制來決定要記住哪些信息，要更新哪些信息，以及在任何時候注意。

還有谷歌DeepMind的研究人員提出的EWC算法，該算法模仿突觸合并的神經(jīng)運作過程。在神經(jīng)網(wǎng)絡(luò)中，使用多個連接（如神經(jīng)元）來執(zhí)行任務(wù)。EWC將某些連接編碼為關(guān)鍵，從而保護它們不被覆蓋/遺忘。

藍線=標(biāo)準(zhǔn)深度學(xué)習(xí)，紅色和棕色線=在EWC的幫助下進行改進

但是未來真正的轉(zhuǎn)變還需要領(lǐng)導(dǎo)人工智能開發(fā)，技術(shù)專家，倫理學(xué)家，研究人員，學(xué)者，社會學(xué)家，政策制定者和政府的私人實體的共同合作。

相關(guān)報道：

https:///how-to-make-ai-forget/ 

https:///machine-un-learning-why-forgetting-might-be-the-key-to-ai-406445177a80

https://www./en_us/article/evym4m/ai-told-me-human-face-neural-networks

https://www./story/the-next-big-privacy-hurdle-teaching-ai-to-forget/