|
IBM蘇黎世研究院創(chuàng)造出了世界上首個人工納米級的隨機(jī)相變神經(jīng)元，他們已將論文發(fā)表在了Nature Nanotechnology上。據(jù)介紹，IBM已經(jīng)創(chuàng)造出了500個這樣的人工神經(jīng)元，并使用它們以類似大腦（神經(jīng)形態(tài)）的方式處理過了信號。 這一突破相當(dāng)?shù)刂档藐P(guān)注，因為這種相變神經(jīng)元是由已經(jīng)被充分理解的材料制成的，其尺寸能縮減至數(shù)個納米級，而且它們能夠高速爆發(fā)動作電位而能量需求卻很低。這種神經(jīng)元的隨機(jī)性（stochasticity）也很重要——也就是它們總是產(chǎn)生稍微不同的、隨機(jī)結(jié)果的能力，如同生物神經(jīng)元一樣。 設(shè)計這種神經(jīng)元是為了在僅使用傳統(tǒng)芯片能耗的幾分之一的情況下更好地處理大量的數(shù)據(jù)。IBM蘇黎世研究院的科學(xué)家Tomas Tuma（論文第一作者）說，「如今的挑戰(zhàn)是接收量級和復(fù)雜度都不斷增大的數(shù)據(jù)，并且使用較小的功率和較少的能耗提取里面有用的知識?！?/span> 技術(shù)：人工相變神經(jīng)元的構(gòu)建 閑言少敘，讓我們看一下這些相變神經(jīng)元如何構(gòu)建的： 圖解 IBM 的單個相變神經(jīng)元 相變神經(jīng)元的動力。左下展示了 GST 的漸結(jié)晶化，當(dāng)有足夠的晶體（藍(lán)色顯示）之后，神經(jīng)元就會放電。 在左邊你可以看到單個相變神經(jīng)元的初始行為，中間你能看到在數(shù)秒后它有什么行為。 像生物神經(jīng)元一樣，IBM的人工神經(jīng)元也有輸入（樹突）、一個圍繞著尖峰發(fā)生器（胞體、細(xì)胞核）的神經(jīng)元膜（雙層脂膜（lipid bilayer））和一個輸出（軸突）。從尖峰發(fā)生器（spike generator）到輸入之間有一個反向傳播連接，可強(qiáng)化一些輸入峰值的強(qiáng)度。 這種人工神經(jīng)元和生物神經(jīng)元的主要區(qū)別是在神經(jīng)元膜中。在真正的神經(jīng)元中，里面會是雙層脂膜，本質(zhì)上是充當(dāng)電阻器和電容器：它抗電導(dǎo)，但在輸入樹突最后有足夠電力的情況下，它將建立足夠的電勢產(chǎn)生自己的峰值（spike of electricity），然后從軸突流動到其他神經(jīng)元等等，并繼續(xù)下去。 在IBM的神經(jīng)元中，神經(jīng)元膜被替換成了小塊的鍺-銻-碲（germanium-antimony-tellurium，GeSbTe或GST）。GST剛好是其他可復(fù)寫光碟的主要原料，也是一個相變材料。這意味著它能以兩種不同的相存在（這里是晶體與非晶體），而且能輕松的在兩者間進(jìn)行轉(zhuǎn)換，通常是通過加熱進(jìn)行轉(zhuǎn)換（方式是激光或者電力）。一個相變材料因所在相的不同有相當(dāng)不同的物理特性：在GST中，非晶相是電絕緣體，晶體相卻導(dǎo)電。 帶有這些人工神經(jīng)元的GST方塊在非晶相開始了其生命周期。然后，隨著輸入中尖峰信號（spikes）的到來，GST開始緩慢結(jié)晶。最終，GST的結(jié)晶達(dá)到足夠程度使其變得導(dǎo)電——于是，電流流過細(xì)胞膜并創(chuàng)造一個尖峰信號。在一個任意的不應(yīng)期（refractory period，指不會響應(yīng)刺激的休止階段）后，GST會被重置回它的非晶相，然后重新開始這個過程。 「隨機(jī)」是指系統(tǒng)的結(jié)果中存在隨機(jī)量（randomness）。生物神經(jīng)元因為有各種不同的噪聲（離子電導(dǎo)、熱、背景噪聲），所以是隨機(jī)的。IBM說它的人工神經(jīng)元能表現(xiàn)出類似的隨機(jī)行為，因為每個GST細(xì)胞的非晶狀態(tài)在每次重置之后總是稍有不同，這又會繼續(xù)導(dǎo)致其結(jié)晶過程各不相同。因此，這些工程師從來不明確知道每個神經(jīng)元會何時放電。 一個滿是相變器件（銀色方塊）的晶圓的照片。要讓這樣的實(shí)際成果工作，必需要探針：這只是一塊原型芯片，沒有可以連接到電路板的線路/引腳。 IBM 人工神經(jīng)元的應(yīng)用 現(xiàn)在有兩個主要的發(fā)展方向。第一，這種由已被充分理解的材料構(gòu)成的人工神經(jīng)元具有很好的性能特點(diǎn)，可以長時間持續(xù)（數(shù)萬億個開關(guān)周期），并且可以在先進(jìn)的節(jié)點(diǎn)上制造/集成（上圖所示芯片所采用的工藝是90納米，但研究論文中提到了14納米的可能性）。在這次的研究中提出的這種相變器件已經(jīng)相當(dāng)小了——大約100納米見方。 IBM 的多人工神經(jīng)元計算機(jī)的模樣 第二，這些相變神經(jīng)元是我們到目前為止所創(chuàng)造出的行為最接近生物神經(jīng)元的人工器件，也會能為我們帶來一種高效的、大規(guī)模的并行計算機(jī)設(shè)計——應(yīng)用神經(jīng)形態(tài)的方法來進(jìn)行決策和處理傳感信息。IBM表示他們的新成果和正在研發(fā)的基于憶阻器（memristor）的突觸是相輔相成的。 到目前為止，IBM已經(jīng)構(gòu)建出了10x10的神經(jīng)元交叉陣列，并將這樣的5個陣列連接起來創(chuàng)建了一個包含多達(dá)500個神經(jīng)元的神經(jīng)元群，然后讓它以一種全新的類腦方式處理了寬帶信號。（用技術(shù)方面的術(shù)語來說：這些神經(jīng)元表現(xiàn)出了和生物神經(jīng)元涌現(xiàn)出的一樣的「群編碼（population coding）」，而且這種信號處理規(guī)避了奈奎斯特-香農(nóng)采樣定理。） 但我們沒有任何理由止步于此。現(xiàn)在是時候?qū)?shù)千個這樣的相變神經(jīng)元集成到單一一塊芯片上了——然后是更難的部分：編寫一些能夠真正利用該芯片的神經(jīng)形態(tài)的軟件。
摘要：在理解人腦和構(gòu)建神經(jīng)計算系統(tǒng)上，基于棘波神經(jīng)元（spiking neurons）群的人工神經(jīng)形態(tài)系統(tǒng)是一種不可或缺的工具。要實(shí)現(xiàn)可與生物系統(tǒng)相比的尺寸和能量效率，基于電離子和基于相變的憶阻器件一直被看作是突觸的納米級對應(yīng)物而被研究。但是，神經(jīng)元的可擴(kuò)展的實(shí)現(xiàn)的進(jìn)展一直以來都很有限。在這里我們提出了一種可用于創(chuàng)造人工神經(jīng)元的基于硫族化物的相變材料，該人工神經(jīng)元的膜電位可由該納米相變器件的相結(jié)構(gòu)表示。通過利用非晶到結(jié)晶相變的這個可逆的物理過程，我們發(fā)現(xiàn)突觸后電位（postsynaptic potentials）的時間積分可以在納秒級的時間尺度上實(shí)現(xiàn)。此外，我們發(fā)現(xiàn)在神經(jīng)元重置過程中會發(fā)生原子結(jié)構(gòu)的熔融-驟冷-誘導(dǎo)生成（melt-quench-induced），所以該重置過程本質(zhì)上是隨機(jī)的。我們還在高帶寬信號的并行數(shù)據(jù)流和亞奈奎斯特表示（sub-Nyquist representation）中的時間關(guān)聯(lián)性檢測中演示了這些相變神經(jīng)元及它們的群的使用。 轉(zhuǎn)自機(jī)器之心  |
|
|
