工程師為腦上芯片硬件設計人工突觸

在整潔的足球大小的器官內(nèi)，大約有1000億個神經(jīng)元。在任何給定的時刻，單個神經(jīng)元可以通過突觸將指令傳遞給數(shù)以千計的其他神經(jīng)元 - 神經(jīng)元之間的空間，神經(jīng)遞質(zhì)在神經(jīng)遞質(zhì)之間交換。有超過100萬億個突觸介導大腦中的神經(jīng)元信號傳導，在修剪其他人時加強一些連接，使大腦能夠以閃電般的速度識別模式，記住事實并執(zhí)行其他學習任務。

新興的“神經(jīng)形態(tài)計算”領域的研究人員試圖設計出像人腦一樣工作的計算機芯片。與今天的數(shù)字芯片一樣，基于二進制，開/關信號進行計算，“芯片上的大腦”的元素將以模擬方式工作，交換信號梯度或“權重”，就像神經(jīng)元以各種方式激活，取決于流過突觸的離子的類型和數(shù)量。

通過這種方式，小型神經(jīng)形態(tài)芯片可以像大腦一樣有效地處理數(shù)百萬個目前只有大型超級計算機才能實現(xiàn)的并行計算流。但是，在這種便攜式人工智能的過程中，一個重要的障礙就是神經(jīng)突觸，這在硬件中重現(xiàn)起來特別棘手。

現(xiàn)在麻省理工學院的工程師設計了一種人工突觸，它可以精確控制流過它的電流強度，類似于離子在神經(jīng)元之間流動的方式。該團隊已經(jīng)建立了一個帶有人工突觸的小芯片，由硅鍺制成。在模擬中，研究人員發(fā)現(xiàn)芯片及其突觸可用于識別手寫樣本，準確率為95%。

該設計于今天發(fā)表在Nature Materials雜志上，是構建用于模式識別和其他學習任務的便攜式低功耗神經(jīng)形態(tài)芯片的重要一步。

該研究由Jeehwan Kim領導，他是1947年機械工程和材料科學與工程系的職業(yè)發(fā)展助理教授，也是麻省理工學院電子與微系統(tǒng)技術實驗室研究實驗室的首席研究員。他的合著者是亞利桑那州立大學的Shinyun Choi(第一作者)，Scott Tan(共同第一作者)，Zefan Li，Yunjo Kim，Chanyeol Choi和Hanwool Yeon，以及亞洲州立大學的Pai-Yu Chen和Shimeng Yu。

大多數(shù)神經(jīng)形態(tài)芯片設計試圖使用由“切換介質(zhì)”或突觸樣空間隔開的兩個導電層來模擬神經(jīng)元之間的突觸連接。當施加電壓時，離子應該在開關介質(zhì)中移動以產(chǎn)生導電細絲，類似于突觸的“重量”如何變化。

但是在現(xiàn)有設計中很難控制離子流動。Kim說這是因為大多數(shù)由非晶材料制成的開關介質(zhì)都有無限可能的離子可以通過的路徑 - 有點像Pachinko，一種機械街機游戲，通過一系列的針和杠桿將小鋼球漏斗，將球轉移或引導出機器。

與Pachinko一樣，現(xiàn)有的交換介質(zhì)包含多條路徑，這使得難以預測離子將通過的位置。金說，這可能會在突觸的表現(xiàn)中產(chǎn)生不必要的不??均勻性。

“一旦你用人工神經(jīng)元施加一些電壓來表示一些數(shù)據(jù)，你必須擦除并能夠以完全相同的方式再次寫入它，”Kim說。“但是在無定形固體中，當你再次寫入時，離子會向不同的方向發(fā)展，因為存在許多缺陷。這個流正在改變，很難控制。這是最大的問題 - 人工突觸的不均勻性。“

Kim和他的同事們沒有使用無定形材料作為人工突觸，而是研究了單晶硅，這是一種無缺陷的導電材料，由連續(xù)排列的原子排列而成。該團隊試圖通過硅產(chǎn)生精確的，一維的線缺陷或位錯，離子可以通過硅預測流動。

為此，研究人員開始使用硅晶片，在微觀分辨率上類似于雞絲圖案。然后，他們在硅晶片的頂部生長出類似的硅鍺圖案 - 一種也常用于晶體管的材料。硅鍺的晶格略大于硅的晶格，Kim發(fā)現(xiàn)，兩種完全不匹配的材料一起形成漏斗狀的位錯，形成離子可以流過的單一路徑。

研究人員制作了一個神經(jīng)形態(tài)芯片，由人工突觸組成，由硅鍺制成，每個突觸的大小約為25納米。他們對每個突觸施加電壓，發(fā)現(xiàn)所有突觸表現(xiàn)出或多或少相同的電流或離子流，突觸之間的變異約為4% - 與非晶材料制成的突觸相比，性能更加均勻。

他們還在多次試驗中測試了單個突觸，在700個周期內(nèi)應用相同的電壓，并發(fā)現(xiàn)突觸顯示相同的電流，周期與周期之間僅有1%的變化。

“這是我們可以實現(xiàn)的最統(tǒng)一的設備，這是展示人工神經(jīng)網(wǎng)絡的關鍵，”Kim說。

作為最后的測試，Kim的團隊探索了它的設備在執(zhí)行實際學習任務時的表現(xiàn) - 特別是識別手寫樣本，研究人員認為這是神經(jīng)形態(tài)芯片的第一個實際測試。這種芯片將由“輸入/隱藏/輸出神經(jīng)元”組成，每個神經(jīng)元通過基于細絲的人工突觸連接到其他“神經(jīng)元”。

科學家們相信這樣的神經(jīng)網(wǎng)絡堆?？梢员?ldquo;學習”。例如，當輸入一個手寫的“1”輸入時，輸出會將其標記為“1”，某些輸出神經(jīng)元將被輸入神經(jīng)元激活和人工突觸的重量。當手寫的“1”的更多示例被饋送到同一芯片中時，當相同的輸出神經(jīng)元感知到相同字母的不同樣本之間的相似特征時，可以激活相同的輸出神經(jīng)元，從而以類似于大腦的方式“學習”。

Kim和他的同事們運行了一個人工神經(jīng)網(wǎng)絡的計算機模擬，該神經(jīng)網(wǎng)絡由三層通過兩層人工突觸相連的神經(jīng)層組成，其特性基于實際神經(jīng)形態(tài)芯片的測量結果。他們從神經(jīng)形態(tài)設計師常用的手寫識別數(shù)據(jù)集中模擬了數(shù)萬個樣本，并發(fā)現(xiàn)他們的神經(jīng)網(wǎng)絡硬件在95%的時間內(nèi)識別出手寫樣本，而現(xiàn)有軟件算法的準確率為97%。

該團隊正在制作一個可以執(zhí)行手寫識別任務的工作神經(jīng)形態(tài)芯片，而不是模擬但實際上。Kim表示，除了手寫外，該團隊的人工突觸設計將能夠?qū)崿F(xiàn)更小巧，便攜的神經(jīng)網(wǎng)絡設備，這些設備可以執(zhí)行目前只有大型超級計算機才能實現(xiàn)的復雜計算。

“最終我們想要一個像指甲一樣大的芯片來取代一臺大型超級計算機，”金說。“這開辟了生產(chǎn)真正人造硬件的墊腳石。”