節(jié)能芯片可以執(zhí)行強大的人工智能任務

近年來，人工智能領域的一些最令人興奮的進步已經(jīng)成為卷積神經(jīng)網(wǎng)絡，簡單信息處理單元的大型虛擬網(wǎng)絡，它們在人類大腦的解剖學上松散地建模。

神經(jīng)網(wǎng)絡通常使用圖形處理單元(GPU)來實現(xiàn)，所述圖形處理單元是在具有屏幕的所有計算設備中找到的專用圖形芯片。移動GPU是手機中的類型，可能有近200個內(nèi)核或處理單元，非常適合模擬分布式處理器網(wǎng)絡。

在本周于舊金山舉行的國際固態(tài)電路會議上，麻省理工學院的研究人員提出了一種專門用于實現(xiàn)神經(jīng)網(wǎng)絡的新芯片。它的效率是移動GPU的10倍，因此它可以使移動設備在本地運行強大的人工智能算法，而不是將數(shù)據(jù)上傳到Internet進行處理。

神經(jīng)網(wǎng)絡在人工智能研究的早期被廣泛研究，但到了20世紀70年代，它們已經(jīng)失寵了。然而，在過去十年中，他們以“深度學習”的名義享受了復興。

研究人員稱之為“Eyeriss”的新芯片也可以幫助引入“物聯(lián)網(wǎng)” - 車輛，電器，土木工程結構，制造設備，甚至牲畜都會有傳感器直接報告信息的想法聯(lián)網(wǎng)服務器，幫助維護和任務協(xié)調(diào)。借助強大的人工智能算法，聯(lián)網(wǎng)設備可以在本地做出重要決策，只將結論而非原始個人數(shù)據(jù)委托給互聯(lián)網(wǎng)。當然，板載神經(jīng)網(wǎng)絡對電池供電的自動機器人很有用。

神經(jīng)網(wǎng)絡通常被組織成層，并且每個層包含大量處理節(jié)點。數(shù)據(jù)進入并在底層的節(jié)點之間劃分。每個節(jié)點操縱它接收的數(shù)據(jù)并將結果傳遞給下一層中的節(jié)點，這些節(jié)點操縱它們接收的數(shù)據(jù)并傳遞結果，依此類推。最后一層的輸出產(chǎn)生了一些計算問題的解決方案。

在卷積神經(jīng)網(wǎng)絡中，每層中的許多節(jié)點以不同的方式處理相同的數(shù)據(jù)。因此，網(wǎng)絡可以膨脹到很大的比例。雖然它們在許多視覺處理任務上勝過更多傳統(tǒng)算法，但它們需要更多的計算資源。

由神經(jīng)網(wǎng)絡中的每個節(jié)點執(zhí)行的特定操作是訓練過程的結果，其中網(wǎng)絡試圖找到原始數(shù)據(jù)與由人類注釋器應用于其的標簽之間的相關性。使用像麻省理工學院研究人員開發(fā)的芯片，可以將訓練有素的網(wǎng)絡簡單地導出到移動設備中。

該應用對研究人員施加了設計約束。一方面，降低芯片功耗和提高效率的方法是使每個處理單元盡可能簡單; 另一方面，芯片必須足夠靈活，以實現(xiàn)針對不同任務量身定制的不同類型的網(wǎng)絡。

Sze和她的同事 - Yu-Hsin Chen，電氣工程和計算機科學研究生，會議論文的第一作者; Joel Emer，麻省理工學院電氣工程與計算機科學系的實踐教授，芯片制造商NVidia的高級杰出研究科學家，以及Sze，該項目的兩位主要研究人員之一; 和Tushar Krishna一起擔任新加坡 - 麻省理工學院研究與技術聯(lián)盟的博士后工作，現(xiàn)在是喬治亞理工學院計算機和電氣工程的助理教授 - 定居在擁有168個核心的芯片上，大致與移動GPU有。

Eyeriss效率的關鍵在于最小化核心與遠程存儲體交換數(shù)據(jù)所需的頻率，這種操作會消耗大量的時間和精力。雖然GPU中的許多內(nèi)核共享一個大型內(nèi)存庫，但每個Eyeriss內(nèi)核都有自己的內(nèi)存。此外，芯片具有在將數(shù)據(jù)發(fā)送到各個核之前壓縮數(shù)據(jù)的電路。

每個核心也能夠直接與其直接鄰居通信，因此，如果他們需要共享數(shù)據(jù)，則不必將其路由到主存儲器。這在卷積神經(jīng)網(wǎng)絡中是必不可少的，其中許多節(jié)點正在處理相同的數(shù)據(jù)。

芯片效率的最后一個關鍵是專用電路，可以跨核心分配任務。在其本地存儲器中，核心不僅需要存儲由其模擬的節(jié)點操縱的數(shù)據(jù)，還需要存儲描述節(jié)點本身的數(shù)據(jù)?？梢葬槍Σ煌愋偷木W(wǎng)絡重新配置分配電路，以最大化在從主存儲器獲取更多數(shù)據(jù)之前它們中的每一個可以做的工作量的方式跨核來自動分配兩種類型的數(shù)據(jù)。

在會議上，麻省理工學院的研究人員使用Eyeriss實現(xiàn)了一個執(zhí)行圖像識別任務的神經(jīng)網(wǎng)絡，這是第一次在定制芯片上演示了最先進的神經(jīng)網(wǎng)絡。

“這項工作非常重要，展示了深度學習的嵌入式處理器如何提供功率和性能優(yōu)化，將這些復雜的計算從云端帶到移動設備，”三星移動處理器創(chuàng)新實驗室的高級副總裁Mike Polley說。“除硬件考慮因素外，麻省理工學院的論文還通過支持行業(yè)標準的[網(wǎng)絡架構] AlexNet和Caffe，仔細考慮如何使嵌入式核心對應用程序開發(fā)人員有用。”

麻省理工學院研究人員的工作部分由DARPA資助。