節(jié)能芯片可以執(zhí)行強(qiáng)大的人工智能任務(wù)

近年來，人工智能領(lǐng)域的一些最令人興奮的進(jìn)步已經(jīng)成為卷積神經(jīng)網(wǎng)絡(luò)，簡單信息處理單元的大型虛擬網(wǎng)絡(luò)，它們在人類大腦的解剖學(xué)上松散地建模。

神經(jīng)網(wǎng)絡(luò)通常使用圖形處理單元(GPU)來實現(xiàn)，所述圖形處理單元是在具有屏幕的所有計算設(shè)備中找到的專用圖形芯片。移動GPU是手機(jī)中的類型，可能有近200個內(nèi)核或處理單元，非常適合模擬分布式處理器網(wǎng)絡(luò)。

在本周于舊金山舉行的國際固態(tài)電路會議上，麻省理工學(xué)院的研究人員提出了一種專門用于實現(xiàn)神經(jīng)網(wǎng)絡(luò)的新芯片。它的效率是移動GPU的10倍，因此它可以使移動設(shè)備在本地運(yùn)行強(qiáng)大的人工智能算法，而不是將數(shù)據(jù)上傳到Internet進(jìn)行處理。

神經(jīng)網(wǎng)絡(luò)在人工智能研究的早期被廣泛研究，但到了20世紀(jì)70年代，它們已經(jīng)失寵了。然而，在過去十年中，他們以“深度學(xué)習(xí)”的名義享受了復(fù)興。

研究人員稱之為“Eyeriss”的新芯片也可以幫助引入“物聯(lián)網(wǎng)” - 車輛，電器，土木工程結(jié)構(gòu)，制造設(shè)備，甚至牲畜都會有傳感器直接報告信息的想法聯(lián)網(wǎng)服務(wù)器，幫助維護(hù)和任務(wù)協(xié)調(diào)。借助強(qiáng)大的人工智能算法，聯(lián)網(wǎng)設(shè)備可以在本地做出重要決策，只將結(jié)論而非原始個人數(shù)據(jù)委托給互聯(lián)網(wǎng)。當(dāng)然，板載神經(jīng)網(wǎng)絡(luò)對電池供電的自動機(jī)器人很有用。

神經(jīng)網(wǎng)絡(luò)通常被組織成層，并且每個層包含大量處理節(jié)點。數(shù)據(jù)進(jìn)入并在底層的節(jié)點之間劃分。每個節(jié)點操縱它接收的數(shù)據(jù)并將結(jié)果傳遞給下一層中的節(jié)點，這些節(jié)點操縱它們接收的數(shù)據(jù)并傳遞結(jié)果，依此類推。最后一層的輸出產(chǎn)生了一些計算問題的解決方案。

在卷積神經(jīng)網(wǎng)絡(luò)中，每層中的許多節(jié)點以不同的方式處理相同的數(shù)據(jù)。因此，網(wǎng)絡(luò)可以膨脹到很大的比例。雖然它們在許多視覺處理任務(wù)上勝過更多傳統(tǒng)算法，但它們需要更多的計算資源。

由神經(jīng)網(wǎng)絡(luò)中的每個節(jié)點執(zhí)行的特定操作是訓(xùn)練過程的結(jié)果，其中網(wǎng)絡(luò)試圖找到原始數(shù)據(jù)與由人類注釋器應(yīng)用于其的標(biāo)簽之間的相關(guān)性。使用像麻省理工學(xué)院研究人員開發(fā)的芯片，可以將訓(xùn)練有素的網(wǎng)絡(luò)簡單地導(dǎo)出到移動設(shè)備中。

該應(yīng)用對研究人員施加了設(shè)計約束。一方面，降低芯片功耗和提高效率的方法是使每個處理單元盡可能簡單; 另一方面，芯片必須足夠靈活，以實現(xiàn)針對不同任務(wù)量身定制的不同類型的網(wǎng)絡(luò)。

Sze和她的同事 - Yu-Hsin Chen，電氣工程和計算機(jī)科學(xué)研究生，會議論文的第一作者; Joel Emer，麻省理工學(xué)院電氣工程與計算機(jī)科學(xué)系的實踐教授，芯片制造商N(yùn)Vidia的高級杰出研究科學(xué)家，以及Sze，該項目的兩位主要研究人員之一; 和Tushar Krishna一起擔(dān)任新加坡 - 麻省理工學(xué)院研究與技術(shù)聯(lián)盟的博士后工作，現(xiàn)在是喬治亞理工學(xué)院計算機(jī)和電氣工程的助理教授 - 定居在擁有168個核心的芯片上，大致與移動GPU有。

Eyeriss效率的關(guān)鍵在于最小化核心與遠(yuǎn)程存儲體交換數(shù)據(jù)所需的頻率，這種操作會消耗大量的時間和精力。雖然GPU中的許多內(nèi)核共享一個大型內(nèi)存庫，但每個Eyeriss內(nèi)核都有自己的內(nèi)存。此外，芯片具有在將數(shù)據(jù)發(fā)送到各個核之前壓縮數(shù)據(jù)的電路。

每個核心也能夠直接與其直接鄰居通信，因此，如果他們需要共享數(shù)據(jù)，則不必將其路由到主存儲器。這在卷積神經(jīng)網(wǎng)絡(luò)中是必不可少的，其中許多節(jié)點正在處理相同的數(shù)據(jù)。

芯片效率的最后一個關(guān)鍵是專用電路，可以跨核心分配任務(wù)。在其本地存儲器中，核心不僅需要存儲由其模擬的節(jié)點操縱的數(shù)據(jù)，還需要存儲描述節(jié)點本身的數(shù)據(jù)?？梢葬槍Σ煌愋偷木W(wǎng)絡(luò)重新配置分配電路，以最大化在從主存儲器獲取更多數(shù)據(jù)之前它們中的每一個可以做的工作量的方式跨核來自動分配兩種類型的數(shù)據(jù)。

在會議上，麻省理工學(xué)院的研究人員使用Eyeriss實現(xiàn)了一個執(zhí)行圖像識別任務(wù)的神經(jīng)網(wǎng)絡(luò)，這是第一次在定制芯片上演示了最先進(jìn)的神經(jīng)網(wǎng)絡(luò)。

“這項工作非常重要，展示了深度學(xué)習(xí)的嵌入式處理器如何提供功率和性能優(yōu)化，將這些復(fù)雜的計算從云端帶到移動設(shè)備，”三星移動處理器創(chuàng)新實驗室的高級副總裁Mike Polley說。“除硬件考慮因素外，麻省理工學(xué)院的論文還通過支持行業(yè)標(biāo)準(zhǔn)的[網(wǎng)絡(luò)架構(gòu)] AlexNet和Caffe，仔細(xì)考慮如何使嵌入式核心對應(yīng)用程序開發(fā)人員有用。”

麻省理工學(xué)院研究人員的工作部分由DARPA資助。