人工神經(jīng)元芯片獲新突破 誰將主導(dǎo)“類腦計算”的未來趨勢?
脈沖神經(jīng)網(wǎng)絡(luò)芯片商業(yè)化還需要好幾年
本文引用地址:http://www.ex-cimer.com/article/201608/295481.htm條條大路通羅馬。不同技術(shù)路線的存在,也自有其生存的土壤。
人工神經(jīng)網(wǎng)絡(luò)是從算法向硬件發(fā)展的。吳甘沙告訴記者,傳統(tǒng)的算法在通用芯片(CPU和GPU)上效率不高,于是出現(xiàn)了特定的算法加速器,來加速包括卷積神經(jīng)網(wǎng)絡(luò)、遞歸神經(jīng)網(wǎng)絡(luò)在內(nèi)的各種神經(jīng)網(wǎng)絡(luò)算法。比如Teradeep,它來源于Yann LeCun(上文提到的深度學習大神)的工作NeuFlow,已經(jīng)實現(xiàn)了商業(yè)化。
中國科學院計算技術(shù)研究所寒武紀系列芯片在知識產(chǎn)權(quán)布局上非常獨到,也開始了商業(yè)化的探索。谷歌的TPU(Tensor Processing Unit)也是一種專用的加速器芯片,跟其深度學習軟件Tensor Flow匹配。就中短期而言,這類芯片有很好的商業(yè)化前景。
對于神經(jīng)擬態(tài)芯片,常常見諸媒體的是架構(gòu)和處理器層面的進展。吳甘沙提出,IBM的TrueNorth芯片和高通的Zeroth芯片,兩者都基于脈沖神經(jīng)網(wǎng)絡(luò)。TrueNorth發(fā)源于DARPA的SyNAPSE,展示了在100mW功耗下模擬復(fù)雜的遞歸神經(jīng)網(wǎng)絡(luò)的能力,體現(xiàn)了這一架構(gòu)的獨特之處(但也有人指出功耗優(yōu)勢來自較低的主頻)。Zeroth的商業(yè)試用并不成功,目前已轉(zhuǎn)向人工神經(jīng)網(wǎng)絡(luò)加速器。
英特爾也在做脈沖神經(jīng)網(wǎng)絡(luò)的芯片,估計商業(yè)化還需要好幾年。即便如此,各家公司還是投入重兵,因為它所代表的新型處理范式——計算與記憶的一體化、復(fù)雜互聯(lián)、遞歸、時空編碼、異步、低精度、隨機性、高容錯等特征,有很高的研究價值。例如,生物神經(jīng)元有很多突觸連接,這在硅芯片上很難實現(xiàn)。另外,傳統(tǒng)的CPU和GPU都是同步的,實現(xiàn)神經(jīng)擬態(tài)需要異步電路。
“所以說,另一種思路是在器件方面得到突破,比如DARPA UPSIDE基于模擬芯片,有些類腦芯片基于憶阻器(memristor),以及IBM剛剛宣布的人工神經(jīng)元,所有這些都比傳統(tǒng)的晶體管更容易實現(xiàn)類腦計算。”吳甘沙強調(diào)。
“IBM的神經(jīng)元新器件對脈沖神經(jīng)網(wǎng)絡(luò)的硬件實現(xiàn)有很大幫助,但這類模型在算法方面尚有很長的路要走。”陳天石表示,“未來也許會有突破,但近年不樂觀。”
實際上,對于人工神經(jīng)元芯片的問世,IBM自身也是非常清醒的。他們在指出“這些相變神經(jīng)元是我們到目前為止所創(chuàng)造出的行為最接近生物神經(jīng)元的人工器件”的同時,也強調(diào)將面臨“更難的部分——編寫一些能夠真正利用該芯片的神經(jīng)形態(tài)的軟件”。
但正如IBM所說:“我們沒有任何理由止步于此。”
評論