突破AI芯片限制 IMEC攜手格羅方德破馮諾伊曼瓶頸

比利時(shí)微電子研究中心（IMEC），日前與半導(dǎo)體代工廠格羅方德（GF)公開展示了全新AI芯片硬件。IMEC模擬內(nèi)存式運(yùn)算（AiMC）架構(gòu)及格羅方德22FDX制程為基礎(chǔ)的前提下，這款全新芯片經(jīng)過優(yōu)化，并于模擬環(huán)境中的內(nèi)存式運(yùn)算硬件進(jìn)行深度神經(jīng)網(wǎng)絡(luò)運(yùn)算。在達(dá)到高達(dá)2,900TOPS/W的創(chuàng)紀(jì)錄高能源效率后，加速器被視為低功率裝置進(jìn)行邊緣運(yùn)算推論的關(guān)鍵推手。這項(xiàng)新技術(shù)在隱私保護(hù)、安全性以及延遲性等各種優(yōu)勢(shì)，將為智慧喇叭、自駕車諸多邊緣設(shè)備的AI應(yīng)用程序帶來沖擊性的影響。

自數(shù)字計(jì)算機(jī)年代起，處理器早與內(nèi)存分道揚(yáng)鑣。使用大量數(shù)據(jù)的作業(yè)時(shí)，需要從內(nèi)存取回一樣數(shù)量的數(shù)據(jù)元素。此一限制又稱「馮諾伊曼瓶頸」（von Neumann bottleneck），會(huì)拖慢實(shí)際的指令周期，特別是在神經(jīng)網(wǎng)絡(luò)這種大量依賴向量矩陣乘法的運(yùn)算中。這些運(yùn)算除了仰賴數(shù)字計(jì)算機(jī)的精準(zhǔn)度外，還需要大量的能源。然而，若以準(zhǔn)確度較低的模擬技術(shù)執(zhí)行向量矩陣乘法，神經(jīng)網(wǎng)絡(luò)一樣可以獲得精確的結(jié)果。

為了因應(yīng)這個(gè)挑戰(zhàn)，IMEC透過旗下的產(chǎn)業(yè)聯(lián)合機(jī)器學(xué)習(xí)計(jì)劃，與格羅方德等產(chǎn)業(yè)伙伴開發(fā)了一套新架構(gòu)：在靜態(tài)隨機(jī)存取內(nèi)存單元（SRAM cells）中執(zhí)行模擬運(yùn)算，藉此消除「馮諾伊曼瓶頸」的限制。以此開發(fā)的模擬推論加速器（AnIA），則以格羅方德的22FDX制程半導(dǎo)體平臺(tái)為基礎(chǔ)，具有出色的能源效率。特征測(cè)試顯示，其能源效率高達(dá)2,900 TOPS/W。微型傳感器及低功率邊緣設(shè)備中的圖形識(shí)別，一般得仰賴數(shù)據(jù)中心的機(jī)器學(xué)習(xí)，如今可透過此一高效能加速器在地執(zhí)行。

IMEC機(jī)器學(xué)習(xí)計(jì)劃主持人Diederik Verkest表示：「AnIA成功的設(shè)計(jì)定案，代表我們已朝模擬內(nèi)存式運(yùn)算的驗(yàn)證邁進(jìn)重要一步。此一參考實(shí)作（reference implementation）不僅說明了模擬內(nèi)存式運(yùn)算的可行性，也代表它們的能源效率要比數(shù)位加速器好上10到100倍。在IMEC的機(jī)器學(xué)習(xí)計(jì)劃中，我們會(huì)針對(duì)模擬內(nèi)存式運(yùn)算，調(diào)整現(xiàn)有及新興的內(nèi)存裝置并予以優(yōu)化。這些前景看好的結(jié)果鼓舞我們進(jìn)一步發(fā)展這項(xiàng)技術(shù)，目標(biāo)是讓效率進(jìn)化至10,000 TOPS/W?！?/span>

格羅方德運(yùn)算暨有線基礎(chǔ)架構(gòu)的產(chǎn)品管理副總裁Hiren Majmudar也指出：「格羅方德利用自家的低能源、高性能22FDX制程技術(shù)平臺(tái)，與IMEC密切合作，并推出全新的AnIA 芯片。這款測(cè)試芯片能更進(jìn)一步地向業(yè)界展示22FDX 制程技術(shù)如何大幅降低能源密集型AI及機(jī)器學(xué)習(xí)應(yīng)用的功率耗損?！?/span>

放眼未來，格羅方德將把可在22FDX平臺(tái)上執(zhí)行的AiMC作為亮點(diǎn)，在AI市場(chǎng)上推出一套差異化解決方案。格羅方德的22FDX 采用了22nm FD-SOI 技術(shù)，可在極低能源的條件下有出色的表現(xiàn)，且足以在0.5伏特極低能源及每微米1微微安培的極低待機(jī)漏電流下運(yùn)作。搭載全新AiMC 功能的22FDX，目前已進(jìn)入開發(fā)階段，由格羅方德具備最先進(jìn)300mm生產(chǎn)線的德國(guó)德勒斯頓Fab 1晶圓廠負(fù)責(zé)。