消除馮·諾伊曼瓶頸 Imec和GF合作展示新型人工智能芯片

專注于納米電子和數(shù)字技術的比利時微電子研究中心（Imec）聯(lián)合全球領先的特種晶圓代工企業(yè)格芯（Global Foundries），今天對一款新型人工智能芯片進行了硬件展示。這款人工智能芯片基于 Imec 的 Analog in Memory Computing (AiMC)架構，利用了格芯的 22FDX 解決方案，通過層層優(yōu)化能在模擬領域的內存計算硬件上執(zhí)行深度神經(jīng)網(wǎng)絡計算。

這款芯片的能效達到了創(chuàng)紀錄的 2900 TOPS/W，是低功耗設備邊緣推理的重要推動者。這項新技術在隱私、安全和延遲方面的優(yōu)勢，將對從智能音箱到自動駕駛汽車等多種邊緣設備的人工智能應用產(chǎn)生影響。

從數(shù)字計算機時代初期開始，處理器和內存是分開的，因此使用大量數(shù)據(jù)進行的操作需要從內存存儲中檢索出同樣多的數(shù)據(jù)元素。而這就是馮·諾伊曼瓶頸（von Neumann bottleneck）。

它是指在 CPU 與內存之間的流量（資料傳輸率）與內存的容量相比起來相當小，在現(xiàn)代電腦中，流量與CPU的工作效率相比之下非常小，在某些情況下（當CPU需要在巨大的資料上執(zhí)行一些簡單指令時），資料流量就成了整體效率非常嚴重的限制。CPU將會在資料輸入或輸出內存時閑置。由于CPU速度遠大于內存讀寫速率，因此瓶頸問題越來越嚴重。

為了解決這一挑戰(zhàn)，Imec 和包括格芯在內的合作伙伴啟動了工業(yè)附屬機器學習計劃， 致力于開發(fā)新的架構，在 SRAM 單元中執(zhí)行模擬計算來消除馮·諾伊曼瓶頸。

由此產(chǎn)生的模擬推理加速器(AnIA)，建立在GF的22FDX半導體平臺上，能效顯著。特性測試表明，功耗效率達到峰值，即每瓦特每秒2900兆次運算(TOPS/W)。在微型傳感器和低功耗邊緣設備中的模式識別，通常由數(shù)據(jù)中心的機器學習來驅動，現(xiàn)在可以在這個高能效加速器上本地執(zhí)行。