為差異化AIoT應(yīng)用提供G PU 和神經(jīng)網(wǎng)絡(luò)加速器IP

　　Andrew?Grant（Imagination?Technologies人工智能產(chǎn)品營銷?資深總監(jiān)）

　　1 為AIoT提供神經(jīng)網(wǎng)絡(luò)加速器

　　Imagination Technologies專注于邊緣和終端上的人工智能物聯(lián)網(wǎng)（AIoT）。我們創(chuàng)建半導(dǎo)體知識產(chǎn)權(quán)（IP），SoC設(shè)計人員使用它們來開發(fā)用于邊緣設(shè)備的芯片。我們可以為神經(jīng)網(wǎng)絡(luò)增加加速功能，以使它們能夠在終端上快速運行，進(jìn)而增強(qiáng)邊緣的能力。在某些AI任務(wù)中，神經(jīng)網(wǎng)絡(luò)加速器（NNA）的性能是典型嵌入式CPU的100倍，從而將以前只有在數(shù)據(jù)中心才能實現(xiàn)的性能直接帶給終端用戶。

　　我們看到的趨勢是，隨著“網(wǎng)絡(luò)邊緣”逐步涵蓋智慧城市、機(jī)器人流程自動化（RPA）和用于安防監(jiān)控的智能攝像頭等智能設(shè)備，這一點正變得越來越重要。通過開發(fā)可用于邊緣同時占用最小芯片面積的全能型IP，將推動新一波邊緣設(shè)備面世。

　　2 如何簡化AIoT終端設(shè)備的設(shè)計

　　簡化物聯(lián)網(wǎng)（IoT）終端設(shè)備的需求就是將功能整合到盡可能小的芯片面積中，以節(jié)省芯片成本。Imagination的IP（GPU和NNA）具備的靈活性和支持的功能，意味著能以極低的功耗為邊緣推理增加加速性能，這對于AIoT設(shè)備而言是非常理想的。

　　如今機(jī)器學(xué)習(xí)和邊緣AI的創(chuàng)新速度十分迅速，意味著幾乎每天都有新的進(jìn)展。通過與主要框架的開發(fā)人員和終端用戶市場保持緊密聯(lián)系，Imagination一直身處于創(chuàng)新方法的前沿。Imagination不斷更新自己的軟件驅(qū)動程序，以利用新的技術(shù)進(jìn)展和層操作運算方法。

　　3 針對具體應(yīng)用的差異化方法將是人們渴望實現(xiàn)的最終目標(biāo)

　　今天，市面上仍有8位、16位MCU，并新出現(xiàn)了RISC-V MCU。實際上，盡管純粹的性能始終是業(yè)界關(guān)鍵的成功因素之一，但針對具體應(yīng)用采用差異化和優(yōu)化的方法將是人們渴望實現(xiàn)的最終目標(biāo)。

　　無論如何，探求靈活的、可用于眾多領(lǐng)域的IP是非常重要的，同時使用可組合在一起以實現(xiàn)更高性能的IP構(gòu)建模塊將是一個決定性因素。Imagination的AISynergy就是這方面一個很好的例子，利用AI Synergy技術(shù)，各層可以在NNA上加速，同時浮點運算和自定義層可在GPU上運行。通過使用Imagination的Hyperlane技術(shù)中預(yù)留的HyperLane通道，在保護(hù)任何圖形輸出的同時，還可以運行其他計算任務(wù)。