支持廣泛神經(jīng)網(wǎng)絡(luò)架構(gòu)的VIP8000處理器

作者/芯原視覺圖像產(chǎn)品開發(fā)副總裁 林尙宏

機(jī)器學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)處理技術(shù)承載著嵌入式處理器下一個主要的市場機(jī)會。國際數(shù)據(jù)公司(IDC)預(yù)測，全球在人工智能和機(jī)器學(xué)習(xí)方面的支出將從2016年的80億美元增長到2020年的470億美元。AI爆發(fā)式增長的背后有三個主要的驅(qū)動力：算法的快速演進(jìn)、強(qiáng)大的技術(shù)平臺以及大數(shù)據(jù)。AI日益無處不在，這就要求消費(fèi)電子、汽車電子、工業(yè)4.0等終端產(chǎn)品具備實(shí)時神經(jīng)網(wǎng)絡(luò)推理、可靈活升級至最新最優(yōu)算法，以及從持續(xù)學(xué)習(xí)中收集有用信息的能力。

芯原是一家芯片設(shè)計平臺及服務(wù)（Silicon Platform as a Service，SiPaaS?）提供商，為包含移動互聯(lián)設(shè)備、數(shù)據(jù)中心、物聯(lián)網(wǎng)(IoT)、汽車、工業(yè)和醫(yī)療設(shè)備在內(nèi)的廣泛終端市場提供全面的系統(tǒng)級芯片(SoC)和系統(tǒng)級封裝(SiP)解決方案。芯原的機(jī)器學(xué)習(xí)和人工智能技術(shù)已經(jīng)全面布局智慧設(shè)備的未來發(fā)展?；赟iPaaS服務(wù)理念，芯原助力客戶在設(shè)計和研發(fā)階段領(lǐng)先一步，從而專注于差異化等核心競爭優(yōu)勢。芯原一站式端到端的解決方案則能夠在短時間內(nèi)打造出從定義到測試封裝完成的半導(dǎo)體產(chǎn)品。寬泛靈活的SiPaaS解決方案為客戶帶去高效經(jīng)濟(jì)的半導(dǎo)體產(chǎn)品替代解決方案。

芯原還提供廣泛且多樣的處理器IP，如GPU、DSP、顯示控制IP、ISP、視頻CODEC，以及神經(jīng)網(wǎng)絡(luò)處理器IP等。其中，VIP8000神經(jīng)網(wǎng)絡(luò)處理器達(dá)到了業(yè)界最高的推理性能和能效水平，是目前市面上最為可擴(kuò)展的神經(jīng)網(wǎng)絡(luò)處理平臺。該神經(jīng)網(wǎng)絡(luò)引擎運(yùn)算速度范圍可從0.5到72萬億次運(yùn)行/秒(TeraOPS) ，在16nm工藝制程下功率效率可達(dá)10萬億次運(yùn)行/瓦。隨著最新的分級壓縮、適配的平鋪/緩存、裁剪、獲取跳過以及圖像融合技術(shù)的引用，VIP8000為與其相關(guān)的處理器架構(gòu)進(jìn)一步降低了內(nèi)存帶寬需求。新一代神經(jīng)網(wǎng)絡(luò)引擎IP的推出，使得芯原成為這類應(yīng)用市場發(fā)展的重要推力。從永不斷電的電池驅(qū)動類IoT客戶端到AI服務(wù)器集群，性能領(lǐng)先業(yè)界的VIP8000處理器將持續(xù)擴(kuò)大其應(yīng)用空間。

VIP8000不僅優(yōu)于所有傳統(tǒng)的DSP、GPU，以及CPU混合系統(tǒng)，還通過了業(yè)界驗(yàn)證，于1年半以前便授權(quán)給用戶使用。2017年，10家主要的ASIC設(shè)計廠商在通過評估各類IP和SoC解決方案、并進(jìn)行嚴(yán)格的性能篩選后，最終選擇了采用VIP產(chǎn)品。芯原已將此類IP成功授權(quán)給ADAS、自動駕駛、安全監(jiān)控、家庭娛樂和服務(wù)器專用ASIC等廠商。

VIP8000支持寬泛的神經(jīng)網(wǎng)絡(luò)架構(gòu)，如TensorFlow、Caffe、AndroidNN、AmazonMachine Learning、ONNX、NNEF、AlexNet、VGG16、GoogLeNet、Yolo、Faster R-CNN、MobileNet、SqueezeNet、ResNet、RNN和LSTM等，此外，還提供大量軟件和硬件解決方案以幫助開發(fā)者創(chuàng)建高性能神經(jīng)網(wǎng)絡(luò)模型和基于機(jī)器學(xué)習(xí)的應(yīng)用。由于與Vivante GPU架構(gòu)相同，VIP8000繼承了其OpenCL可編程性，硬件直接存儲器存取和時序安排，以及多環(huán)境并行處理的長處。

對于終端設(shè)備來說，有些AI應(yīng)用并不是孤立的應(yīng)用，而是可以同時增強(qiáng)現(xiàn)有的許多不同應(yīng)用。作為芯原Vivante IP產(chǎn)品系列的一部分，VIP8000處理器可以在兼顧芯片尺寸和功耗的情況下，輕松地與其他芯原處理器IP相集成。例如，基于共同的架構(gòu)，VIP8000神經(jīng)網(wǎng)絡(luò)引擎可以和任何Vivante GPU直接集成以面向AR/VR等應(yīng)用；還可以與芯原的ZSP音頻DSP集成以面向智能音箱的應(yīng)用；或是與ISP Nano集成實(shí)現(xiàn)低延遲機(jī)器視覺攝像頭的設(shè)計；又或是與Hantro視屏編碼相結(jié)合以實(shí)現(xiàn)更好的視頻內(nèi)容壓縮。

AI已經(jīng)無處不在。基于正在專利申請中的神經(jīng)網(wǎng)絡(luò)壓縮技術(shù)，VIP8000系列產(chǎn)品可幫助設(shè)計者快速交付采用AI技術(shù)的嵌入式產(chǎn)品，我們已經(jīng)和從嵌入式產(chǎn)品到服務(wù)器應(yīng)用的各個領(lǐng)先廠商展開了深度合作。應(yīng)用和算法都在快速演進(jìn)，芯原的AI技術(shù)與公司其他廣泛的IP組合將為客戶帶去突破性的解決方案，以加速AI技術(shù)實(shí)現(xiàn)其產(chǎn)業(yè)價值。