AI在邊緣設備上的發(fā)展機會

作者 / 王瑩 王金旺 《電子產(chǎn)品世界》編輯(北京 100036)

摘要：AI不僅僅發(fā)生在對計算要求高的云端，還會出現(xiàn)在數(shù)量更加龐大的物聯(lián)網(wǎng)邊緣端，例如消費電子、汽車電子、工業(yè)控制、測試測量等領域。為此，本媒體邀請部分AI芯片及EDA/IP廠商，介紹邊緣AI的最新技術進展和解決方案。

瑞薩AI終端問題解決方案

　　針對終端上的AI執(zhí)行，為了適配嵌入式系統(tǒng)，除了耗電問題以外，還有其他需解決的問題。首先，將通過云端開放資源學習過的AI導入嵌入式系統(tǒng)的內(nèi)存資源，其次，需要準備、提供適合執(zhí)行AI的最優(yōu)設備;再次，不僅是單純處理，為實施實時性能、控制，還需具備安全性和可靠性。

　　瑞薩電子在終端嵌入AI，稱為e-AI(Embedded Artificial Intelligence)。瑞薩從去年開始免費開放了e-AI Translator工具。這是可將通過Caffe、TensorFlow學習過的AI嵌入到所有MCU/MPU的壓縮工具。瑞薩電子的MCU/MPU產(chǎn)品線可以通過該工具，根據(jù)執(zhí)行AI的大小，從豐富的產(chǎn)品線中選擇適配產(chǎn)品。

　　瑞薩考慮不僅在CPU，而且在終端中支持AI的應用需求。瑞薩將針對AI提供其獨特的處理器DRP (Dynamically Reconfigurable Processor)。就并行性而言，DRP優(yōu)于CPU;而就耗電量而言，DRP又優(yōu)于難以將全部數(shù)據(jù)導入的GPU。在相同耗電量的條件下，其測量結果是CPU的100倍以上，GPU的10倍以上。通過使用DRP，客戶將AI的識別功能應用于相機、機器人、AR眼鏡。現(xiàn)在已經(jīng)有不少客戶在其新產(chǎn)品中積極推廣使用該技術。

　　瑞薩電子在其獨有產(chǎn)品SOTB(Si On Thin Buried-oxide)上也支持e-AI。通過利用該技術，可將MCU的工作電流大幅降低至1/10，待機電流降低至1/100。該技術不僅可大幅延長電池壽命，還使利用熱能、振動、光、無線電波等能量轉換成電源的系統(tǒng)操作成為可能。對于傳感器網(wǎng)絡和健康看護可穿戴設備而言，通過在SOTB上嵌入e-AI，搭建僅將AI識別判斷后的結果傳輸?shù)南到y(tǒng)成為可能，從而大幅節(jié)電?，F(xiàn)在很多顧客開始探討用SOTB來替代從前系統(tǒng)中的電池。

邊緣計算提高端云有效協(xié)作

　　恩智浦對邊緣側AI和IoT(物聯(lián)網(wǎng))戰(zhàn)略作用非常重視。我們認為大數(shù)據(jù)、IoT和AI的應用發(fā)展要求邊緣端具有以下能力：

　　1)對智能家居、工業(yè)互聯(lián)、智慧城市等提供智能化、快速和有效的支持;

　　2)從作為云端提供數(shù)據(jù)采集和控制反饋的連接通道，到云端訓練和深度學習，邊緣信息采集和AI識別的邊云一體化方向發(fā)展;

　　3)及時接收云端廣播訓練好的模型和提取的特征，在邊緣端提供有效的AI識別作用。

　　新趨勢對芯片和算法帶來的新要求

　　這樣的新趨勢也對芯片、計算架構及算法產(chǎn)生了新的要求。

　　首先，要求邊緣端的芯片對網(wǎng)絡傳輸、安全算法運算、數(shù)據(jù)存儲和AI算法有足夠的支持能力，即要有一定的綜合運算能力。具體包括;

　　1)網(wǎng)絡傳輸表示要及時地將用于學習和AI訓練的數(shù)據(jù)送到云端，避免網(wǎng)絡擁塞;

　　2)要對數(shù)據(jù)進行安全保護和加解密的運算支持，要對設備、用戶和應用提供可信的認證;

　　3)對數(shù)據(jù)提供本地存儲和AI智能運算能力。

　　其次，對計算架構和算法產(chǎn)生了新要求，具體包括：

　　1) 提供端云有效配合的計算架構，實現(xiàn)云端學習和訓練，邊緣端特征提取和識別的有效AI應用的支持;

　　2)支持云端將學習好的模型及時廣播給聯(lián)接的邊緣設備，邊緣端利用訓練好的模型對新數(shù)據(jù)進行識別和AI處理;

　　3)提供適用于邊緣端的AI算法、學習框架、運算庫和編譯環(huán)境。

　　恩智浦針對這樣的挑戰(zhàn)，在芯片SoC上提供了各種硬件加速引擎，包括網(wǎng)絡通信、安全存儲運算、AI運算，保證芯片在邊緣端強大的AI運算能力;提供了支持邊緣計算的EdgeScale平臺，除了安全管理和邊緣設備管理外，它會封裝用于AI的算法和系統(tǒng)庫，簡化AI的開發(fā)。并提供AI應用的開發(fā)示例，例如人臉識別、OCR、語音識別、物體識別等，為AI應用的快速落地帶來方便。另外，它提供了針對工業(yè)互聯(lián)場景的邊緣平臺架構OpenIL，從實時性、安全性、穩(wěn)定性和傳輸性上對邊緣端提供有效保障。

應用于自動駕駛的邊緣 AI 視覺

　　自動駕駛汽車中的每一個傳感器都需要得到精密算法的支持，算法可以生成傳感器數(shù)據(jù)的感知解讀。最新趨勢是利用深度學習算法來生成感知解讀。不過，深度學習算法必須通過大量可能出現(xiàn)的情境加以訓練，才能學會如何去解讀各種可能出現(xiàn)的傳感器數(shù)據(jù)。訓練后，為了實現(xiàn)車輛的安全操控，深度學習算法需要極低時延的超高計算性能。這必須通過低功耗熱約束且延長電動汽車的電池續(xù)航時間來實現(xiàn)。賽靈思可提供所需的高性能、功率效率和自適應性，充分滿足自動駕駛汽車中邊緣AI 的需求。

　　賽靈思旨在利用邊緣 AI 視覺幫助實現(xiàn)自動駕駛車輛，讓城市更安全，讓工廠具有更高生產(chǎn)力，這也是業(yè)界發(fā)展趨勢所在。這一技術創(chuàng)新正在眾多層面不斷快速演進和發(fā)展，如系統(tǒng)、算法以及傳感器層面等。賽靈思技術可對芯片上的晶體管功能進行深層的細化控制，從而幫助創(chuàng)新人員實現(xiàn)更高的靈活應變性。

　　這種 AI 創(chuàng)新在自動駕駛汽車的開發(fā)中日益顯現(xiàn)。例如BMW 760i(2010 款)中的早期主動巡航控制使用單一的前視雷達，新投產(chǎn)的特斯拉 Model 3將傳感器配置提升為 8 個高分辨率視頻攝像頭、12 個超聲波傳感器和一個前視雷達，可實現(xiàn)司機監(jiān)控操作的自動駕駛功能(僅作為駕駛輔助功能，并非完全自動駕駛)。隨著全自動駕駛汽車面臨的挑戰(zhàn)不斷得到解決，傳感器的數(shù)量與類型也將持續(xù)增加，LIDAR、紅外線視頻等技術將嶄露頭角，雷達與攝像頭的數(shù)量也越來越多。

　　邊緣 AI 性能實證(與 NVIDIA Tegra TX2 相比)：

　　1)3 倍的機器學習推導性能;

　　2)42 倍的傳感器處理性能;

　　3)每幅圖像實時性能的時延僅為 0.33 ms。

Arm三大平臺助力建設開放式AI生態(tài)系統(tǒng)

　　AI能力已經(jīng)從云端向包括邊緣和終端的前端迅速遷移，現(xiàn)階段的主要挑戰(zhàn)是前端的成本和功耗限制下的AI計算能力提升要求及軟件生態(tài)。邊緣AI算力已經(jīng)開始快速迭代，多數(shù)的檢測和識別任務將會在前端就地完成，設備的響應速度、可靠性會提高，數(shù)據(jù)的隱私性會提高。但如何保護算法產(chǎn)權自身的安全性，同時降低應用的開發(fā)難度和普及門檻需要解決。

　　芯片作為前端智能應用的基礎支撐載體，如何解決以上相關挑戰(zhàn)，發(fā)揮Arm生態(tài)優(yōu)勢，加強產(chǎn)業(yè)協(xié)作是不可忽略的一環(huán)。Arm中國和生態(tài)伙伴創(chuàng)立的OPEN AI LAB提供優(yōu)化的算法庫HCL、算法模型加速引擎Tengine和SDK開發(fā)包AID，致力于提升前端AI計算效率、降低應用開發(fā)門檻。同時，Arm人工智能生態(tài)聯(lián)盟AIEC致力于推動從芯片、算法、解決方案、系統(tǒng)集成、部署落地的全產(chǎn)業(yè)鏈協(xié)作，加速AI前端應用落地和普及。

　　除此以外，Arm也為滿足用戶對移動設備、智能電視更高要求的視覺體驗、4K HDR視頻等新興需求持續(xù)研發(fā)新IP及解決方案。顯示技術、圖層數(shù)據(jù)處理能力、增值視頻體驗，這些都是Arm現(xiàn)在及未來賦予廣大移動用戶的價值所在。

　　Arm三大平臺方案

　　Arm著力于為合作伙伴提供平臺型解決方案，目前已推出三大平臺：

　　一是機器學習平臺Project Trillium，全面支持主流的深度學習模型以及傳統(tǒng)CV。開發(fā)者能夠繼續(xù)使用他們首選的框架和工具，經(jīng)Arm開發(fā)軟件無縫轉換結果后，可在底層平臺上運行。

　　其二是平臺安全架構PSA，為IoT安全提供了一套全面的安全指導方針，使從芯片制造商到設備開發(fā)商，再到云服務平臺等價值鏈中的每位成員都能成功實現(xiàn)安全運行。

　　其三是Arm Mbed平臺，支持多協(xié)議，將IoT設備安全地連接至云，將數(shù)據(jù)安全地送上云。

　　以上三大平臺不僅賦能合作伙伴創(chuàng)新應用解決方案，更是Arm致力共建產(chǎn)業(yè)標準與開發(fā)者生態(tài)、激活增值解決方案與服務的基礎。Arm始終希望，聯(lián)合行業(yè)價值鏈中的所有成員，合力建設開放式協(xié)作創(chuàng)新與共同成長的生態(tài)系統(tǒng)。