瑞薩AI終端問題解決方案

作者/瑞薩電子中國董事長 真岡朋光

一般人們提到的“實(shí)時(shí)響應(yīng)的邊緣AI”是指達(dá)到人類的實(shí)時(shí)響應(yīng)水平（ｍSec/毫秒級)，邊緣是指邊緣計(jì)算。而驅(qū)動(dòng)整個(gè)社會(huì)、與傳感和控制結(jié)合的產(chǎn)業(yè)的運(yùn)轉(zhuǎn)，則要求μSec（微秒級）的實(shí)時(shí)響應(yīng)。為了將該領(lǐng)域與邊緣計(jì)算區(qū)別開來，我們稱之為終端（Endpoint）。作為在邊緣計(jì)算與終端（Endpoint）上運(yùn)行的AI加速器，最近有學(xué)者和公司提出了一種新的計(jì)算架構(gòu)方案，即比較在相同耗電量下通過深度神經(jīng)網(wǎng)絡(luò)執(zhí)行性能的數(shù)據(jù)。這是想解決設(shè)備通過云端、服務(wù)器進(jìn)行學(xué)習(xí)的高耗電問題。

挑戰(zhàn)

而針對終端（Endpoint）上的AI執(zhí)行，為了適配嵌入式系統(tǒng)，除了耗電問題以外，還有其他需解決的課題。

首先，將通過云端開放資源學(xué)習(xí)過的AI導(dǎo)入嵌入式系統(tǒng)的內(nèi)存資源有限。

其次，需要準(zhǔn)備、提供適合執(zhí)行AI的最優(yōu)設(shè)備。

再次，不僅是單純處理，為實(shí)施實(shí)時(shí)性能、控制，還需具備安全性和可靠性。

解決方案

瑞薩電子在終端（Endpoint）上嵌入AI，稱為「e-AI」，即Embedded Artificial Intelligence的簡稱。瑞薩從去年開始免費(fèi)開放了叫做「e-AITranslator」的工具。這是可將通過Caffe、TensorFlow學(xué)習(xí)過的AI，嵌入到所有MCU/MPU的壓縮工具。瑞薩電子擁有業(yè)界高品質(zhì)的MCU/MPU產(chǎn)品線，通過該工具，根據(jù)執(zhí)行AI的大小，從豐富的產(chǎn)品線中選擇適配產(chǎn)品。

瑞薩電子擁有針對嵌入式系統(tǒng)開發(fā)、經(jīng)過市場驗(yàn)證的產(chǎn)品?？芍С謱?shí)時(shí)處理、進(jìn)行控制、安全可靠的產(chǎn)品上運(yùn)行AI。客戶在制造設(shè)備中實(shí)施的流程管理、設(shè)備管理、預(yù)測性維護(hù)、安全管理，可即刻使用AI。在瑞薩自己的工廠中，也已在制造設(shè)備中安裝使用了AI，在其他一些大客戶的設(shè)備上也進(jìn)行了推廣使用。

瑞薩考慮不僅在CPU，而且在終端（Endpoint）中支持AI的應(yīng)用需求。瑞薩將針對AI提供其獨(dú)特的處理器DRP(Dynamically Reconfigurable Processor)。就并行性而言，DRP優(yōu)于CPU；而就耗電量而言，DRP又優(yōu)于難以將全部數(shù)據(jù)導(dǎo)入的GPU（Graphics ProcessingUnit)。在相同耗電量的條件下，其測量結(jié)果是CPU的100倍以上，GPU的10倍以上。

此外，與FPGA (Field-Programmable Gate Array)不同，開發(fā)無需硬件設(shè)計(jì)人員，AI的更新也容易。

通過使用DRP，客戶將AI的識別功能應(yīng)用于相機(jī)、機(jī)器人、AR眼鏡?，F(xiàn)在已經(jīng)有不少客戶在其新產(chǎn)品中積極推廣使用該技術(shù)。

瑞薩電子在其獨(dú)有產(chǎn)品SOTB（Si On ThinBuried-oxide）上也支持e-AI。通過利用該技術(shù)，可將MCU的工作電流大幅降低至1/10，待機(jī)電流降低至1/100. 該技術(shù)不僅可大幅延長電池壽命，還可利用熱能、振動(dòng)、光、無線電波等能量轉(zhuǎn)換成電源的系統(tǒng)操作成為可能。對于傳感器網(wǎng)絡(luò)和健康看護(hù)可穿戴設(shè)備而言，通過在SOTB上嵌入e-AI，搭建僅將AI識別判斷后的結(jié)果傳輸?shù)南到y(tǒng)成為可能，從而大幅節(jié)電?，F(xiàn)在很多顧客開始探討用SOTB來替代從前系統(tǒng)中的電池。

瑞薩電子將以上技術(shù)統(tǒng)括稱呼為“終端智能（Endpoint Intelligence）”，不斷強(qiáng)化開發(fā)，進(jìn)而早日實(shí)現(xiàn)智能社會(huì)、互聯(lián)世界。