當邊緣AI走進日常...
加入技術(shù)交流群
人工智能(AI)技術(shù)已走進我們的世界。每次您讓Alexa做事時，機器學(xué)習(xí)技術(shù)都會努力弄清楚您說的內(nèi)容，并試圖對您想讓它做的事情做出最佳判斷。每次Netflix或亞馬遜向您推薦“下一部電影”或“下一次購貨商品”時，都是基于復(fù)雜的機器學(xué)習(xí)算法，為您提供更有吸引力的推薦，這些推薦遠比過去的促銷更誘人。雖然我們可能不是每個人都有自動駕駛汽車，但我們都敏銳地意識到了該領(lǐng)域的發(fā)展和自主導(dǎo)航的潛力。
本文引用地址：http://www.ex-cimer.com/article/202409/463281.htm人工智能技術(shù)大有前途——它讓機器可以根據(jù)周圍的世界做出決策，像人類一樣處理信息，甚至處理方式還會優(yōu)于人類。但是，如果您仔細想一想上面的這些例子，就會發(fā)現(xiàn)這里的人工智能承諾只能通過“大型機器”來實現(xiàn)——這些機器沒有功率、尺寸或成本限制，或者換言之，它們會發(fā)熱、擁有線路功率、尺寸很大，而且很貴。Alexa和Netflix依靠云端的大型、高耗電服務(wù)器來分析您的意圖。雖然自動駕駛汽車很可能要依賴電池供電，但考慮到電池必須能夠驅(qū)動車輪和轉(zhuǎn)向，因此需要提供很高的容量，即便與非常昂貴的人工智能決策相比，它也要消耗大量的能源。
目前，人工智能的發(fā)展的很不錯，但是人工智能的“小型化，邊緣化”卻滯后了。那些由小型電池供電或存在成本和尺寸限制的設(shè)備無法實現(xiàn)機器的視覺和聽覺分析功能。目前，這些小型機器只能利用簡單的人工智能技術(shù)：也許只是聽一個關(guān)鍵詞，或者分析低維信號，比如用光容積描記術(shù)(PPG)來測量心率。
但是，小型設(shè)備能夠看到和聽到是否有實用價值呢？思考一下，像門鈴攝像頭這樣的小產(chǎn)品需要使用自動駕駛或自然語言處理等大的人工智能技術(shù)嗎？似乎也沒有必要。因此可以考慮采用不太復(fù)雜、處理強度不大的小型化的，邊緣的人工智能計算，比如詞匯識別、語音識別和圖像分析。
普通的門鈴攝像頭和消費類安保攝像頭經(jīng)常會被一些無關(guān)緊要的事件觸發(fā)，比如刮風引起的植物擺動、云彩引起的劇烈光線變化、甚至是狗或貓在攝像頭前跑動。這些事件可能會導(dǎo)致誤觸發(fā)，從而使需要房主去操作忽視并清除此類觸發(fā)事件。尤其糟糕的是，如果房主正好在世界其它地方旅行，而家里的攝像頭卻對日出、云彩、日落造成的光線變化發(fā)出了誤警報會影響他們睡眠和旅行。然后一個智能攝像頭能夠基于更具體的事件觸發(fā)，例如在所監(jiān)控的畫面中出現(xiàn)了一個人。
門鎖或其它出入口可使用面部識別，甚至是語音識別來授予人員訪問權(quán)限，在某些情況下不需要鑰匙或胸卡。
很多攝像頭都希望在發(fā)生某些特定事件時觸發(fā)：例如，跟蹤攝像頭可能希望在畫面中出現(xiàn)鹿時被觸發(fā)，安保攝像頭可能希望在畫面中有人或出現(xiàn)開門或腳步聲等噪音時被觸發(fā)，而個人攝像頭可能希望通過語音命令來觸發(fā)。
雖然有很多“HeyAlexa”這樣的簡單解決方案，但多詞匯量命令在很多應(yīng)用中都非常有用。如果您具備識別20個或更多單詞的詞匯表，就可以在工業(yè)設(shè)備、家居自動化、烹飪設(shè)備和大量其它設(shè)備中應(yīng)用，以簡化人機交互。
這些例子只觸及表層：讓小型機器看到、聽到和解決過去需要人為干預(yù)的問題，這就是一種很強大的思路，而且我們每天都不在不斷發(fā)現(xiàn)智能化的創(chuàng)造的新用例。
那么，如果人工智能對小型機器具有如此實用價值，為什么我們還沒有開發(fā)出來呢？答案是計算能力。人工智能推理是神經(jīng)網(wǎng)絡(luò)模型計算的結(jié)果。可以把神經(jīng)網(wǎng)絡(luò)模型看作是大腦處理圖像或聲音的粗略近似形態(tài)，將其分解為非常小的片段，然后在這些小碎片組合在一起時識別出模型?，F(xiàn)代化視覺問題的主要模型是卷積神經(jīng)網(wǎng)絡(luò)(CNN)。這類模型在圖像分析方面非常出色，在音頻分析方面也非常有用。問題在于，這些模型需要數(shù)百萬或數(shù)十億次的數(shù)學(xué)計算。用傳統(tǒng)的設(shè)計方法，這些應(yīng)用在實施時會面臨一個困難的抉擇：
使用低成本、低功耗的微控制器解決方案。雖然平均功耗可能很低，但卷積神經(jīng)網(wǎng)絡(luò)可能需要幾秒鐘的時間來計算，這意味著人工智能推理不是實時的，意味著它會消耗大量的電池電量。
購置一個昂貴的高性能處理器，就能在規(guī)定的延遲內(nèi)完成這些數(shù)學(xué)運算。這些處理器通常很大，需要很多外部組件，包括散熱器或類似的冷卻組件。不過，它們執(zhí)行人工智能推理的速度非?？?。
低功耗微控制器解決方案的速度太慢，無法發(fā)揮作用，而高性能處理器方法會超出成本、尺寸和電源預(yù)算，可以說上述兩種方案都不夠理想，難以實施
我們需要的是一個從頭開始構(gòu)建的嵌入式人工智能解決方案，盡可能減少卷積神經(jīng)網(wǎng)絡(luò)計算所需的能耗。人工智能推理需要以比傳統(tǒng)微控制器或處理器解決方案更少的能量來執(zhí)行，并且無需借助能耗高、尺寸大、成本大的外部組件（如存儲器）。如果人工智能推理解決方案實際上能夠消除機器視覺的能量損失，那么即使是最小的設(shè)備也能看到并識別周圍世界發(fā)生的事情。
幸運的是，我們現(xiàn)在已經(jīng)處于這場“小型機器”革命的開端。我們在市場上已經(jīng)推出的產(chǎn)品——MAX78000，一款新型AI微控制器，能夠使神經(jīng)網(wǎng)絡(luò)以超低功耗運行，已經(jīng)消除人工智能推理的能源成本，并實現(xiàn)電池供電的機器視覺功能。
MAX78000是一款新型的AI微控制器，使神經(jīng)網(wǎng)絡(luò)能夠在互聯(lián)網(wǎng)邊緣端以超低功耗運行，將高能效的AI處理與經(jīng)過驗證的Maxim超低功耗微控制器相結(jié)合。通過這款基于硬件的卷積神經(jīng)網(wǎng)絡(luò)(CNN)加速器，即使是電池供電的應(yīng)用也可執(zhí)行AI推理，同時功耗僅為微焦耳級。
作為一款先進的片上系統(tǒng)， MAX78000 集成帶FPU CPU的Arm ? Cortex ? -M4內(nèi)核，通過超低功耗深度神經(jīng)網(wǎng)絡(luò)加速器實現(xiàn)高效的系統(tǒng)控制。CNN引擎具有442KB的權(quán)重存儲器，可支持1、2、4和8位權(quán)重（支持高達350萬權(quán)重的網(wǎng)絡(luò)）。該CNN權(quán)重存儲器基于SRAM，因此可進行AI網(wǎng)絡(luò)的即時更新。同時，CNN引擎還集成了512KB的數(shù)據(jù)存儲器。高度靈活的CNN架構(gòu)允許用戶通過PyTorch ? 和TensorFlow ? 等傳統(tǒng)工具集訓(xùn)練網(wǎng)絡(luò)，然后經(jīng)Maxim提供的工具轉(zhuǎn)換后在MAX78000上運行。
除CNN引擎的存儲器之外，MAX78000還具備適配微控制器內(nèi)核的大型片內(nèi)系統(tǒng)存儲器，具有512KB的閃存和高達128KB的SRAM，支持多個高速和低功耗的通信接口，包括I2S和并行攝像頭接口(PCIF)。
評論