邊緣計算從概念到現(xiàn)實

一年前，當(dāng)我們提出有關(guān)邊緣計算的展望時，該領(lǐng)域才剛剛開始萌芽。去年，我們針對開源技術(shù)的迅速發(fā)展以及在邊緣部署機器學(xué)習(xí)（ML）所需的不同編程范例開展了演講。

除了數(shù)據(jù)科學(xué)家，很少有公司在其產(chǎn)品中積極深入地整合機器學(xué)習(xí)技術(shù)，因此，邊緣計算的優(yōu)勢只得到了定性認可。

我們在這里提到的邊緣計算，其優(yōu)勢包括節(jié)能和減少延遲。因為對數(shù)據(jù)進行云處理，云存儲的成本高昂，且許多情況下帶寬也受限，從而限制了將數(shù)據(jù)傳輸?shù)皆贫死萌斯ぶ悄荛_展決策。

此外，在邊緣節(jié)點利用人工智能做出快速決策，邊緣計算還可以帶來更好的用戶體驗。用戶向云端發(fā)送和在云端存儲的數(shù)據(jù)通常會因為對隱私和安全問題的擔(dān)憂而存在限制。

如今，在看到邊緣計算在實際系統(tǒng)上的部署并了解具體應(yīng)用要求后，我們可以切身定量地感受到這些好處。

對每一單位電能“斤斤計較”

體會邊緣計算的好處，能耗和性能是最常用的評估指標(biāo)。與將數(shù)據(jù)傳輸?shù)皆贫说某杀鞠啾?，更多工作能夠使用既有的能量在本地的邊緣?jié)點完成。

我們以MobileNet為例（有關(guān)MobileNet的更多內(nèi)容在稍后做詳細介紹），這是一種用于對象分類的熱門神經(jīng)網(wǎng)絡(luò)（為了避免長達數(shù)頁的分析，這里進行了高度簡化）。

拿MobileNet的一個版本舉例，譬如MobileNet_v1_1.0_224，需要大約5.59億次乘積累加（MAC）計算和50,176像素（224x224）的輸入圖像尺寸。保守一點，假設(shè)GPU上的10次MAC要耗費100皮焦耳，則559次MMAC將耗費大約0.001焦耳。與之對比的是，通過LPTE將圖像上傳到云端需要花費約0.02焦耳（假設(shè)每個像素8位且圖像未壓縮）。換句話說，與處理圖像相比，傳輸所需的能量增加了一個能量級，而在云端，神經(jīng)網(wǎng)絡(luò)模型上的推理仍必須執(zhí)行（在更加昂貴的設(shè)備上執(zhí)行）。

對社會的好處

對于許多客戶而言，機器學(xué)習(xí)是新領(lǐng)域。經(jīng)常有人問我們“機器學(xué)習(xí)適用于我的應(yīng)用嗎”？當(dāng)然，我們的回答是“看情況而定”。有一些基本的前提條件，如物理接口（例如，攝像頭、麥克風(fēng)、傳感器）、收集數(shù)據(jù)和為數(shù)據(jù)加標(biāo)簽的能力（用于模型訓(xùn)練）以及確定機器學(xué)習(xí)是否真的能為該應(yīng)用帶來價值（即刺激產(chǎn)品銷量，帶來金錢價值）。在這些前提條件均滿足的情況下，我們認為或多或少的機器學(xué)習(xí)能夠被應(yīng)用于非常廣泛且多樣的領(lǐng)域種，其中最有趣的是有益于社會或能夠提升用戶體驗的應(yīng)用。

特別是隨著人們對氣候的關(guān)注加深，機器學(xué)習(xí)有價值的應(yīng)用領(lǐng)域之一，是在農(nóng)業(yè)中使用機器學(xué)習(xí)來監(jiān)控和節(jié)約用水量、開展農(nóng)藥的針對性噴灑、將無人機應(yīng)用于作物分析中，這些應(yīng)用都是為了提高生產(chǎn)力，最大限度減少全球食品生產(chǎn)帶來的影響。機器學(xué)習(xí)還可用于提高應(yīng)用的工業(yè)生產(chǎn)力，如通過目視檢查對食品質(zhì)量進行分類、預(yù)測性維護與異常檢查以及加強設(shè)備操作員的安全。

另一個非常熱門的應(yīng)用領(lǐng)域是使用機器學(xué)習(xí)來確保安全訪問，這對于家用門禁系統(tǒng)、商用安全系統(tǒng)，如對安全區(qū)域的訪問以及攔截或允許用戶接觸重型機械操作這一系列應(yīng)用都具有非常重要的意義。在這些情況下為了加強安全訪問，門鎖或用戶識別型的產(chǎn)品會同時驗證兩個參數(shù)來判斷是否允許訪問，即同時應(yīng)用人臉和語音識別或其他生物識別方法。通過使用活體檢測，可進一步增強人臉識別，以防止欺騙攻擊。

公共安全已成為當(dāng)代備受關(guān)注的一個問題，而機器學(xué)習(xí)將成為其很好的解決方案。例如，基于機器學(xué)習(xí)可以開發(fā)這樣的應(yīng)用程序，讓機場、地鐵站臺或其他公共場所的安保攝像頭來確定古怪的行為模式或檢測是否有人遺落包裹或行李。如果出現(xiàn)以上情況，則系統(tǒng)可以做出恰當(dāng)?shù)捻憫?yīng)，例如，將這一情況甚至具體發(fā)生的地點通知有關(guān)部門。另外，基于攝像頭利用機器學(xué)習(xí)，還可以計算城市交通系統(tǒng)中十字路口的車輛數(shù)、監(jiān)控車流和調(diào)整紅綠燈時間——這不僅為駕駛員提供了便利，還能夠幫助提高駕駛效率。

在邊緣設(shè)備中實施機器學(xué)習(xí)是算法和處理解決方案領(lǐng)域巨大進步的結(jié)果。然而，直到ImageNet大規(guī)模視覺識別挑戰(zhàn)賽在2010年拉開帷幕，機器學(xué)習(xí)的時代才真正開始發(fā)展。這一挑戰(zhàn)賽一直以來的目標(biāo)是預(yù)測包含1000個可能的對象類別之一的照片的內(nèi)容。之后，AlexNet誕生，現(xiàn)在看來AlexNet有點過時了，但仍用于評測（由于其準(zhǔn)確度較低，現(xiàn)在已通常不用于實際應(yīng)用）。AlexNet的發(fā)展帶來了新型的分類模型拓撲，如VGG、ResNet和Inception。

正如我在前面提到的，MobileNet是最近出現(xiàn)的新技術(shù)之一，由于其較小的尺寸與合理的準(zhǔn)確度而倍受青睞。此外，通過使用遷移學(xué)習(xí)來針對特定對象類進行微調(diào)，可提高這些模型的準(zhǔn)確度。

隨著算法發(fā)展以及支持它們的訓(xùn)練框架和推理引擎的巨大進步，處理能力得到提升。雖然機器學(xué)習(xí)加速器正逐漸成為常態(tài)，嵌入式系統(tǒng)開發(fā)人員仍努力在傳統(tǒng)設(shè)備中部署機器學(xué)習(xí)，從低成本MCU到包含多個CPU內(nèi)核、GPU與DSP的高度集成應(yīng)用處理器，覆蓋范圍十分廣泛。

現(xiàn)如今我們可以基于一個2美元的MCU實現(xiàn)一套人臉識別解決方案，該解決方案可在略大于200毫秒的時間內(nèi)執(zhí)行推理，且準(zhǔn)確度高達95%，這是多么令人驚訝。

如果進一步提高處理器性能以及內(nèi)存容量，就能夠增強邊緣設(shè)備處理更復(fù)雜應(yīng)用（如上所述）的能力，想象一下，如果邊緣設(shè)備的機器學(xué)習(xí)性能增加幾個數(shù)量級，您可以做些什么？

推動邊緣計算發(fā)展

我們相信，我們的行業(yè)距離實現(xiàn)機器學(xué)習(xí)的所有潛力還有很長的路要走。就此而言，工業(yè)、消費電子、物聯(lián)網(wǎng)和汽車應(yīng)用的大多數(shù)系統(tǒng)開發(fā)人員仍不理解機器學(xué)習(xí)目前能夠如何增強其產(chǎn)品。但是，機器學(xué)習(xí)不只是一時的潮流，我們已經(jīng)證明了其對社會和工業(yè)大有裨益。

展望未來，我們將看到越來越多的處理器集成機器學(xué)習(xí)加速。我們還將看到開源工具和庫的大幅增加，以支持機器學(xué)習(xí)發(fā)展。通過機器學(xué)習(xí)技術(shù)在邊緣設(shè)備的積極部署，將會給數(shù)據(jù)分析和集體知識分配帶來巨大的改革，而我們正是這一改革的見證者。

*本文內(nèi)容轉(zhuǎn)載自New Electronics，原文標(biāo)題為“Edge Computing from Concept to Reality”。