AI效益發(fā)威 邊緣人工智能持續(xù)進化

雖然人工智能還是有一些缺點，但在今天仍舊對作業(yè)質(zhì)量和生產(chǎn)力帶來重大的影響性。無論是醫(yī)療保健、國防，還是電子商務(wù)，都可以透過人工智能系統(tǒng)實現(xiàn)大規(guī)模的自動化。

另一方面，在物聯(lián)網(wǎng)設(shè)備市場規(guī)模呈現(xiàn)指數(shù)級成長背景下，各種的大量數(shù)據(jù)被產(chǎn)生出來，進而推動了邊緣運算技術(shù)的發(fā)展。邊緣運算是云端整體運算系統(tǒng)的重要組成部分，可以將部分的特殊處理和數(shù)據(jù)儲存，從云端系統(tǒng)轉(zhuǎn)移到邊緣網(wǎng)絡(luò)節(jié)點，而這些節(jié)點在物理基礎(chǔ)上，可以合理地就近將數(shù)據(jù)提供給終端用戶。

這種「終端式」的人工智能系統(tǒng)，不需要連接到云端執(zhí)行本地的任務(wù)和操作。相反，這些單位都擁有獨立處理數(shù)據(jù)，和做出決定的能力。因此，邊緣運算是將人工智能的力量帶到單一的設(shè)備上，透過內(nèi)建的微處理器和傳感器來獲得和處理數(shù)據(jù)。

邊緣計算＋人工智能＝邊緣人工智能
伴隨著邊緣運算、人工智能和物聯(lián)網(wǎng)的快速發(fā)展，使得各種多個智能網(wǎng)絡(luò)間連接技術(shù)不斷地被開發(fā)出來，這也被稱為Edge AI、Edge AIoT（Artificial Intelligence of Things），或智慧物聯(lián)網(wǎng)（圖一）。目前，已經(jīng)有許多企業(yè)計劃采用邊緣運算與人工智能相結(jié)合的方式來提高效率，進而降低生產(chǎn)/服務(wù)的整體成本。例如，只要使用設(shè)備之間的傳感器，或?qū)崟r視訊傳輸來獲取數(shù)據(jù)，并提供實時監(jiān)視能力來預(yù)見各種問題，防止因為錯誤導(dǎo)致代價高昂的損失，或工作場所的傷害。

根據(jù)業(yè)界推估，目前生產(chǎn)過程中，因為設(shè)備的突發(fā)性停機所造成的損失，每年約為500億美元。這也將造成生產(chǎn)能力的降低、出貨延誤、客戶抱怨，以及收入減少。而這時，Edge AI就可以發(fā)揮出關(guān)鍵作用。


 
圖一 : 傳統(tǒng)的AI應(yīng)用與Edge AI的比較（數(shù)據(jù)源:i Magazine、CTIMES整理）

典型的Edge AI導(dǎo)入趨勢
在未來，雖然Edge AI的應(yīng)用，雖然可以幫助企業(yè)減輕網(wǎng)絡(luò)和其他IT基礎(chǔ)設(shè)施的負(fù)荷，并幫助降低營運成本，但仍需依賴硬件和軟件的不斷改進來獲得更先進的系統(tǒng)。

例如，透過工廠生產(chǎn)在線設(shè)備，或連接互聯(lián)網(wǎng)的攝影系統(tǒng)，可以將實時影像發(fā)送給遠(yuǎn)程的辦公室。從單一設(shè)備或端點進行數(shù)據(jù)的傳輸，以今天的網(wǎng)絡(luò)技術(shù)來說是相當(dāng)容易的。但是，面對同時傳輸數(shù)據(jù)的設(shè)備數(shù)量增加時，瓶頸挑戰(zhàn)就出現(xiàn)了，因為當(dāng)成千上萬組的攝影終端同時進行傳輸時，不僅影像質(zhì)量會因為延遲而受到影響，而且維護該傳輸帶寬的成本也會非常高。

不過，現(xiàn)在已經(jīng)能透過Edge AI克服上述挑戰(zhàn)，可以利用設(shè)備本身來分析所獲得的資料，而不是將數(shù)據(jù)發(fā)送到云端或中央位置，處理完畢之后再分析的結(jié)果儲存在云端系統(tǒng)后，來產(chǎn)生完整的生產(chǎn)線監(jiān)控能力，因此利用終端的力量就可使企業(yè)更有效地利用剩余網(wǎng)絡(luò)資源。此外，在Edge AI的幫助下，工廠設(shè)備更可以在現(xiàn)場執(zhí)行大部分的分析工作，可以大大減少需要通過網(wǎng)絡(luò)傳輸?shù)臄?shù)據(jù)，從而降低因為云端運算所產(chǎn)生的成本、提高分析速度，這就是利用Edge AI的主要優(yōu)勢（圖二）。



 
圖二 : 在生產(chǎn)在線進行視訊分析系統(tǒng)的簡單說明（數(shù)據(jù)源:ACSICORP）

傳統(tǒng)上，視覺運算是人工智能的一個分支，被歸納為基于云端的IT流程。然而，今天處理系統(tǒng)的能力有顯著提高之后，推動了視覺運算模式的改變。特別是影像分類和物體識別等神經(jīng)網(wǎng)絡(luò)的使用。對于視覺分析結(jié)構(gòu)來說，系統(tǒng)需要兩個主要能力：實時執(zhí)行和快速矩陣計算，目前主流的手法是采用特定應(yīng)用的數(shù)學(xué)算法模型。

而這個數(shù)學(xué)算法模型有兩種類型的深度學(xué)習(xí)算法，分別為：

●一級檢測（基于回歸的物體檢測器），在這種情況下，僅需一次的檢測就能完成。

●兩級檢測（基于分類的物體檢測器），檢測則需要以兩階段的方式進行。

邊緣人工智能朝向分布式架構(gòu)轉(zhuǎn)變
基于上述算法的計算能力，智能設(shè)備和高風(fēng)險應(yīng)用（從擴增/虛擬現(xiàn)實（AR/VR）到無人機應(yīng)用和自動駕駛）等的新發(fā)展，已經(jīng)使基于云端的人工智能變得不足。這些實時應(yīng)用無法承受延遲，必須在高可靠性下運行，即使在網(wǎng)絡(luò)連接中斷的情況下，還是可以持續(xù)運作。因此這些新的應(yīng)用引發(fā)了研發(fā)人員對分布式、低延遲和可靠的人工智能的巨大興趣，推動了數(shù)據(jù)的處理，從基于云端和集中式學(xué)習(xí)和分析，朝向邊緣人工智能的重大轉(zhuǎn)變。例如：

●學(xué)習(xí)數(shù)據(jù)不均勻地分布在邊緣設(shè)備的網(wǎng)絡(luò)上，如網(wǎng)絡(luò)基地臺（BSs）和/或行動設(shè)備，包括電話、相機、車輛和無人機等。

●每個邊緣設(shè)備都能獲得極小部分的數(shù)據(jù)，讓學(xué)習(xí)和分析可以集體進行的。

●每個邊緣設(shè)備可以相互通訊，并交換學(xué)習(xí)的模型（例如神經(jīng)網(wǎng)絡(luò)），而不是私有數(shù)據(jù)。

當(dāng)?shù)谝粋€節(jié)點識別出產(chǎn)在線的產(chǎn)品缺陷時，它會將帶有標(biāo)記ID的影像發(fā)送到第二個節(jié)點，讓該節(jié)點有提供額外的處理能力。然后，第二個節(jié)點的缺陷檢測模塊被觸發(fā)后，就會等待并持有GPU資源來進一步處理。如果在處理過程中沒有發(fā)現(xiàn)缺陷，缺陷檢測模塊會發(fā)送一個觸發(fā)信息，中止缺陷跟蹤程序，并釋放第二節(jié)點的GPU資源。在第二個節(jié)點的過程中，在缺陷檢測其間，在云端服務(wù)器中標(biāo)記了權(quán)限，可以幫助識別對該節(jié)點ID的授權(quán)用戶。此時，云端只會向檢測到缺陷的各個節(jié)點的認(rèn)證用戶發(fā)送消息（圖三）。


 
圖三 : 使用多個第一邊緣節(jié)點、與第二邊緣節(jié)點和云端的檢測流程概念（數(shù)據(jù)源:ACSICORP）

使用Edge AI的一些顯著優(yōu)勢是：

●可以在所連接的設(shè)備上進行本地執(zhí)行推理，大幅減少了因為數(shù)據(jù)發(fā)送到云端進行預(yù)測，所造成的延遲和成本。

●與其將所有數(shù)據(jù)都發(fā)送到云端執(zhí)行人工智能分析，不如直接在設(shè)備上進行分析，只有在需要特殊處理時才將數(shù)據(jù)發(fā)送到云端。

●以極低的延遲獲得分析結(jié)果，對于確保一些關(guān)鍵性物聯(lián)網(wǎng)絡(luò)能夠快速響應(yīng)，是一件至關(guān)重要的事情。

●與基于云端的人工智能不同，Edge AI具有隱私保護，訓(xùn)練數(shù)據(jù)不會記錄在云端，而是保存在每個設(shè)備中，透過獲得和整合其他設(shè)備運算數(shù)據(jù)的更新，來學(xué)習(xí)全局共享模型。

●對大量用戶所產(chǎn)生的數(shù)據(jù)樣本進行學(xué)習(xí)，這將有助于實現(xiàn)高精確度，甚至可能包括隱私敏感信息，如醫(yī)療記錄、工廠/網(wǎng)絡(luò)運行狀態(tài)和定位紀(jì)錄。

Edge AI的應(yīng)用優(yōu)勢性
現(xiàn)在我們已經(jīng)看到了Edge AI解決方案，與傳統(tǒng)或基于云的計算系統(tǒng)相比的好處，以下是Edge AI一些常見的現(xiàn)實世界的應(yīng)用。

音頻分析系統(tǒng)
識別音頻輸入和處理其中的數(shù)據(jù)數(shù)據(jù)，是當(dāng)今許多設(shè)備的兩個關(guān)鍵要求。音訊分析可用于各種目的，例如識別和訪問管理（IAM），或手機、高級車中的語音控制。深度學(xué)習(xí)和Edge AI被應(yīng)用于降噪設(shè)備，以協(xié)助系統(tǒng)進行各種聲音觸發(fā)，或失效。人工智能影響音頻分析的另一個例子是，安裝在汽車上的事故預(yù)防系統(tǒng)，可以透過視覺運算的影像以及聲音（甚至在嚴(yán)重的干擾和背景噪音中）來檢測接近的車輛，并采取預(yù)防措施來保護車內(nèi)的人員。

此外，人聲分析也是音訊分析的一個重要部分?？梢酝高^人工神經(jīng)網(wǎng)絡(luò)和自然語言處理（NLP）工具，在語言和關(guān)鍵詞識別方面學(xué)習(xí)基于邊緣運算的AI模型，這一功能對于設(shè)備執(zhí)行語音命令要求是很有用的。除此之外，Edge AI也可以實現(xiàn)文字到語音的轉(zhuǎn)換等應(yīng)用，反之亦然。當(dāng)然，Edge AI的音訊分析也常被用于人工智能驅(qū)動的聊天機器人。

車用數(shù)據(jù)處理
Edge AI技術(shù)的另一個應(yīng)用是車用設(shè)備的數(shù)據(jù)收集。由于隨著網(wǎng)聯(lián)汽車的普及，數(shù)據(jù)利用也呈現(xiàn)多樣化和復(fù)雜化，例如，對于行車記錄器影像數(shù)據(jù)的需求將增加、發(fā)送到云端中心的通訊成本、云端中心的儲存成本等。目前可以透過Edge AI技術(shù)來作為解決方案。首先，利用在車內(nèi)的Edge AI將所拍攝的影像中的物體，并且發(fā)送到云端。

例如，將招牌和汽車數(shù)量等識別結(jié)果，先轉(zhuǎn)換成文字畫數(shù)據(jù)，發(fā)送到云端中心。接下來，再依據(jù)云端中心的識別結(jié)果下，車用設(shè)備僅發(fā)送真正需要的影像數(shù)據(jù)(b)，可以大幅度降低與數(shù)據(jù)收集相關(guān)的成本，并且可以執(zhí)行有效的數(shù)據(jù)收集（圖四）。



 
圖四 : Edge AI在車輛上的高效數(shù)據(jù)收集應(yīng)用（數(shù)據(jù)源:DENSO TEN）

智能能源系統(tǒng)
互聯(lián)風(fēng)力發(fā)電站等應(yīng)用可以透過Edge AI進行概念化和無縫運轉(zhuǎn)。一般來說，如果只使用云端運算系統(tǒng)，運行此類系統(tǒng)的成本將高得驚人。相比之下，利用云端-邊緣組合系統(tǒng)進行運算操作、數(shù)據(jù)獲取、管理和處理的成本也可以獲得較佳的控制。

風(fēng)力發(fā)電站需要基于終端的解決方案，因為在風(fēng)力渦輪機附近工作的員工，會利用多個監(jiān)控攝影鏡頭、存取傳感器、生物識別安全傳感器等，來讓風(fēng)力發(fā)電站順利地運轉(zhuǎn)。而這些設(shè)備和傳感器就必須確保能夠有效地運轉(zhuǎn)，并以閃電般的速度來處理相關(guān)數(shù)據(jù)。因此，Edge AI解決方案對于降低風(fēng)能發(fā)電系統(tǒng)的成本，以及減少整體處理時間，和使用的帶寬量是很有用的。

視覺娛樂系統(tǒng)
Edge AI也被廣泛用于涉及AR、VR和MR的視覺娛樂系統(tǒng)。對于這些類型的系統(tǒng)，數(shù)據(jù)處理和人工智能分析就必須在本地完成，達(dá)到節(jié)省時間和成本。眾所周知，AR系統(tǒng)需要用戶佩戴虛擬現(xiàn)實或3D的眼鏡，以充分享受其視覺上的沉浸式體驗。透過邊緣運算和人工智能技術(shù)，進行邊緣服務(wù)器脫機處理，來達(dá)到小眼鏡尺寸的目標(biāo)。

微軟的Hololens就是利用Edge AI和運算技術(shù)，應(yīng)用在AR相關(guān)娛樂產(chǎn)品。Hololens包括一個整合全息計算機（Holographic Computer）的可穿戴頭盔，讓使用者沉醉在AR的世界中。未來甚至將會被應(yīng)用復(fù)雜的游戲、數(shù)據(jù)分析，和醫(yī)療成像上。

智慧音箱和家庭助理
諸如亞馬遜的Alexa和Google Home這樣的智慧家庭助手，在當(dāng)今依賴人工智能的世界里很流行。這類設(shè)備和系統(tǒng)也是利用Edge AI來提升速度和數(shù)據(jù)傳輸，使智能家居的概念變得更實用化。

結(jié)語
人工智能對于任何一種數(shù)字操作來說幾乎是完美的。Edge AI采用人工智能的概念，并在幾種不同的方式下改進技術(shù)，來達(dá)到下一個進化階段，相信Edge AI的應(yīng)用將會比現(xiàn)在更加普遍。