在本地進(jìn)行人工智能計(jì)算的四個(gè)優(yōu)點(diǎn)

為什么人們需要更低功耗的人工智能？麻省理工學(xué)院（MIT）副教授Vivienne Sze此前在接受采訪時(shí)表示，人工智能應(yīng)用正在向智能手機(jī)、微型機(jī)器人、互聯(lián)網(wǎng)連接設(shè)備和其他功率和處理能力有限的設(shè)備轉(zhuǎn)移，意味著數(shù)據(jù)處理不再需要在云端、倉(cāng)庫(kù)服務(wù)器機(jī)架上進(jìn)行，從云上卸載計(jì)算使我們能夠擴(kuò)大人工智能的影響范圍，通過減少與遠(yuǎn)程服務(wù)器通信造成的延遲來加快響應(yīng)時(shí)間。

為什么人們需要更低功耗的人工智能？麻省理工學(xué)院（MIT）副教授Vivienne Sze此前在接受采訪時(shí)表示，人工智能應(yīng)用正在向智能手機(jī)、微型機(jī)器人、互聯(lián)網(wǎng)連接設(shè)備和其他功率和處理能力有限的設(shè)備轉(zhuǎn)移，意味著數(shù)據(jù)處理不再需要在云端、倉(cāng)庫(kù)服務(wù)器機(jī)架上進(jìn)行，從云上卸載計(jì)算使我們能夠擴(kuò)大人工智能的影響范圍，通過減少與遠(yuǎn)程服務(wù)器通信造成的延遲來加快響應(yīng)時(shí)間。

現(xiàn)在，人工智能的本地化部署有了一個(gè)專屬名稱——邊緣智能，也可叫做邊緣人工智能。隨著5G、人工智能和網(wǎng)絡(luò)安全三大領(lǐng)域相互滲透，智慧工廠和自動(dòng)駕駛兩大典型的物聯(lián)網(wǎng)應(yīng)用引發(fā)數(shù)據(jù)爆發(fā)式增長(zhǎng)，傳統(tǒng)云端處理、邊端執(zhí)行的模式已經(jīng)出現(xiàn)明顯的瓶頸，終端硬件搭配AI模型和軟件算法已經(jīng)是大勢(shì)所趨，成為人工智能發(fā)展的下一個(gè)關(guān)鍵階段。

本文我們將重點(diǎn)討論傳統(tǒng)人工智能面臨的挑戰(zhàn)，以及邊緣智能會(huì)帶來哪些好處。同時(shí)，也會(huì)為大家推薦貿(mào)澤電子上在售的，適用于部署邊緣智能的元器件，推動(dòng)產(chǎn)業(yè)大升級(jí)。

邊緣智能的四大典型優(yōu)勢(shì)

自上世紀(jì)50年代人工智能概念被提出以后，產(chǎn)業(yè)發(fā)展至今經(jīng)歷了數(shù)次的高潮和寒冬。雖然有低谷，但人類對(duì)人工智能技術(shù)的探索從沒有停止過。2006年至今，我們經(jīng)歷了人工智能產(chǎn)業(yè)新一輪發(fā)展大潮，在此過程中，“算力+算法+數(shù)據(jù)”正式被定義為人工智能產(chǎn)業(yè)的三駕馬車，云計(jì)算平臺(tái)作為算力提供源，大幅提升了人工智能算法模型的體量。

根據(jù)前瞻產(chǎn)業(yè)研究院的統(tǒng)計(jì)數(shù)據(jù)，從2016年到2020年全球人工智能產(chǎn)業(yè)市場(chǎng)規(guī)模實(shí)現(xiàn)了數(shù)倍的增長(zhǎng)，從2016年的593億美元快速增長(zhǎng)到了2020年的2,335億美元。市場(chǎng)的高速增長(zhǎng)不僅給企業(yè)帶來巨大的投資回報(bào)，同時(shí)也賦予社會(huì)發(fā)展肉眼可見的便利性。

圖1：全球人工智能市場(chǎng)規(guī)模（圖源：前瞻產(chǎn)業(yè)研究院）

然而，在電信業(yè)務(wù)、政府、安防、金融四大傳統(tǒng)人工智能應(yīng)用領(lǐng)域取得突破之后，全球人工智能發(fā)展遇到了新的阻力，發(fā)生了巨大的變化。根據(jù)市場(chǎng)分析機(jī)構(gòu)IDC的預(yù)測(cè)，未來人工智能發(fā)展不再僅僅是云端集中式，會(huì)更加注重落地和實(shí)踐，趨向廣泛化、縱向化，打通人工智能技術(shù)和廣泛行業(yè)的最后一公里。

在這種大趨勢(shì)下，傳統(tǒng)人工智能應(yīng)用框架出現(xiàn)了明顯的技術(shù)瓶頸，包括數(shù)據(jù)瓶頸、泛化瓶頸、能耗瓶頸、預(yù)義鴻溝瓶頸、可解釋性瓶頸和可靠性瓶頸等。在這么多瓶頸背后，一個(gè)相同的原因是此前的人工智能應(yīng)用框架里，所有應(yīng)用都是以云計(jì)算為依托，數(shù)據(jù)都必須返回到云端，給處理效率、信息安全、部署成本帶來了極大的挑戰(zhàn)。

圖2：傳統(tǒng)人工智能應(yīng)用框架（圖源：前瞻產(chǎn)業(yè)研究院）

隨著人工智能落地到越來越多的細(xì)分場(chǎng)景里，完全依賴云計(jì)算的人工智能越來越不適應(yīng)，業(yè)界提出的解決方案便是邊緣智能。當(dāng)然，邊緣智能和傳統(tǒng)的云端智能絕不是替代關(guān)系，而是更好的補(bǔ)充。通過下方邊緣計(jì)算產(chǎn)業(yè)聯(lián)盟（ECC）發(fā)布的邊緣計(jì)算參考架構(gòu)能夠看出，邊緣智能和云端智能并不割裂，只是應(yīng)用程序和邊緣端緊密結(jié)合。

圖3：邊緣計(jì)算參考架構(gòu)（圖源：邊緣計(jì)算產(chǎn)業(yè)聯(lián)盟（ECC））

從系統(tǒng)框架來看，邊緣智能方案大致可以分為基礎(chǔ)資源層、虛擬化層、邊緣虛擬服務(wù)層，實(shí)際上就是云端智能的下沉，一般而言，具體的業(yè)務(wù)切分由規(guī)則引擎來負(fù)責(zé)。如下圖4所示，當(dāng)計(jì)算資源遷移到邊緣端之后，邊緣智能方案將獨(dú)立擁有操作系統(tǒng)以及相關(guān)的硬件資源，這也就是為什么我們上面提到，邊緣智能的核心要義是應(yīng)用程序和邊緣端深度融合。

圖4：基于規(guī)則引擎的邊緣智能方案（圖源：論文《一種基于規(guī)則引擎的邊緣計(jì)算技術(shù)研究及實(shí)施方案》）

計(jì)算和任務(wù)處理直接在邊緣端進(jìn)行，這讓邊緣智能方案具備四大突出的技術(shù)優(yōu)勢(shì)。

實(shí)時(shí)性好

首先是實(shí)時(shí)數(shù)據(jù)處理、提高響應(yīng)速度。相較于傳統(tǒng)海量數(shù)據(jù)無差別上云而言，邊緣智能由于更靠近用戶終端裝置，可以加快數(shù)據(jù)的處理與傳送速度，減少延遲。這種實(shí)時(shí)性對(duì)自動(dòng)駕駛、工業(yè)機(jī)器人等應(yīng)用有重要價(jià)值。

帶寬需求小

其次是減少互聯(lián)網(wǎng)帶寬依賴。根據(jù)IDC的統(tǒng)計(jì)數(shù)據(jù)，2021年，全球創(chuàng)造了82.5ZB的數(shù)據(jù)，未來五年全球數(shù)據(jù)規(guī)模還將以21.2%的年復(fù)合增長(zhǎng)率快速發(fā)展，到2026年達(dá)到216ZB。如果這些數(shù)據(jù)全部送到云數(shù)據(jù)中心去處理，那么將會(huì)對(duì)網(wǎng)絡(luò)帶寬造成巨大的傳輸壓力。而邊緣智能以卸載的方式將大部分邊緣端產(chǎn)生的巨量數(shù)據(jù)及時(shí)處理，幫助減輕網(wǎng)絡(luò)帶寬的壓力。

功耗低

第三是降低系統(tǒng)功耗。根據(jù)工信部數(shù)據(jù)，2021年中國(guó)數(shù)據(jù)中心耗電量2,166億千瓦時(shí)，占社會(huì)用電量比例達(dá)2.6%，相當(dāng)于1.3個(gè)上海市的總社會(huì)用電量。通過云邊結(jié)合的方式，數(shù)據(jù)中心可以更加專注在AI大模型的訓(xùn)練和運(yùn)轉(zhuǎn)，邊緣智能方案極為強(qiáng)調(diào)能耗比，將有助于降低整體功耗。

安全性好

最后，邊緣智能能夠更好地保護(hù)用戶的數(shù)據(jù)隱私和數(shù)據(jù)安全。邊緣智能方案在終端就可以對(duì)數(shù)據(jù)進(jìn)行清洗、預(yù)處理、聚合、篩選等操作，數(shù)據(jù)不用完全返回云端再做處理，或者最終傳輸?shù)皆贫说臄?shù)據(jù)為脫敏數(shù)據(jù)，降低了隱私、機(jī)密數(shù)據(jù)泄露的風(fēng)險(xiǎn)，提升了數(shù)據(jù)的安全性。

憑借上述這些突出的技術(shù)優(yōu)勢(shì)，邊緣智能在智能駕駛、智慧工廠、智慧能源和智能家居等領(lǐng)域應(yīng)用廣泛，提升了人工智能的應(yīng)用深度和廣度，豐富了“AI+”的實(shí)際應(yīng)用。當(dāng)然，想要打造高效穩(wěn)定的邊緣智能方案，離不開電子元器件的支持。作為全球知名先的電子元器件分銷平臺(tái)，貿(mào)澤電子銷售的電子元器件遍及各種邊緣智能解決方案，助力打造低碳智能的數(shù)字新世界。下面，我們就來為大家推薦幾款具有代表性、可用于邊緣智能的元器件產(chǎn)品。

Microchip機(jī)器學(xué)習(xí)整體解決方案

上述內(nèi)容已經(jīng)提到，邊緣智能是云端智能的下沉，也就是說將人工智能的模型置于邊緣端。目前，云端配合最理想的方式是：將機(jī)器學(xué)習(xí)的訓(xùn)練模型放置在云端，通過云端大算力的優(yōu)勢(shì)提升訓(xùn)練的效率；將機(jī)器學(xué)習(xí)的推理、決策和執(zhí)行模型放置在邊緣，需要的計(jì)算和存儲(chǔ)資源相對(duì)較小，保障了部署的靈活性，并降低系統(tǒng)反應(yīng)的時(shí)間。

因此，我們通過Microchip機(jī)器學(xué)習(xí)整體解決方案能夠看到，在邊緣一側(cè)，元器件會(huì)涉及到更善于終端推理的FPGA，更利于系統(tǒng)集成和部署的MCU/MPU，以及其他幫助工程師打造邊緣機(jī)器學(xué)習(xí)方案的模擬器件和安全器件。目前，Microchip這份完整的機(jī)器學(xué)習(xí)方案已經(jīng)在貿(mào)澤電子全面上線，接下來我們就來系統(tǒng)地看一下這份方案，以及方案里面的具體器件。

圖5：Microchip機(jī)器學(xué)習(xí)整體解決方案（圖源：Microchip）

綜合而言，Microchip機(jī)器學(xué)習(xí)整體解決方案是一個(gè)包括軟件和硬件工具套件、參考設(shè)計(jì)以及硅平臺(tái)的系統(tǒng)方案，非常適合用于需要具有高級(jí)性能的簡(jiǎn)單易用的應(yīng)用。也就是說，無論你是AI和機(jī)器學(xué)習(xí)方面的新手，還是尋求高性能、經(jīng)驗(yàn)豐富的工程師大牛，都能夠在Microchip機(jī)器學(xué)習(xí)整體解決方案里找到適合自己的軟硬件組合。

在硅器件方面，Microchip廣泛的硅器件產(chǎn)品組合包括MCU、MPU和FPGA。為幫助工程師使用這些器件，Microchip準(zhǔn)備了全面豐富的軟件工具包，允許工程師朋友使用流行的ML框架，包括TensorFlow、Keras、Caffe和ONNX涵蓋的許多其他框架，以及TinyML和TensorFlow Lite中的框架。這些豐富的開發(fā)套件組合起來，構(gòu)成了Microchip硅器件背后的開發(fā)生態(tài)系統(tǒng)。

比如，在使用Microchip的MCU或MPU器件時(shí)，MPLAB開發(fā)生態(tài)系統(tǒng)將與Microchip的開發(fā)板以及機(jī)器學(xué)習(xí)設(shè)計(jì)合作伙伴提供的軟件套件和解決方案無縫集成，提供MPLAB X集成開發(fā)環(huán)境（IDE）、MPLAB XC C編譯器、MPLAB Data Visualizer等開發(fā)工具，顯著提升開發(fā)者的開發(fā)效率。

在使用Microchip的FPGA器件時(shí)，該公司先進(jìn)的VectorBlox加速器軟件開發(fā)套件（SDK）可以讓開發(fā)者輕松編程高能效神經(jīng)網(wǎng)絡(luò)。VectorBlox加速器SDK還附帶了基于PolarFire視頻套件構(gòu)建智能AI相機(jī)平臺(tái)的說明，讓開發(fā)者可以更加方便地評(píng)估不同的卷積神經(jīng)網(wǎng)絡(luò)（CNN）。

此外，圍繞豐富的硅器件，Microchip還提供了豐富的評(píng)估套件，包括帶有TDK InvenSense 6軸MEMS運(yùn)動(dòng)傳感器的SAM D21機(jī)器學(xué)習(xí)評(píng)估套件和帶Bosch IMU的SAM D21機(jī)器學(xué)習(xí)評(píng)估套件。

通過全面的軟硬件組合，以及Microchip經(jīng)過驗(yàn)證的參考設(shè)計(jì)和經(jīng)驗(yàn)豐富的合作伙伴網(wǎng)絡(luò)，可以幫助廣大機(jī)器學(xué)習(xí)開發(fā)者降低風(fēng)險(xiǎn)、縮短上市時(shí)間、降低功耗和應(yīng)用成本。開發(fā)者可以借助這些資源設(shè)計(jì)各種應(yīng)用程序，用于數(shù)據(jù)中心、自動(dòng)駕駛汽車、安全和監(jiān)控、電子圍欄、增強(qiáng)和虛擬現(xiàn)實(shí)耳機(jī)頭顯、無人機(jī)、機(jī)器人、衛(wèi)星圖像和通訊中心等領(lǐng)域。

上面我們對(duì)Microchip機(jī)器學(xué)習(xí)解決方案進(jìn)行了全面介紹，接下來我們通過一款具體的方案，看一下Microchip方案在機(jī)器學(xué)習(xí)方面的出色性能。在此，我們?yōu)榇蠹艺归_介紹上面提到的帶有TDK InvenSense 6軸MEMS運(yùn)動(dòng)傳感器的SAM D21機(jī)器學(xué)習(xí)評(píng)估套件，貿(mào)澤電子上該評(píng)估套件的物料號(hào)為EV18H79A，大家可以通過搜索此物料號(hào)，在貿(mào)澤電子平臺(tái)快速找到這款評(píng)估套件，并且通過該評(píng)估套件的詳情頁就可以看到我們上述提到的Microchip機(jī)器學(xué)習(xí)整體解決方案。

圖6：EV18H79A（圖源：貿(mào)澤電子）

EV18H79A SAMD21機(jī)器學(xué)習(xí)評(píng)估套件基于Arm? Cortex?-M0+的32位MCU打造，帶有板載調(diào)試器（nEDBG）、ATECC608A CryptoAuthentication安全元件IC和完全認(rèn)證的ATWINC1510 Wi-Fi網(wǎng)絡(luò)控制器。作為一款面向機(jī)器學(xué)習(xí)應(yīng)用的多功能傳感器開發(fā)工具，EV18H79A上集成了Microchip MCP9808高精度溫度傳感器、光傳感器以及帶有TDK InvenSense ICM-42688-P、高精度6軸MEMS的附加板，幫助開發(fā)者收集數(shù)據(jù)以訓(xùn)練和創(chuàng)建機(jī)器學(xué)習(xí)模型。

此外，為了讓開發(fā)者更快上手EV18H79A SAMD21機(jī)器學(xué)習(xí)評(píng)估套件，Microchip還提供了用戶指南和項(xiàng)目示例，進(jìn)一步幫助大家縮短開發(fā)周期。

可用于AIoT應(yīng)用的ESP-EYE開發(fā)板

我們都知道，人工智能和物聯(lián)網(wǎng)融合而成的AIoT是邊緣智能典型的應(yīng)用場(chǎng)景，當(dāng)然也可以說，邊緣智能是AIoT落地的重要推動(dòng)技術(shù)。那么，接下來我們?yōu)榇蠹彝扑]一款來自制造商Espressif Systems（樂鑫科技）、可用于AIoT場(chǎng)景的ESP-EYE開發(fā)板。

圖7：ESP-EYE（圖源：貿(mào)澤電子）

ESP-EYE是專注于AIoT智能物聯(lián)網(wǎng)領(lǐng)域的圖像識(shí)別與語音處理開發(fā)板，板載ESP32系列芯片，集成200萬像素?cái)z像頭、數(shù)字麥克風(fēng)，擁有8MB PSRAM和4MB閃存的豐富存儲(chǔ)，支持Wi-Fi圖像傳輸與MicroUSB調(diào)試與供電?；谝陨县S富的配置和功能，開發(fā)者可以基于ESP-EYE實(shí)現(xiàn)語音喚醒、人臉檢測(cè)、人臉識(shí)別等交互功能，可廣泛應(yīng)用于智能物聯(lián)網(wǎng)領(lǐng)域的應(yīng)用開發(fā)。

同時(shí)，為了幫助開發(fā)者提升開發(fā)效率，Espressif Systems為ESP-EYE準(zhǔn)備了全面的用戶指南，讓大家可在Linux、MacOS、Windows操作系統(tǒng)中完成軟件燒寫，并實(shí)現(xiàn)上述AIoT相關(guān)功能，可協(xié)助用戶開發(fā)高度集成的AI解決方案。

邊緣智能未來發(fā)展趨勢(shì)

作為傳統(tǒng)云端智能的重要補(bǔ)充和延伸，邊緣智能具有無窮的魅力，是未來人工智能領(lǐng)域發(fā)展的重要方向，相關(guān)廠商也將以芯片和軟件技術(shù)為抓手，積極推動(dòng)邊緣智能的發(fā)展。

面向未來，邊緣智能將呈現(xiàn)四大明顯的發(fā)展趨勢(shì)。首先是核心芯片集成度更高、算力更強(qiáng)，整體方案更加智能；其次是系統(tǒng)架構(gòu)更加靈活，更容易開發(fā)和部署；第三是邊緣智能方案的能效比將不斷提升，使得更多的AI負(fù)載將卸載到邊緣端；最后是邊緣智能的生態(tài)將更加成熟，圍繞核心硬件將會(huì)有更加豐富的配套工具和開發(fā)環(huán)境。

而在邊緣智能技術(shù)不斷提升的過程中，電子元器件始終都將是整個(gè)方案最核心的部分之一，貿(mào)澤電子將持續(xù)為行業(yè)帶來前沿的元器件產(chǎn)品，助力實(shí)現(xiàn)更好的邊緣智能方案。