人工智能后的下一個風口——邊緣AI賦能更安全高效的智慧世界

AI是研究使計算機來模擬人的某些思維過程和智能行為（如學習、推理、思考、規劃等）的學科，主要包括計算機實現智能的原理、制造類似于人腦智能的計算機，使計算機能實現更高層次的應用。

AI將是未來世界發展的核心，隨著科技的進步及人類生活需求的提高，AI在計算機領域得到了前所未有的重視。并在機器人、經濟政治決策、控制系統及仿真系統中得到應用。它可以通過邊緣投入到生產中，依靠零信任保障安全，并最終從量子技術處獲取源源不斷的動力，實現擴展到全球系統所需的性能和效率。

而在AI發展的同時，也在不斷產生新的分支并不斷地進行進化，AI進化的下一步即可稱之為邊緣AI，其發源于邊緣計算，在降低系統的處理負載的同時解決數據傳輸的延遲問題。這樣的處理是在傳感器附近或設備產生數據的位置進行的，因此稱之為邊緣，其特點是規模小且更容易為大眾所使用。邊緣計算的發展意味著邊緣AI正變得越來越重要。

傳統云AI與邊緣AI既有相同之處，又有很大差別。

傳統云AI需要在云端處理和存儲數據。這種工作方式的優勢是軟件工程師在設計和構建云AI系統時提供了更大的靈活性和自由度。但云AI的運行必須要依賴互聯網連接，在工作效率及安全性方面存在很大問題。而邊緣AI的主要特點是它在本地處理和存儲數據，因此無需依賴互聯網連接。這使得邊緣AI能夠實時生成數據并獨立作出決策。隨著邊緣AI設備實現更高的計算能力，邊緣AI的應用可能會逐漸超過云AI。

而比較直觀的差距應該是在應用領域，云AI更多被應用于大數據分析、語音識別、自動駕駛等領域。而邊緣AI則主要應用于智能家居、智能工廠、智能城市等IoT領域。邊緣AI通過在設備本地進行智能決策，能夠提升物聯網系統的效率和安全性

舉個例子，工廠的機器人和自動駕駛汽車都需要以最小的延遲高速處理數據。為了實現這些目標，邊緣計算可以在云上靠深度學習生成數據，而在數據原點——即設備本身（邊緣）執行模型的推斷和預測，是能夠提高工廠智能化程度的AI模型核心。從幫助醫院里的放射科醫生診斷病癥，到在高速路上駕駛汽車，再到幫助我們為植物授粉，邊緣 AI 為我們創造了前所未有的可能性。

近年來，邊緣AI與常規云AI的對比說法不一，作為常規AI的進化物，它們執行不同任務時的效率及運行速度都不相同。所以并不能通過某些簡單任務去進行對比。但邊緣AI的優勢還是有很多。

比如其因為能讓處理能力更接近邊緣，所以應用所需的互聯網帶寬變得更少，進而顯著降低網絡成本?；谠频腁I系統使用大量數據進行操作，需要大帶寬才能正常運行。因此，對于嚴重依賴AI進行日常運作的組織而言，與數據和帶寬使用相關的成本通常很高。邊緣AI將數據處理保持在設備本地，帶寬使用不會像使用傳統云AI的設備那么高。因此，可以控制帶寬成本。更重要的是邊緣AI用戶也能更快地獲得結果，因為他們的網絡和設備的網絡流量很低。

并且終端設備擁有更多自主權和強大性能。邊緣AI的主要特征之一是它為所有端點設備提供了更高的獨立性，由于邊緣AI的工作特點就是在本地而不需要在云端分析數據，此類設備無需連接到中央服務器即可運行，因此不會因長距離通信而延遲并且能夠實時響應用戶的需求，所以速度和效率始終很高。

相對于由標準AI驅動的設備相比，支持邊緣AI的設備顯示出更高的響應能力和性能水平，由于在本低就能處理數據，邊緣AI憑借去中心化和離線能力而變得更加強大，所以提高了應用的可用性和可靠性。

最主要的，也是人們最關注的就是數據隱私和安全，傳統AI通過云計算網絡中的各種通信渠道傳輸數據有一部分可能性會造成數據丟失。主要原因是兩個或多個數據點之間有傳輸距離。所以傳統云計算及AI解決方案需要竭盡全力確保其數據得到有效保護。而邊緣 AI將這些數據保存在本地，只將分析和洞察上傳到云端，這進一步加強了隱私。即便為了學習需上傳一些數據，也可以對數據進行匿名處理以保護用戶身份。通過保護隱私，邊緣 AI 能夠簡化數據合規性方面的挑戰，并且用戶還可以設置限制誰可以訪問存儲在其個人設備中的數據。因此，邊緣AI是用戶數據處理的更安全選擇。

邊緣AI工作時間越長，應用就更準確，因為工作時產生了大量的數據，當邊緣 AI 應用遇到它無法準確處理的數據時，它通常會將該數據上傳，然后使用該數據重新訓練并從中學習，因此會越來越準確。

邊緣AI開發，如何駛上快車道？

邊緣AI持續升溫智慧聯網趨勢成形

邊緣AI應用

邊緣AI可以提供增強用戶體驗的附加功能（如智能手機、智能電視、個人電腦/平板電腦），也可以提供對技術本質至關重要的功能（如自動駕駛汽車、工業機器人等，如果沒有AI，它們根本無法以所需要的方式工作）。

AI（實現自動化和免提訪問）和Wi-Fi連接是實現物聯網的兩項關鍵技術，在物聯網中，智能電器可以直接通信，因此，智能家居是AI（主要包括消費電子產品）的一個重要增長渠道。除此之外，智能電視、智慧鏡面、虛擬現實（VR）設備、傳感器、廚房設備、清潔用具以及安全系統都可以通過應用AI和Wi-Fi進入互聯狀態，通過具有AI功能的智能家居設備可以進行免提訪問和語音命令。在預測期內，將AI引入家庭所提供的機會，將在一定程度上反映消費電子垂直領域的增長，預計到2034年，該行業將成為邊緣AI芯片營收最高的行業。

邊緣應用AI芯片價值鏈

邊緣AI正在推動工業、汽車、醫療、金融、能源等行業開發出新的業務成果。各大廠商也在圍繞邊緣AI領域進行研究。AI處理器針對不同的應用有不同的等級，邊緣AI芯片的性能要求已能夠與中高端智能手機AP（應用處理器）相媲美，目前邊緣計算市場上參與者眾多，不同陣營廠商正以不同的路線共同推動邊 緣計算快速發展。以英特爾、AMD 等為代表的芯片廠商積極推出 CPU、GPU、 FPGA、DPU、IPU 等邊緣算力芯片；亞馬遜、微軟等云服務廠商將云計算能力向 設備和用戶側延伸，擴充云數據中心的外延，將云原生的統一編程模式通過邊緣網 關的能力應用到設備構成的邊緣云，主打云邊協同一體化；以移動、電信、聯通為 代表的 5G 運營商將 IT 能力同基礎網絡承載與業務運營融合，提供基站的邊緣計算服務及 5G 網絡接入管理。。

2024年~2034年邊緣AI芯片營收預測

預計到2034年，消費電子、工業和汽車垂直領域將成為邊緣AI芯片的主要營收來源

五家大廠邊緣AI芯片解決方案

英特爾持續創新邊緣AI技術，攜手生態伙伴推進城市數智化轉型

德州儀器推出全新視覺處理器系列，在智能攝像頭應用中實現可擴展的邊緣AI性能

TI推出全新處理器推動邊緣AI普及并使其功耗減半

Microchip與韓國智能硬件公司IHWK合作開發模擬計算平臺,加速邊緣AI/ML推理

同時, 今年初英飛凌宣布收購初創公司Imagimob，后者是一家邊緣設備機器學習解決方案提供商，專注于邊緣AI市場。通過此次收購，英飛凌將顯著補強其AI產品。并在8月宣布與Edge Impulse合作，為PSoC? 63低功耗藍牙 ?微控制器（MCU）擴展基于微型機器學習的AI開發工具。

英飛凌攜手Edge Impulse擴展邊緣AI能力,為藍牙客戶帶來更多基于機器學習模型的平臺選擇

英飛凌為NVIDIA Jetson邊緣AI平臺提供AIROC? Wi-Fi/藍牙?解決方案

ST意法半導體也加入了邊緣AI的競爭戰場，今年意法半導體（ST）于年中推出了邊緣AI加速微處理器——第二代STM32 MPU。該處理器提高了工業和物聯網邊緣應用的性能和安全性，預計將于2024上半年批量生產，并后期又推出了X-CUBE-AWS-H5擴展包，讓物聯網設備能夠無縫、安全地接入AWS云。在這個軟件擴展包中有一套為專門終端設備STM32H5系列高性能微控制器設計的軟件庫和應用代碼示例。。

半導體執行副總裁Ricardo De Sa Earp表示：“新的微處理器進一步加大了公司在應用處理器方面的投資，將64位內核與邊緣AI加速、高級多媒體功能、圖形處理和數字連接相結合?！?/p>

意法半導體發布安全軟件,保護STM32邊緣AI設備連接AWS IoT Core的安全

邊緣AI開發的挑戰及ST的解決方案

意法半導體推出第二代工業4.0級邊緣AI微處理器意法半導體推出NanoEdge AI免費部署服務,打破邊緣AI應用障礙

萊迪思于今年也推出了結合低功耗、低延遲FPGA與英偉達Orin平臺的集成解決方案,將傳感器高效橋接至AI應用。

萊迪思與英偉達合作加速推進網絡邊緣AI

萊迪思FPGA助力聯想新一代網絡邊緣AI體驗

大模型廠商也在加速布局移動/邊緣端的相關應用。今年舉辦的谷歌I/O大會上，谷歌宣布其PaLM2大模型的最輕量化版本Gecko可在移動端運行，開拓了AI模型在邊緣側推理的場景。對此有消息機構表示，在邊緣側推理的輕量化大語言模型有望帶動邊緣AI計算成長，加速邊緣硬件市場更新迭代。除大模型外，龍頭廠商也紛紛布局輕量級模型，當前 Meta、谷歌、高通等公 司已開始發力邊緣 AI。谷歌和 Meta 分別于今年 5 月 11 日和 7 月 19 日發布了 各自最新的大語言模型版本 PaLM 2 和 Llama 2，較以往版本實現測試數據、性 能等全面優化，輕量化版本均能應用于邊緣端，其中最新發布的 Meta 大模型 Llama 2 更是開放開源免費使用，有望推動邊緣 AI 迎來“安卓時刻”。此前，芯片 龍頭廠商高通也首次成功實現 Stable Diffusion 模型在手機端應用生成 AI 圖像， 并于 5 月 30 日宣布高通正在轉型為邊緣計算公司，全面下注邊緣 AI。

國內邊緣AI市場

在AI的助力下，邊緣側終端和芯片迭代有望加速。目前國內布局邊緣AI芯片的廠商主要包括寒武紀、華為海思、瑞芯微、研華科技、凌華科技等。

瑞芯微推出RK3588 AIoT芯片，計算采用Quad A76 + Quad A55、Arm G610 MP4及6Tops NPU，感知采用48MISP,HDR/3DNR、多攝像頭輸入及多MIC陣列，支持安卓及Linux系統?？蓱糜谄桨?、只能座艙、AR/VR及網絡視頻錄像機等領域。

凌華科技發布采用NVIDIA Jetson Orin模塊的下一代邊緣AI平臺，全球領先的邊緣計算和AI解決方案提供商——凌華科技，日前宣布推出DLAP-211-Orin系列和DLAP-411-Orin工業級邊緣AI平臺。通過搭載Orin 模塊，全新的 DLAP 平臺性能得到了大幅提升，成為一款緊湊的、經過SWaP 優化的、強大的工業級解決方案，AI 推理性能與前幾代產品相比，提高了 8 倍，達到了 275 TOPS。 這些先進的系統旨在提供卓越的性能和耐用性，重新定義了智慧城市、零售、安全、工廠和制造等各個領域的AI應用基準。

凌華科技發布采用NVIDIA Jetson Orin模塊的下一代邊緣AI平臺

凌華科技發布IMB-M47 ATX主板,滿足高性能工業邊緣應用的需求凌華科技推出下一代IPC革新邊緣側行業應用，提供可擴展設計和定制功能模塊

基于NVIDIA Jetson? Orin的凌華科技ROScube-X RQX-59系列，重新定義 AI 性能

邊緣計算可以在任何產生數據的地方使用，從自動化工廠車間和倉庫的工廠，自助結賬的零售商店，到具有車隊管理的交通，以及具有停車管理和智能建筑的智慧城市。AI和5G技術的推出，使邊緣計算更加靈活、智能和互聯。研華科技一直致力于提供Edge+邊緣智能解決方案，聚焦行業重點，側重在軟件、AI、無線連接和云集成，為AIoT多場景應用提供支持，且能夠提供全備軟硬件和更具行業經驗的深度整合服務。并且，研華科技一直與英偉達、英特爾、AMD、ARM等頭部半導體廠商深度合作，在云端和邊緣側能夠提供自研的AI模型、訓練、算法以及開發包。

揭秘研華科技Jelina物聯網管理平臺，迎接邊緣智能新機遇

研華AIR-030邊緣AI推理系統，專為機器人應用多設備連接AI運行設計

研華&Hailo聯合推出可擴展、高能效邊緣AI解決方案

研華推出支持雙NVIDIA GPU的高性能邊緣AI系統AIR-500D

布局Edge AI,研華以邊緣運算創新與產業驅動應對全球新興行業挑戰

8月28日，在“第三屆滴水湖中國RISC-V產業論壇”上，國內知名AI技術廠商云天勵飛介紹了其新一代邊緣大算力AP級邊緣SoC芯片Edge10V，目前已經接近量產狀態。

作為國內首批AI技術廠商，成立于2014年的云天勵飛最初是主攻AI算法，通過攝像頭、端云協同的架構來做海量圖片的分析與處理，因此算法的泛化能力相對較弱，所以對于設備的調試要求就比較高，需要到各地去幫助客戶調試，這在當時耗費了云天勵飛很大的一部分精力。這也促使了云天勵飛開始來做自研芯片，將自己的AI算法芯片化。

從2015年至今，云天勵飛已經完成了三代指令集架構，4代神經網絡處理器架構的研發。2022年，云天勵飛自研的新一代邊緣AI SoC芯片——Edge10V流片成功，今年開始在做產品化相關的工作，目前已經接近準量產狀態。

當下，傳統硬件疲態漸顯，智能機/PC均進入存量市場，智能音箱及耳機也增速放緩。但通過邊緣AI的賦能，相信將改變電子產業的增長曲線，未來所有硬件都有重估值潛力。