邊緣AI開發的挑戰及ST的解決方案

1 邊緣AI的優勢

今天，人工智能（AI）被廣泛應用，幾乎無所不在，AI有助于汽車、工業、個人電子等產品設備實現數字化和智能化，改變我們的日常生活和工作方式。在很多應用領域，尤其是工業應用，AI 將是一個“攪局者”，將會改變現有的游戲規則。

Matteo MARAVITA(意法半導體亞太區人工智能創新中心&智能手機創新中心高級經理)

雖然很多企業專注生成式AI 和大型數據中心驅動的AI，但意法半導體（ST）注意到，邊緣AI 現在正在成為熱門話題，并將成為工業數字化的關鍵推動者。邊緣AI 是一種不同尋常的AI，直接位于網絡邊緣節點的微型設備上，由一系列不同的芯片和軟件棧驅動。

邊緣AI 意味著原始數據不會發送到云端，而是在本地設備上完成推理演算過程，這種方式讓新應用能夠以超低延遲具有更好的性能，從而讓實時應用等待時間變得很短，并能大幅提高數據安全性，而成本僅是云端AI 的幾分之一。從經濟角度看，數據上云分析對于較小的工業和消費工業應用是不可行的，而對于較大應用可能是可行的。

ST 專注邊緣AI 市場， 我們可以直接在MPU、MCU 甚至 MEMS 傳感器上運行AI 算法。邊緣AI 本身就是一種技術趨勢，因為它可以幫助企業解決許多亟待解決的挑戰。邊緣AI 有助于縮小產品尺寸，降低制造和運營成本，并且可以顯著降低功耗和數據帶寬，同時還能提高工業和個人電子產品的數據安全性。

2 開發應用的挑戰及解決方案

采用邊緣AI 開發應用面臨的最大挑戰是：90%~95% 的嵌入式工程師缺乏或根本沒有AI 開發經驗。當他們掌握了一些AI 技術的基礎知識，并了解到如何用AI 解決應用中存在的問題后，往往需要打破原來的設計觀念，重新思考怎么設計。以機器學習為例，設計人員需要專注的是數據而非算法，這就是為什么ST 如此重視STM32Cube.AI 開發者云和NanoEdgeStudio AI 工具，因為這些工具可幫助開發人員創建解決問題的應用。一般來說，與傳統嵌入式方法相比，邊緣AI 的開發成本和功耗更低，而安全性更高。

ST 的解決方案是為客戶提供一個資源豐富的生態系統。對于開始AI 設計的客戶，我們開發了AI 軟件庫、AI 工具（包括用 NanoEdge AI Studio 訓練模型和選擇模型）、開發板和本地AI 專家支持服務。

此外，我們在云端整合所有的應用開發工具創建了STM32Cube.AI 開發者云，這是一個獨特而強大的AI開發工具，用戶可以訪問高價值的模型庫和開發板庫，對應用程序進行對標測試和性能測試。

我們還不斷增加適合不同應用場景的完整的參考設計，客戶可以從中汲取設計靈感，或者可以在他們的產品中直接復制我們的設計，而修改自己的數據集的工作量很小。

下一步，我們還將提高產品組合的算力，增加AI硬件加速功能，讓客戶不用花費太多就能獲得非常先進的算力，實現以前不可能實現的智能解決方案。

總之，ST 通過技術突破、產品組合和軟件生態系統將邊緣AI 變為現實，下一步，我們將提高產品組合的算力，增加AI 硬件加速功能。憑借完整的軟件生態系統和市場前列的硬件產品，ST 已經躋身嵌入式AI 解決方案的先進提供商之列。在保證質量、可持續發展和穩定供貨的同時，ST 將以AI 賦能工業數字化，助力開發人員開發創新設計，在未來的互聯世界中大放異彩。

（本文來源于《EEPW》2023年11月期）