IP廠(chǎng)商談邊緣AI的機(jī)會(huì)

　　毛?爍?（《電子產(chǎn)品世界》，北京?100036）

　　1 AI多樣化，需要廣泛一致的生態(tài)

　　1.1 邊緣AI帶給工業(yè)的變化

　　AI是當(dāng)今最激動(dòng)人心的技術(shù)革命之一，它將對(duì)市場(chǎng)產(chǎn)生巨大的影響，也將作用于各類(lèi)設(shè)備，包括網(wǎng)絡(luò)邊緣的計(jì)算存儲(chǔ)、自動(dòng)駕駛、數(shù)字電視圖像增強(qiáng)、家庭智能助手、不同類(lèi)型的智能手機(jī)等，并使物聯(lián)網(wǎng)設(shè)備更加智能化。

　　Arm預(yù)計(jì)，新一輪的AI增強(qiáng)技術(shù)將有助于加速物聯(lián)網(wǎng)在工業(yè)與醫(yī)療場(chǎng)景用例、以及智能攝像頭與傳感器（用于預(yù)測(cè)故障和維護(hù)）等設(shè)備中的應(yīng)用。此外，人們希望看到幾乎所有傳感器的監(jiān)測(cè)數(shù)據(jù)模式都能有所改進(jìn)。這些變化僅僅是一個(gè)開(kāi)始，因?yàn)锳I正在有效解決以往的計(jì)算挑戰(zhàn)，并迸發(fā)出大量的潛能。

　　1.2 邊緣AI的技術(shù)挑戰(zhàn)

　　業(yè)界的挑戰(zhàn)在于，如何確保AI應(yīng)用于各類(lèi)現(xiàn)代電子設(shè)備的同時(shí)，滿(mǎn)足智能設(shè)備所需的高功效和成本敏感性。因此，當(dāng)你將計(jì)算的不斷演變特性和人們使用設(shè)備的方式考慮進(jìn)去時(shí)，就會(huì)明白AI不可能有一個(gè)放之四海而皆準(zhǔn)的解決方案。

　　為了克服這些挑戰(zhàn)，在過(guò)去幾年中，Arm幾乎在每一代產(chǎn)品中都引入了主要的AI增強(qiáng)功能。然而，在將AI應(yīng)用擴(kuò)展到數(shù)十億臺(tái)設(shè)備的過(guò)程中，產(chǎn)品功能增強(qiáng)只是其中的一小部分。Arm還需要確保AI易于使用、修改和部署，這就需要通過(guò)投資高效好用的軟件和工具來(lái)實(shí)現(xiàn)，從而使生態(tài)系統(tǒng)中的軟硬件開(kāi)發(fā)人員都可以輕松使用。從根本上來(lái)看，Arm面臨的技術(shù)挑戰(zhàn)不僅限于設(shè)計(jì)計(jì)算架構(gòu)。為此，Arm也不斷致力于在蓬勃發(fā)展的生態(tài)系統(tǒng)支持下，為市場(chǎng)提供廣泛、一致、易于訪(fǎng)問(wèn)的解決方案。

　　1.3 Arm的解決方案

　　從更高層面上來(lái)講，AI在現(xiàn)代設(shè)備中的應(yīng)用確實(shí)存在兩類(lèi)挑戰(zhàn)：技術(shù)挑戰(zhàn)和生態(tài)挑戰(zhàn)。許多技術(shù)挑戰(zhàn)正在變得越來(lái)越清晰。例如，在云計(jì)算中，您可以利用幾近無(wú)限的資源來(lái)處理計(jì)算問(wèn)題，很多因素，諸如功耗，芯片成本，帶寬成本等，在云計(jì)算中已不再是什么大問(wèn)題。但是，對(duì)于A(yíng)rm日常使用的大多數(shù)智能設(shè)備來(lái)說(shuō)，Arm依舊需要在更加嚴(yán)格的功率和尺寸限制下提供更多的算力和功能。例如，在設(shè)計(jì)最初的AI專(zhuān)用處理器系列Ethos時(shí)，Arm就很快意識(shí)到，對(duì)海量數(shù)據(jù)的智能管理對(duì)Arm的設(shè)計(jì)至關(guān)重要，因此，Arm讓所有AI專(zhuān)用處理器都具備智能數(shù)據(jù)管理技術(shù)，如壓縮和重新加載最小化技術(shù)等。

　　Arm需要在高效、固定功能的硬件與更靈活、可以適應(yīng)未來(lái)需求而又不影響效率的硬件之間找到一個(gè)適當(dāng)平衡，Arm Ethos系列就是一個(gè)范例。隨著AI和計(jì)算的不斷演進(jìn)，如何用更少的資源做更多的事情將繼續(xù)成為Arm技術(shù)與思維的核心。但是，正如前面提到的，世上沒(méi)有普適性標(biāo)準(zhǔn)，這就是為什么Arm設(shè)計(jì)了多款支持AI的處理器，并在功耗、性能、成本和靈活性方面進(jìn)行了多種平衡。 Arm的處理器解決方案旨在實(shí)現(xiàn)從微型傳感器、云服務(wù)器到基礎(chǔ)架構(gòu)的全面AI。

　　2 Imagination談工業(yè)AI的機(jī)遇與挑戰(zhàn)

　　2.1 邊緣AI帶來(lái)的變化

　　邊緣AI將在未來(lái)幾年發(fā)生巨大變化。邊緣設(shè)備中的神經(jīng)網(wǎng)絡(luò)加速能力以指數(shù)級(jí)的速度向前發(fā)展，意味著完全在設(shè)備上完成處理只是時(shí)間問(wèn)題。

　　例如，自動(dòng)化技術(shù)、機(jī)器人和傳感技術(shù)的進(jìn)步都會(huì)體現(xiàn)在我們身邊的各種機(jī)器上，這將意味著工業(yè)安全的真正改善。由人工智能物聯(lián)網(wǎng)（AIoT）驅(qū)動(dòng)的智能機(jī)器可以檢查出當(dāng)機(jī)械臂在其運(yùn)動(dòng)范圍內(nèi)快速擺動(dòng)時(shí)沒(méi)有人處于其運(yùn)動(dòng)路徑上，還可以檢查過(guò)程和材料中的缺陷，這意味著偏差會(huì)越來(lái)越小，質(zhì)量會(huì)進(jìn)一步提高。

　　自動(dòng)化程度的提高帶來(lái)的關(guān)鍵機(jī)會(huì)是可以提高過(guò)程智能，從而使設(shè)備不僅可以成為數(shù)據(jù)驅(qū)動(dòng)的設(shè)備，而且具有分享知識(shí)的能力，這一過(guò)程稱(chēng)為聯(lián)合學(xué)習(xí)或遷移學(xué)習(xí)。這將提高生產(chǎn)力、可靠性和質(zhì)量，降低成本，并增加產(chǎn)量。

　　2.2 工業(yè)AI的技術(shù)挑戰(zhàn)

　　上文提及的方案很快就會(huì)在您身邊的機(jī)器上有所體現(xiàn)，目前還有一些技術(shù)挑戰(zhàn)正待解決。例如，現(xiàn)在傳感器數(shù)據(jù)會(huì)被匯總并反饋至云端以進(jìn)行決策，這會(huì)增加延遲，產(chǎn)生連接和數(shù)據(jù)中心方面的成本。然而，我們?cè)絹?lái)越多地可以在嵌入式邊緣設(shè)備上進(jìn)行神經(jīng)網(wǎng)絡(luò)推理，使邊緣設(shè)備可以有效地做出自我決策，同時(shí)只需將重要信息傳達(dá)給中央控制端。隨著這些設(shè)備的推出，我們將看到顯著的改善，例如減少延遲、降低功耗，以及無(wú)需去“呼叫總部”。

　　在某些情況下，所面臨的挑戰(zhàn)是成本問(wèn)題，因?yàn)楣I(yè)物聯(lián)網(wǎng)相當(dāng)碎片化，某個(gè)特定的應(yīng)用場(chǎng)景可能僅有小批量的需求，這意味著系統(tǒng)構(gòu)建者和SoC設(shè)計(jì)人員必須設(shè)計(jì)一個(gè)擁有廣泛用途的基本規(guī)范，從而將眾多小批量應(yīng)用匯總成大批量。好消息是，神經(jīng)網(wǎng)絡(luò)加速器的進(jìn)步意味著可以在比針頭或句尾的句號(hào)還小的芯片中添加支持這些應(yīng)用的功能。這也意味著“智能”可以被添加到嵌入式設(shè)備中，使這些設(shè)備可以運(yùn)行各種各樣的神經(jīng)網(wǎng)絡(luò)模型和算法，進(jìn)而憑借足夠的靈活性去應(yīng)對(duì)多種應(yīng)用場(chǎng)景。

　　2.3 Imagination的解決方案

　　Imagination Technologies一直跟隨著客戶(hù)的步伐，并希望通過(guò)自己的研發(fā)能力來(lái)預(yù)見(jiàn)到這些問(wèn)題。因此，Imagination可以憑借自己的神經(jīng)網(wǎng)絡(luò)加速器（NNA）為邊緣AI提供全面的計(jì)算解決方案，相比其他方法，NNA可以指數(shù)倍的速度運(yùn)行神經(jīng)網(wǎng)絡(luò)層，同時(shí)具有運(yùn)行自定義層所需的靈活性。有了神經(jīng)網(wǎng)絡(luò)加速功能，意味著網(wǎng)絡(luò)可以在設(shè)備上運(yùn)行，從而支持在邊緣進(jìn)行數(shù)據(jù)驅(qū)動(dòng)的決策。

　　Imagination還可以提供豐富的IP內(nèi)核設(shè)計(jì)和各種性能配置，以滿(mǎn)足市場(chǎng)上所有領(lǐng)域的需求。Imagination支持非常小的尺寸，也支持非常強(qiáng)大的功能和卓越的性能，同時(shí)可以做到硅成本很低。

　　本文來(lái)源于科技期刊《電子產(chǎn)品世界》2019年第12期第17頁(yè)，歡迎您寫(xiě)論文時(shí)引用，并注明出處。