邊緣計(jì)算“下一程”：AI規(guī)?；瘧?yīng)用如何攻堅(jiān)？

數(shù)字化浪潮的洶涌推進(jìn)，催生了前所未有的數(shù)據(jù)洪流，加速了計(jì)算從云到端的發(fā)展。在近日舉辦的英特爾新質(zhì)生產(chǎn)力技術(shù)生態(tài)大會(huì)上，英特爾市場(chǎng)營(yíng)銷(xiāo)集團(tuán)副總裁、中國(guó)區(qū)OEM & ODM銷(xiāo)售事業(yè)部總經(jīng)理郭威指出，如今云和端的界限正在變得越來(lái)越模糊，兩者朝著彼此融合的方向發(fā)展。這一趨勢(shì)的背后，是數(shù)據(jù)量的爆炸性增長(zhǎng)，以及對(duì)數(shù)據(jù)在不同地點(diǎn)處理的考量，而這也構(gòu)成了推動(dòng)邊緣計(jì)算興起的關(guān)鍵因素。

英特爾市場(chǎng)營(yíng)銷(xiāo)集團(tuán)副總裁、中國(guó)區(qū)OEM&ODM銷(xiāo)售事業(yè)部總經(jīng)理郭威

越來(lái)越多的企業(yè)應(yīng)用開(kāi)始在邊緣運(yùn)行。根據(jù)Gartner的預(yù)測(cè)1，到2027年，50%的關(guān)鍵企業(yè)應(yīng)用將在邊緣運(yùn)行。研究機(jī)構(gòu)Grand View Research 2 則預(yù)計(jì)，全球邊緣計(jì)算市場(chǎng)規(guī)模將在2024年至2030年間以高達(dá)36.9%的復(fù)合年增長(zhǎng)率（CAGR）持續(xù)擴(kuò)張。企業(yè)正在邊緣計(jì)算上持續(xù)投入，預(yù)計(jì)3從2024到2028年，全球邊緣計(jì)算支出將以雙位數(shù)的復(fù)合年增長(zhǎng)率（CAGR）穩(wěn)健增長(zhǎng)。

AI在邊緣也展現(xiàn)出強(qiáng)勁的發(fā)展勢(shì)頭。盡管目前，AI應(yīng)用主要集中在云端，但考慮到成本、時(shí)效性和安全性等因素，AI向邊緣下沉已成為趨勢(shì)。Gartner預(yù)測(cè)4，到2026年，50%的全球邊緣部署將包含AI。今年以來(lái)，生成式AI在各行業(yè)的應(yīng)用不斷落地，企業(yè)積極利用大模型技術(shù)解決商業(yè)挑戰(zhàn)，并推動(dòng)了一系列創(chuàng)新成果，大模型商用正進(jìn)入規(guī)模化發(fā)展的關(guān)鍵階段。

邊緣AI“痛點(diǎn)”大起底：成本、技術(shù)與規(guī)?；魬?zhàn)

盡管邊緣AI在數(shù)據(jù)處理和實(shí)時(shí)響應(yīng)方面展現(xiàn)出顯著優(yōu)勢(shì)，但在其部署過(guò)程中仍面臨一系列挑戰(zhàn)。

首先，將資源從云端轉(zhuǎn)移到邊緣通常需要額外的成本投入，包括硬件采購(gòu)、部署、維護(hù)以及能源消耗等。企業(yè)需要在價(jià)值、質(zhì)量和成本之間做出權(quán)衡，算一筆“經(jīng)濟(jì)賬”。

其次，技術(shù)層面的復(fù)雜性是阻礙AI應(yīng)用的一大難題。“模型幻覺(jué)”問(wèn)題是其中之一，即在邊緣環(huán)境下，AI模型可能會(huì)因數(shù)據(jù)質(zhì)量、模型訓(xùn)練不足或硬件限制等原因產(chǎn)生不準(zhǔn)確的輸出。

此外，邊緣應(yīng)用場(chǎng)景的多樣性與碎片化也為邊緣AI部署帶來(lái)了挑戰(zhàn)。場(chǎng)景、設(shè)備及工作負(fù)載的多樣性，意味著每個(gè)場(chǎng)景都有其獨(dú)特的需求和限制。如何設(shè)計(jì)出既靈活又可擴(kuò)展的標(biāo)準(zhǔn)化方案，以適應(yīng)不同場(chǎng)景的需求，成為實(shí)現(xiàn)邊緣AI規(guī)?；瘧?yīng)用的關(guān)鍵。

三大策略突破瓶頸，助力邊緣AI規(guī)模化發(fā)展

策略一：多樣化硬件產(chǎn)品，破解邊緣場(chǎng)景碎片化難題。

在邊緣計(jì)算場(chǎng)景中，面對(duì)不同的應(yīng)用負(fù)載和場(chǎng)景需求，通用處理器和通用算力芯片是滿(mǎn)足這些多樣化場(chǎng)景的最佳方案，這也是英特爾的優(yōu)勢(shì)所在。

為實(shí)現(xiàn)這一目標(biāo)，英特爾不斷在CPU中集成更多先進(jìn)功能，通過(guò)CPU、GPU和NPU的協(xié)同工作，滿(mǎn)足各種場(chǎng)景下的復(fù)雜需求。

英特爾專(zhuān)為邊緣設(shè)計(jì)的多樣硬件產(chǎn)品組合，如英特爾^? 酷睿? 處理器，為日常的工作負(fù)載提供了卓越的性能；英特爾? 酷睿? Ultra處理器則集成了NPU（神經(jīng)網(wǎng)絡(luò)處理單元），為多種應(yīng)用場(chǎng)景提供了更強(qiáng)大的算力支持。此外，英特爾凌動(dòng)? 處理器、英特爾銳炫? GPU For the Edge、英特爾^? 至強(qiáng)^? 6 處理器，以及專(zhuān)為加速深度學(xué)習(xí)訓(xùn)練和推理而設(shè)計(jì)的英特爾? Gaudi 處理器等，為客戶(hù)提供了豐富的選擇，使客戶(hù)以較低成本滿(mǎn)足多樣化負(fù)載和碎片化應(yīng)用成為可能。

策略二：開(kāi)源開(kāi)放平臺(tái)，加速易用、可負(fù)擔(dān)的AI部署。

在軟件工具層面，英特爾提供了一系列工具集，如OpenVINO?和oneAPI?，這些工具集為開(kāi)發(fā)者在英特爾平臺(tái)上優(yōu)化和部署AI應(yīng)用提供了強(qiáng)有力的支持。

在AI模型和框架方面，英特爾提供TensorFlow、Hugging Face、PyTorch和DeepSpeed等主流AI模型和框架，確保開(kāi)發(fā)者能夠利用最前沿的工具來(lái)構(gòu)建和訓(xùn)練AI模型。

企業(yè)AI開(kāi)放平臺(tái)（OPEA）是英特爾攜手行業(yè)領(lǐng)軍企業(yè)共同打造的開(kāi)放性AI開(kāi)發(fā)與部署平臺(tái)。該平臺(tái)幫助行業(yè)客戶(hù)更便捷地基于英特爾的產(chǎn)品，構(gòu)建完整的企業(yè)級(jí)AI應(yīng)用。

策略三：以場(chǎng)景驅(qū)動(dòng)創(chuàng)新，攜手生態(tài)破局未來(lái)市場(chǎng)。

英特爾攜手合作伙伴，深入挖掘行業(yè)場(chǎng)景的需求與痛點(diǎn)，在特定場(chǎng)景中探索創(chuàng)新路徑，共同預(yù)見(jiàn)并應(yīng)對(duì)未來(lái)可能出現(xiàn)的新挑戰(zhàn)。

針對(duì)多元化的應(yīng)用場(chǎng)景，英特爾與合作伙伴攜手打造了定制化的垂直行業(yè)AI解決方案，如英特爾? 工業(yè)邊緣控制、基于英特爾? 架構(gòu)的 AI POS 方案等，滿(mǎn)足零售、工業(yè)、教育、醫(yī)療、能源和交通等不同領(lǐng)域的特定需求。

多元化的生態(tài)是英特爾持續(xù)深耕行業(yè)、推動(dòng)創(chuàng)新的基石。英特爾也將持續(xù)構(gòu)建和拓展合作伙伴生態(tài)系統(tǒng)，與服務(wù)提供商、設(shè)備制造商等生態(tài)伙伴緊密合作，共促技術(shù)聯(lián)創(chuàng)、共享開(kāi)發(fā)權(quán)益、共拓市場(chǎng)項(xiàng)目，加速人工智能的開(kāi)發(fā)和落地部署。

2024年是大模型應(yīng)用的落地之年，AI應(yīng)用仍在創(chuàng)新的浪潮下持續(xù)拓展邊界。在云、邊、端融合的趨勢(shì)下，英特爾憑借CPU、GPU與NPU的強(qiáng)強(qiáng)聯(lián)合筑牢算力底座，以開(kāi)放平臺(tái)和生態(tài)推動(dòng)技術(shù)創(chuàng)新與產(chǎn)業(yè)發(fā)展，讓更多行業(yè)企業(yè)能夠輕松擁抱AI技術(shù)，從而引領(lǐng)生成式AI及大模型應(yīng)用走向規(guī)?；l(fā)展的新階段，推動(dòng)業(yè)界邁向更加智能、高效與可持續(xù)的未來(lái)。