AI芯片競(jìng)爭(zhēng)紅海下的生存之道

據(jù)市場(chǎng)分析機(jī)構(gòu)GlobalData數(shù)據(jù)顯示，2021年第二季度北美地區(qū)的AI風(fēng)投總額就已經(jīng)達(dá)到95億美元，相比上一季度增長(zhǎng)了17.7%。這一季度，AI芯片市場(chǎng)的大熱門除了SambaNova以外，還包括Anduril Industries、Groq、Scale AI、Easy Education。

AI投資熱的趨勢(shì)似乎并未停歇。GlobalData的季度預(yù)測(cè)數(shù)據(jù)顯示，想要加入這場(chǎng)喧囂派對(duì)的風(fēng)投公司還在增加，甚至在TOP 5 AI芯片公司投資名單中，還見不到重復(fù)的投資者。中國(guó)AI芯片市場(chǎng)的情況也類似，在最新的Silicon 100榜單中，與AI相關(guān)的中國(guó)企業(yè)有瀚博半導(dǎo)體、地平線、億智電子等。

圖1：去年3月美國(guó)AI芯片初創(chuàng)企業(yè)融資走勢(shì)，其中2020年僅統(tǒng)計(jì)了第一季度（該表僅包含邏輯處理器，并未統(tǒng)計(jì)IP、存儲(chǔ)、傳感、光電等市場(chǎng)） 圖片來源：Semico Research

比較有趣的是，Silicon 100報(bào)告的作者Peter Clarke曾表示，今年專注于GPU和AI的專用芯片初創(chuàng)公司數(shù)量與去年持平?！靶袠I(yè)可能已經(jīng)達(dá)到了‘peak AI’的狀態(tài)?！?nbsp;對(duì)此，《國(guó)際電子商情》分析師持保留態(tài)度，畢竟從投資角度來看，AI芯片熱還遠(yuǎn)未結(jié)束。我們采訪了國(guó)內(nèi)外幾家AI芯片市場(chǎng)的參與者，他們分享了自己在激烈的競(jìng)爭(zhēng)中如何生存和發(fā)展的。

本文重點(diǎn)探討AI芯片在云、數(shù)據(jù)中心、邊緣上的應(yīng)用。市場(chǎng)對(duì)“邊緣”的定義存在爭(zhēng)議，此處我們將“邊緣”定義為云以外的部分，其中涵蓋了端側(cè)應(yīng)用。

籠罩在英偉達(dá)的陰影下

如果將以上內(nèi)容作為背景，包括AI芯片市場(chǎng)的持續(xù)火熱、市場(chǎng)參與者數(shù)量增多、融資市場(chǎng)熱度并未消減。那么對(duì)于數(shù)據(jù)中心大規(guī)模AI訓(xùn)練而言，無(wú)法回避的一個(gè)話題就是英偉達(dá)——該公司目前的營(yíng)收表現(xiàn)，可反應(yīng)出AI芯片市場(chǎng)有多火熱。

圖2：英偉達(dá)2011-2021財(cái)年收益與凈利潤(rùn)走勢(shì) 制表：國(guó)際電子商情 數(shù)據(jù)來源：英偉達(dá)年報(bào)

瘋漲的年度營(yíng)收與利潤(rùn)讓英偉達(dá)不像一家老牌芯片公司。受疫情影響和全球缺芯的沖擊，英偉達(dá)FY2020的業(yè)績(jī)表現(xiàn)出一定的頹勢(shì)，但英偉達(dá)的業(yè)績(jī)?cè)谄渌攴莸臐q勢(shì)令人咂舌（圖2）。從尚未結(jié)束的英偉達(dá)FY2022來看，前兩個(gè)財(cái)季的表現(xiàn)依然“殺紅了眼”，F(xiàn)Y2022 Q1/Q2的營(yíng)收較去年同期分別增長(zhǎng)了84%和68%，凈利潤(rùn)增長(zhǎng)了109%和282%。從上面的數(shù)據(jù)可以預(yù)判，英偉達(dá)FY2022的年報(bào)又會(huì)相當(dāng)好看。

英偉達(dá)在數(shù)據(jù)中心AI市場(chǎng)的業(yè)務(wù)表現(xiàn)對(duì)AI芯片企業(yè)而言無(wú)異于“白色恐怖”。在超越英偉達(dá)這件事情上，也遠(yuǎn)不是給張PPT這么簡(jiǎn)單。

要獲得在AI芯片市場(chǎng)上超越英偉達(dá)的競(jìng)爭(zhēng)優(yōu)勢(shì)，除了到位的資金和優(yōu)秀的團(tuán)隊(duì)之外，至少還要滿足3個(gè)條件：芯片層面相比英偉達(dá)有5-10倍的優(yōu)勢(shì)；軟件上為開發(fā)者提供簡(jiǎn)單的遷移路徑；有著保持領(lǐng)先的創(chuàng)新路線圖。雖然數(shù)據(jù)中心AI芯片賽道的參與者在增加，但是同時(shí)具備這些條件的企業(yè)并不多。

英偉達(dá)代表的，是老牌芯片企業(yè)對(duì)AI市場(chǎng)的持續(xù)跟進(jìn)。除了英偉達(dá)以外，Intel、AMD等企業(yè)也在AI芯片市場(chǎng)動(dòng)作頻繁。尤以Intel為代表，它已經(jīng)全面覆蓋CPU、GPU、FPGA、AISC芯片類型。雖然Intel在AI芯片市場(chǎng)還是個(gè)新玩家，但是這類企業(yè)的資金優(yōu)勢(shì)，讓其有能力進(jìn)行大宗收購(gòu)。前兩年，Intel分別以4億美元和20億美元的金額收購(gòu)了Nervana和Habana Labs，代表這類老牌芯片企業(yè)在AI芯片市場(chǎng)仍可表現(xiàn)出活力。

除了老牌芯片企業(yè)持續(xù)發(fā)力之外，如今的市場(chǎng)參與者不得不面對(duì)數(shù)據(jù)中心AI芯片戰(zhàn)場(chǎng)第二大市場(chǎng)現(xiàn)狀。在日前的新思上海新辦公樓落成儀式上，新思科技首席運(yùn)營(yíng)官Sassine Ghazi告訴我們，如今芯片市場(chǎng)供需雙方角色發(fā)生了很大的變化。

在需求側(cè)，微軟、谷歌、亞馬遜、阿里巴巴、騰訊等企業(yè)成為尖端工藝晶圓產(chǎn)品的買家，這些原本處于更下游的系統(tǒng)級(jí)企業(yè)，已經(jīng)開始自己“造芯”。谷歌的TPU開創(chuàng)了這一趨勢(shì)的先河。為特定需求做針對(duì)性的芯片定制，是保持業(yè)務(wù)差異化和領(lǐng)先的重要組成部分。在這樣的大背景下，AI芯片市場(chǎng)參與者又是怎么發(fā)展的？

市場(chǎng)的競(jìng)爭(zhēng)余地，與突破之道

早年數(shù)據(jù)中心AI市場(chǎng)尚未崛起，GPU主要用于圖形計(jì)算之時(shí)，GPU也是個(gè)群雄割據(jù)的市場(chǎng)，該市場(chǎng)的熱鬧程度不亞于如今的AI芯片市場(chǎng)。隨著行業(yè)的發(fā)展和技術(shù)的進(jìn)步，堅(jiān)挺到最后的GPU企業(yè)寥寥。這也是許多行業(yè)的特點(diǎn)，發(fā)展至成熟期后，市場(chǎng)僅能容納2-3個(gè)參與者。雖然這一點(diǎn)對(duì)邊緣側(cè)AI應(yīng)用場(chǎng)景多樣性未必適用，但對(duì)數(shù)據(jù)中心大規(guī)模AI計(jì)算的市場(chǎng)而言應(yīng)當(dāng)不會(huì)有錯(cuò)——現(xiàn)在的熱鬧局面終究會(huì)結(jié)束。

盧濤 高級(jí)副總裁兼 中國(guó)區(qū)總經(jīng)理 Graphcore

不過，Graphcore高級(jí)副總裁兼中國(guó)區(qū)總經(jīng)理盧濤在接受《國(guó)際電子商情》采訪時(shí)表示：“如果比較理性地分析，如今市場(chǎng)的整體格局可能并沒有大家看到的那么‘熱鬧’”……“現(xiàn)在的AI芯片公司大致可以分成7大類，第一類是在組建團(tuán)隊(duì)的，第二類是在宣講理念的，第三類是有了芯片的，第四類是有了芯片給客戶送測(cè)的，第五類是有落地的，第六類是有很多場(chǎng)景落地的，第七類則是真正能夠跟GPU分份額的?！?/p>

“要做到第六類、第七類的水平并不容易?！盙raphcore作為如今數(shù)據(jù)中心大規(guī)模AI訓(xùn)練與推理芯片的代表，此前我們對(duì)其技術(shù)特點(diǎn)亦多有報(bào)道。前兩年的ASPENCORE全球高科技領(lǐng)袖論壇上，我們見到Graphcore聯(lián)合創(chuàng)始人兼 CEO Nigel Toon先生時(shí)，Graphcore在中國(guó)的布局才剛剛起步不久。而今年前不久，Graphcore公布其IPU產(chǎn)品參與MLPerf Benchmark的成績(jī)時(shí)，公司規(guī)模已不可同日而語(yǔ)了，甚至還有專門的團(tuán)隊(duì)參與MLPerf Benchmark項(xiàng)目。

IPU這類更專用的AI芯片，在單純硬件層面的效率、性能，以及Performance/TCO（性能/總擁有成本）方面要達(dá)成對(duì)GPU的絕對(duì)優(yōu)勢(shì)是理所應(yīng)當(dāng)?shù)?。像Graphcore這類企業(yè)打造AI芯片，并令其產(chǎn)品有銷路、在更多場(chǎng)景落地應(yīng)用，更關(guān)鍵的是生態(tài)的打造。英偉達(dá)這么多年來真正在數(shù)據(jù)中心碾壓其他競(jìng)爭(zhēng)對(duì)手的地方，就在于生態(tài)建設(shè)完善程度要遠(yuǎn)遠(yuǎn)領(lǐng)先于其他市場(chǎng)參與者，包括對(duì)各行各業(yè)的應(yīng)用覆蓋與落地，對(duì)各類工具、軟件庫(kù)的持續(xù)投入和優(yōu)化——這兩年我們參加英偉達(dá)GTC大會(huì)，都能感受到這方面的壓迫力。

但AI芯片生態(tài)又有獨(dú)特性，Linley Group首席分析師Linley Gwennap表示，相比PC、智能手機(jī)芯片這種由寡頭領(lǐng)銜且難以撼動(dòng)的市場(chǎng)，AI芯片市場(chǎng)有很大不同，“AI市場(chǎng)上，英偉達(dá)的CUDA有著相當(dāng)重要的地位，但AI模型普遍是用TensorFlow或PyTorch等來做開發(fā)——它們很容易跑在不同的硬件架構(gòu)上?！?/p>

盧濤也在談話中表達(dá)了類似的觀點(diǎn)：“如今有TensorFlow的社區(qū)、PyTorch的社區(qū)、PaddlePaddle的社區(qū)等等。阿里、微軟等廠商也在積極布局其AI相關(guān)的軟硬件生態(tài)。這對(duì)我們這些體量相對(duì)沒那么大的公司而言，其實(shí)是建立了重要的渠道?！?/p>

“如今我們和這些社區(qū)進(jìn)行配合，一方面讓我們少走了很多‘彎路’；第二是通過開源社區(qū)，借助這樣的生態(tài)，我們能夠?qū)崿F(xiàn)指數(shù)級(jí)的擴(kuò)展——這些生態(tài)有牽引的作用?！北R濤說，“我們做生態(tài)的核心仍然是開源，然后借助社區(qū)?！?/p>

與此同時(shí)，盧濤也透露了Graphcore在生態(tài)構(gòu)建過程中的另一個(gè)重要?jiǎng)幼鳎骸凹词菇柚_源社區(qū)，可能還是會(huì)存在覆蓋率的問題。所以ISV（獨(dú)立軟件服務(wù)商）也將成為未來我們的重點(diǎn)發(fā)力方向。ISV也是生態(tài)中很大的一個(gè)板塊?！?/p>

雖然IPU目前落地的應(yīng)用規(guī)模與GPU還有一定差距，但Graphcore現(xiàn)下聚焦于5大賽道，分別是互聯(lián)網(wǎng)、金融、研究、醫(yī)療健康（Healthcare）和其他（AI First），其落地速度相比AI芯片市場(chǎng)的其他競(jìng)爭(zhēng)對(duì)手還是跑在前列的?！澳壳拔覀儠?huì)優(yōu)先圍繞這幾方面的應(yīng)用展開工作?！?/p>

暫避鋒芒，走推理之路

我們對(duì)于Graphcore IPU的第一印象是和GPU正面硬剛，不過IPU在數(shù)據(jù)中心是同時(shí)適用于訓(xùn)練和推理的芯片?！叭绻豢町a(chǎn)品既能夠做訓(xùn)練，又能夠做推理，那么它在生態(tài)方面就會(huì)有天然的優(yōu)勢(shì)?！北R濤說，“因?yàn)槭褂闷溆?xùn)練出來的模型最后在其自身的平臺(tái)上運(yùn)行?！钡珜?shí)際上做大規(guī)模訓(xùn)練的AI芯片并不容易，畢竟GPU仍然是最主要的市場(chǎng)玩家。

對(duì)于IPU這類兩者同時(shí)在做的芯片而言，“訓(xùn)練和推理各有各的難點(diǎn)?！北R濤說，“訓(xùn)練的一大難點(diǎn)是通用性?？蛻糍?gòu)買一個(gè)訓(xùn)練處理器可能需要處理各種不同的業(yè)務(wù)。而推理的應(yīng)用業(yè)務(wù)鏈條會(huì)更長(zhǎng)。AI算法模型其實(shí)只是整個(gè)應(yīng)用業(yè)務(wù)鏈條的一部分，推理的難點(diǎn)在于如何做到全鏈條打通。在一些比較大的企業(yè)中，一個(gè)鏈條內(nèi)的不同環(huán)節(jié)甚至可能是不同部門在做，打通也會(huì)比較困難?！?/p>

“不過，推理和訓(xùn)練比起來，用戶可能更愿意為某一功能買單?！北荛_鋒芒，以推理為突破口來打造芯片，或許是個(gè)不錯(cuò)的方案，這也是Silicon 100榜單上的國(guó)內(nèi)廠商瀚博半導(dǎo)體的思路。在今年的WAIC（世界人工智能大會(huì)）上，瀚博發(fā)布了SV100系列芯片和VA1通用推理加速卡，面向云上通用AI推理。

瀚博半導(dǎo)體創(chuàng)始人兼CEO錢軍在接受《國(guó)際電子商情》采訪時(shí)說：“瀚博SV系列是基于瀚博自主DSA架構(gòu)的一款通用云端AI推理芯片，設(shè)計(jì)宗旨是在推理效率遠(yuǎn)超GPU的前提下兼顧通用性?！?/p>

此前，錢軍曾在發(fā)布會(huì)上表示，瀚博確定從AI推理方面來突破，是因?yàn)椤癎PU在推理側(cè)并不是最好的架構(gòu)”。隨著AI訓(xùn)練逐漸走向成熟、AI應(yīng)用慢慢落地，2021年推理市場(chǎng)的規(guī)模已經(jīng)超過了訓(xùn)練市場(chǎng)，未來兩個(gè)市場(chǎng)的差距還會(huì)越來越大。有機(jī)構(gòu)預(yù)測(cè)，到2025年，90%的算力都會(huì)用于推理，這也是瀚博看到的市場(chǎng)機(jī)遇。

錢軍 創(chuàng)始人兼CEO 瀚博半導(dǎo)體

“推理側(cè)的生態(tài)更容易突破?！蹦壳暗腟V100系列更偏向視頻應(yīng)用，是基于“計(jì)算機(jī)視覺（CV）占到AI市場(chǎng)的半壁江山，視頻流占到整體數(shù)據(jù)流的70%，這個(gè)百分比還會(huì)越來越高、數(shù)據(jù)基礎(chǔ)也會(huì)越來越大，未來面向視頻相關(guān)的數(shù)據(jù)是海量的?！?/p>

所以我們看到，瀚博SV102芯片強(qiáng)調(diào)內(nèi)置視頻解碼特性，有專門的硬件視頻解碼單元。錢軍特別談到：“SV100系列支持多個(gè)運(yùn)行模式——1.AI Only；2.AI+視頻?！薄癆I算力和視頻編解碼性能的匹配使得我們?cè)谶@兩個(gè)領(lǐng)域都有很大的優(yōu)勢(shì)。”“目前這兩個(gè)模式都在和多個(gè)客戶進(jìn)行合作?！?/p>

另外，在生態(tài)方面，“我們會(huì)基于自己的架構(gòu)逐步開發(fā)，并優(yōu)化算子庫(kù)和超強(qiáng)性能的大算力算子，增加高性能的使用模型（Model Zoo），為客戶提供完整的API、SDK以及低成本的遷移流程?！?/p>

《國(guó)際電子商情》分析師認(rèn)為，瀚博半導(dǎo)體的AI芯片選擇推理賽道，也專注在落地應(yīng)用的具體特性，在確保效率優(yōu)于GPU的前提下來完善生態(tài)，發(fā)揮差異化競(jìng)爭(zhēng)優(yōu)勢(shì)以獲得市場(chǎng)。這種邏輯在市場(chǎng)上相當(dāng)有代表性，能夠代表某一類市場(chǎng)競(jìng)爭(zhēng)者前行的思路。

那么邊緣市場(chǎng)呢？

此前，分析機(jī)構(gòu)IDC表示，AI所需解決的問題多樣化，沒有一家公司、一種芯片類型、一類方法能夠做到最理想。IDC分析師解釋說，AI用例過于多樣化，因此IDC在統(tǒng)計(jì)中追蹤了服務(wù)器之上的17種不同工作負(fù)載。這些類型還可細(xì)分成更多的場(chǎng)景，每一種都場(chǎng)景都能用不同的硬件解決方案來實(shí)現(xiàn)效率的最優(yōu)化。

考慮芯片行業(yè)發(fā)展的實(shí)際情況，芯片設(shè)計(jì)與制造的規(guī)?；枨?，令其很難真正做到一個(gè)場(chǎng)景用一種特定的芯片架構(gòu)。這種場(chǎng)景的多樣化在邊緣乃至端側(cè)市場(chǎng)，卻又是另一番景象。

事實(shí)上，瀚博半導(dǎo)體的產(chǎn)品計(jì)劃以彈性縮放的方式覆蓋邊緣推理。錢軍告訴我們，SV100芯片系列邊緣產(chǎn)品的功耗將覆蓋15W-40W，“主要用在邊緣智能應(yīng)用，比如智慧園區(qū)、智能制造、智慧交通等?！薄板┖芸春眠吘堿I……相對(duì)于云，邊緣AI客戶群更細(xì)分。我們也觀察到，邊緣側(cè)應(yīng)用場(chǎng)景的規(guī)?；厔?shì)。所以我們會(huì)從邊緣側(cè)逐漸發(fā)力，來打造自己的生態(tài)?！卞┑倪吘壭酒a(chǎn)品并不包含更小型的端側(cè)推理芯片。

以前，大部分AI推理任務(wù)主要在云上進(jìn)行，但隱私、時(shí)延方面的要求將推理操作部分下放到了邊緣，包括云的邊緣、邊緣數(shù)據(jù)中心、邊緣的端側(cè)設(shè)備（如手機(jī)、智能音箱、汽車）。推理的去中心化趨勢(shì)，造就了巨量的市場(chǎng)機(jī)遇，也開啟了大量的利基市場(chǎng)。市場(chǎng)上大量的AI芯片初創(chuàng)公司都集中在邊緣推理部分。

邊緣AI芯片市場(chǎng)的火熱已無(wú)需贅言。Tractica去年的預(yù)測(cè)數(shù)據(jù)提到，到2025年，邊緣AI芯片的市場(chǎng)規(guī)模會(huì)比云上AI芯片市場(chǎng)高出3.5倍（Tractica對(duì)“邊緣”一詞的界定，可能窄化到了端側(cè)設(shè)備）。錢軍也認(rèn)為，AI芯片的競(jìng)爭(zhēng)紅?！案嗟氖窃诙藗?cè)”。

葉永健 物聯(lián)網(wǎng)及基礎(chǔ)設(shè)施事 業(yè)本部企業(yè)基礎(chǔ)設(shè)施 事業(yè)部經(jīng)理 瑞薩電子中國(guó)

WAIC圓桌階段，愛芯科技董事長(zhǎng)兼CEO仇肖莘說：“邊緣側(cè)應(yīng)用是多樣化的，細(xì)分賽道會(huì)上會(huì)出現(xiàn)更多的小公司?！倍藗?cè)推理芯片的規(guī)模比云上的訓(xùn)練/推理芯片更小，前者對(duì)芯片尺寸和功耗更為敏感。對(duì)AI芯片初創(chuàng)企業(yè)而言，現(xiàn)階段在端側(cè)市場(chǎng)的發(fā)力自然會(huì)避開鋒芒，未來一段時(shí)間內(nèi)該領(lǐng)域會(huì)百花齊放。

去年，《國(guó)際電子商情》分析師采訪瑞薩電子集團(tuán)執(zhí)行副總裁兼物聯(lián)網(wǎng)及基礎(chǔ)設(shè)施事業(yè)本部本部長(zhǎng)Sailesh Chittipeddi博士時(shí)，他曾呈現(xiàn)過瑞薩DRP技術(shù)在邊緣AI推理方面，相比英偉達(dá)、Intel的競(jìng)品在效率上的領(lǐng)先優(yōu)勢(shì)。DRP是瑞薩電子針對(duì)IIoT市場(chǎng)應(yīng)用于MPU芯片上的AI推理技術(shù)。以瑞薩電子為代表的傳統(tǒng)MCU制造商推行AI技術(shù)也是一個(gè)大趨勢(shì)，同類競(jìng)爭(zhēng)對(duì)手也都在這方面發(fā)力。

這次瑞薩電子中國(guó)（物聯(lián)網(wǎng)及基礎(chǔ)設(shè)施事業(yè)本部）企業(yè)基礎(chǔ)設(shè)施事業(yè)部經(jīng)理葉永健在接受《國(guó)際電子商情》采訪時(shí)大致介紹了DRP技術(shù)的發(fā)展。目前的第三代DRP技術(shù)，也就是DRP-AI，“擴(kuò)展了AI-MAC技術(shù)”。其實(shí)際應(yīng)用包括“物體檢測(cè)和數(shù)量統(tǒng)計(jì)方案”，“對(duì)AI深度學(xué)習(xí)模型進(jìn)行加速運(yùn)算，能實(shí)現(xiàn)對(duì)視頻畫面中指定目標(biāo)進(jìn)行靜態(tài)統(tǒng)計(jì)，同時(shí)也可實(shí)現(xiàn)對(duì)物體進(jìn)出畫面的數(shù)量做動(dòng)態(tài)統(tǒng)計(jì)?！?/p>

葉永健還向我們介紹了DRP-AI在實(shí)現(xiàn)AI推理的效率優(yōu)化時(shí)有哪些具體舉措——低功耗和靈活性實(shí)際上都是當(dāng)前邊緣AI推理芯片市場(chǎng)得以泛活的基礎(chǔ)。它在計(jì)算機(jī)視覺的工業(yè)應(yīng)用中，效率相比CPU提升了數(shù)倍。去年和慕展上我們就見到過其實(shí)際展示。

“邊緣AI一定是趨勢(shì)。工業(yè)應(yīng)用要求實(shí)時(shí)、低延遲和高可靠性。邊緣AI避免了向云傳輸大量數(shù)據(jù)，具有減少延遲時(shí)間的優(yōu)點(diǎn)?！比~永健說，“DRP-AI還可以減少AI推理過程中產(chǎn)生的熱量，從而提高可靠性。適用于工廠24小時(shí)不間斷運(yùn)行?！薄拔覀兊哪繕?biāo)是把每代DRP-AI芯片的計(jì)算能力提高10倍，在高算力和超低功耗的基礎(chǔ)上，滿足未來的市場(chǎng)需求?！边@類技術(shù)在邊緣AI應(yīng)用方面還是頗具代表性的。

除了CV以外，AI實(shí)際應(yīng)用的另一個(gè)重要方向是語(yǔ)音識(shí)別和NLP（自然語(yǔ)言處理）。在邊緣AI推理芯片方面，我們也采訪了國(guó)內(nèi)的深聰智能，這是一家將語(yǔ)音算法與AI芯片進(jìn)行軟硬一體化結(jié)合的語(yǔ)音AI芯片企業(yè)。

周偉達(dá) 董事長(zhǎng) 上海深聰半導(dǎo)體有限 責(zé)任公司

上海深聰半導(dǎo)體有限責(zé)任公司（以下稱為深聰智能）董事長(zhǎng)周偉達(dá)在接受《國(guó)際電子商情》采訪時(shí)談到了深聰智能AI芯片的特點(diǎn)，包括“結(jié)合語(yǔ)音檢測(cè)和語(yǔ)音喚醒的硬件層分級(jí)低功耗技術(shù)；基于DSP擴(kuò)展指令集的麥克風(fēng)陣列信號(hào)處理技術(shù)；基于NPU的深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)加速技術(shù)”。其AI語(yǔ)音交互算法是“場(chǎng)景化”的，針對(duì)不同場(chǎng)景（如環(huán)境噪音、語(yǔ)音和語(yǔ)言習(xí)慣）做深度優(yōu)化；而AI芯片本身是“針對(duì)本地算法的需求進(jìn)行特定的設(shè)計(jì)和優(yōu)化”，包括神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)等。

“我們AI芯片針對(duì)算法的優(yōu)化主要體現(xiàn)在多級(jí)VAD低功耗檢測(cè)，基于DSP和大量擴(kuò)展指令的信號(hào)優(yōu)化處理，基于NPU的神經(jīng)網(wǎng)絡(luò)計(jì)算和存儲(chǔ)優(yōu)化?！敝軅ミ_(dá)說，“相比于純DSP的算力，經(jīng)過優(yōu)化后的深聰芯片，信號(hào)處理提升了8倍的算力，NPU的AI算法提升了25倍以上的算力?！睆倪@一點(diǎn)也能看出更加專用的發(fā)展方向，以及能從邊緣AI推理市場(chǎng)分得一杯羹的基礎(chǔ)。

周偉達(dá)還向我們解釋了以深聰為代表的智能語(yǔ)音AI芯片，與CV方向AI芯片的不同之處：“語(yǔ)音識(shí)別和NLP深度學(xué)習(xí)，以音頻和文本序列處理為主，更多采用循環(huán)網(wǎng)絡(luò)和全連接網(wǎng)絡(luò)，卷積運(yùn)算相對(duì)較少?！倍鳦V深度學(xué)習(xí)技術(shù)，圖像“單幀數(shù)據(jù)量大，大量采用卷積計(jì)算，計(jì)算量大，但權(quán)值相對(duì)較少?！彼赃@兩類芯片并不通用——從中我們多少可以發(fā)現(xiàn)不同應(yīng)用方向的AI芯片在架構(gòu)上，要取得更高的效率，根據(jù)場(chǎng)景定義更專用的架構(gòu)和優(yōu)化還是必不可少的。

“對(duì)于深聰而言，首先要選定正確的賽道，然后在正確的賽道上深耕，擴(kuò)大我們AI芯片部分的優(yōu)勢(shì)。其次是增強(qiáng)我們傳統(tǒng)芯片設(shè)計(jì)的積累。當(dāng)然前提是保證語(yǔ)音交互的體驗(yàn)，基于思必馳專業(yè)的全鏈路語(yǔ)音技術(shù)研發(fā)成果和實(shí)踐經(jīng)驗(yàn)，這一點(diǎn)我們是非常有信心的?！?/p>

周偉達(dá)表示,“目前深聰智能在語(yǔ)音AI芯片方向已經(jīng)積累了一定的優(yōu)勢(shì)，我們?cè)诒镜佧溈孙L(fēng)陣列信號(hào)增強(qiáng)，語(yǔ)音喚醒，語(yǔ)音命令的基礎(chǔ)上，在行業(yè)內(nèi)率先推出了AI芯片端全雙工語(yǔ)音交互，普通話與方言一體化方案，多語(yǔ)種方案，本地聲紋，就近喚醒和直面喚醒，以及本地遠(yuǎn)場(chǎng)通話等技術(shù)”。AI語(yǔ)音芯片落地的主戰(zhàn)場(chǎng)在深聰智能看來，將主要在智能車載、智能穿戴、智能家居、智能辦公等領(lǐng)域。

紅海競(jìng)爭(zhēng)下的市場(chǎng)未來

回到本文開頭，Peter Clarke提及的“peak AI”：如今這片AI芯片競(jìng)爭(zhēng)的紅海，AI芯片市場(chǎng)未來是否可能遭遇過載、熱度是否會(huì)緩慢消退？現(xiàn)在討論這個(gè)話題可能為時(shí)過早，不過Gwennap在今年上半年針對(duì)數(shù)據(jù)中心AI芯片市場(chǎng)曾說：“市場(chǎng)最終都會(huì)發(fā)生投資過熱或價(jià)值過高的問題，但我不確定我們是否已經(jīng)發(fā)展到了這一步，即便我們正在向這個(gè)方向發(fā)展?！?/p>

有關(guān)數(shù)據(jù)中心AI芯片市場(chǎng)，當(dāng)下可以觀察到的是Graphcore這家公司的規(guī)模顯著擴(kuò)大，盧濤表示過去一段時(shí)間的人員增長(zhǎng)“主要在軟件團(tuán)隊(duì)上”。當(dāng)年GPU還主要作為圖形計(jì)算芯片存在，在步入成熟期之時(shí)，就是軟件工程師團(tuán)隊(duì)的大量增加。這也是造成GPU后期形成寡頭市場(chǎng)的關(guān)鍵：在規(guī)?；瘮U(kuò)大、生態(tài)形成競(jìng)爭(zhēng)差距的時(shí)局之下，更多的市場(chǎng)參與者已沒有生存空間。雖然Graphcore的發(fā)展還沒到這一步，但這已經(jīng)是個(gè)信號(hào)。

在邊緣AI芯片市場(chǎng)，仇肖莘也在WAIC論壇上提及，“國(guó)外芯片公司，小公司很少，因?yàn)椴粩嘤胁①?gòu)整合的情況發(fā)生。芯片行業(yè)需規(guī)?；庞欣麧?rùn)，才能做先進(jìn)技術(shù)。只有規(guī)?；庞谐杀緝?yōu)勢(shì)，才能繼續(xù)拓展認(rèn)知邊界，并且有更多的財(cái)務(wù)儲(chǔ)備。從其他國(guó)家芯片行業(yè)的發(fā)展歷程來看，未來走向整合的趨勢(shì)已經(jīng)被驗(yàn)證過?！?/p>

用錢軍的話來做個(gè)總結(jié)，“隨著機(jī)器學(xué)習(xí)的誕生，算力的需求和供給之間的差距越來越大，這給大量的初創(chuàng)企業(yè)提供了施展的舞臺(tái)。任何科技進(jìn)步都伴隨著資本的助推，直到產(chǎn)生大量的泡沫，這是一個(gè)大浪淘沙的過程。這個(gè)過程中會(huì)有許多初創(chuàng)企業(yè)不復(fù)存在。”

“大浪淘沙沉者為金，風(fēng)卷殘?jiān)苿僬邽橥??！卞X軍說，“AI算力是無(wú)盡的，市場(chǎng)對(duì)算力的需求也是無(wú)盡的。我們認(rèn)為，科技進(jìn)步的過程是長(zhǎng)久的，也是令人振奮的，會(huì)給我們這些積極奮斗的人提供源源不斷的機(jī)會(huì)，所以我們歡迎競(jìng)爭(zhēng)?！?/p>

盧濤在評(píng)價(jià)自家IPU時(shí)則說，“我覺得最后歸根到底，產(chǎn)品能力和技術(shù)能力是我們能夠安身立命的本領(lǐng)?！蹦骋活怉I芯片企業(yè)自然無(wú)法代表市場(chǎng)全局，但AI芯片市場(chǎng)仍處在百花齊放階段，最終能脫穎而出并走到最后的，必然是有真材實(shí)料的市場(chǎng)玩家。3-4年之后，這片紅海競(jìng)爭(zhēng)的市場(chǎng)，又將變成怎樣一副模樣？