助推國(guó)產(chǎn)算力高質(zhì)量發(fā)展，北電數(shù)智為建設(shè)數(shù)字中國(guó)添磚加瓦

目前，我國(guó)的智算中心建設(shè)正呈現(xiàn)出蓬勃發(fā)展的態(tài)勢(shì)。智算中心的建設(shè)不再局限于北京、上海、深圳等一線城市，已經(jīng)擴(kuò)展至縣級(jí)地區(qū)，全國(guó)范圍內(nèi)的算力基礎(chǔ)設(shè)施建設(shè)正在積極推進(jìn)。

根據(jù)相關(guān)資料顯示，盡管國(guó)內(nèi)算力的覆蓋范圍廣泛，但其利用率卻相對(duì)較低，整體算力中心的利用率僅為50%。這一現(xiàn)象背后的原因不乏算力中心性能不足、無(wú)法滿足大模型時(shí)代對(duì)算力的高需求、數(shù)據(jù)中心與當(dāng)?shù)禺a(chǎn)業(yè)需求不匹配等。顯然，以算力規(guī)模和集群規(guī)模作為評(píng)價(jià)標(biāo)準(zhǔn)的時(shí)代已經(jīng)過(guò)去，算力需求已經(jīng)進(jìn)入了從數(shù)量到質(zhì)量轉(zhuǎn)變的新時(shí)代。這種轉(zhuǎn)變也意味著，計(jì)算領(lǐng)域關(guān)注點(diǎn)將集中在算力的效率、靈活性以及智能化水平。

北京電子數(shù)智科技有限責(zé)任公司（以下簡(jiǎn)稱“北電數(shù)智”）作為?家專注于原創(chuàng)性、顛覆性、引領(lǐng)性科技創(chuàng)新的人工智能科技企業(yè)，在算力、算法和數(shù)據(jù)等方面實(shí)現(xiàn)了全棧產(chǎn)品和解決方案布局。

加速單芯片算力

目前我國(guó)已量產(chǎn)上市的GPU產(chǎn)品主要針對(duì)上一代算法進(jìn)行設(shè)計(jì)，對(duì)于大模型相關(guān)算子的需求滿足度尚需進(jìn)一步完善。因此，必須通過(guò)擴(kuò)展算子庫(kù)、優(yōu)化編譯器等軟件層面的手段，實(shí)現(xiàn)對(duì)單芯片算力利用率的提升。

北電數(shù)智的前進(jìn)·AI異構(gòu)計(jì)算平臺(tái)具備多重優(yōu)化特性，可通過(guò)模型量化加速、模型超參數(shù)調(diào)優(yōu)、稀疏化推理等模型優(yōu)化能力，算子融合加速、計(jì)算圖優(yōu)化、硬件訪存優(yōu)化等編譯優(yōu)化手段，提升單芯片的計(jì)算性能，增強(qiáng)國(guó)產(chǎn)算力芯片的自適應(yīng)性。

加強(qiáng)混元異構(gòu)集群性能

當(dāng)前的智能計(jì)算中心大多依賴單一芯片制造商提供主要的計(jì)算能力，而多芯片混合異構(gòu)架構(gòu)將成為未來(lái)國(guó)產(chǎn)智能計(jì)算中心的發(fā)展趨勢(shì)。

北電數(shù)智的前進(jìn)·AI異構(gòu)計(jì)算平臺(tái)可以通過(guò)算子級(jí)模型拆分方法優(yōu)化模型性能；通過(guò)基于自動(dòng)機(jī)器學(xué)習(xí)算法的硬件擬定并執(zhí)行自動(dòng)調(diào)優(yōu)策略，自動(dòng)調(diào)整模型的配置和參數(shù)，找到在特定芯片下的最佳性能和效果；其框架可以支持大模型分布到多GPU上進(jìn)行計(jì)算，提高模型的訓(xùn)練和推理效率，最終實(shí)現(xiàn)讓合適的芯片做合適的事。

加大通信能力

在萬(wàn)卡集群時(shí)代，通信的重要性與單芯片算力不相上下。通信能力直接決定了大模型訓(xùn)練過(guò)程中數(shù)據(jù)傳輸?shù)男?。高效、穩(wěn)定、低延遲的網(wǎng)絡(luò)對(duì)于智算中心的建設(shè)和運(yùn)行至關(guān)重要。

北電數(shù)智通過(guò)打通各廠家的集合通信庫(kù)來(lái)解決不同GPU芯片之間的通信問(wèn)題，對(duì)通信庫(kù)進(jìn)行深度適配和優(yōu)化，通過(guò)標(biāo)準(zhǔn)化的分布式通信接口，確保異構(gòu)集群內(nèi)的信息交換，且可以通過(guò)時(shí)間重疊等策略，將計(jì)算過(guò)程和通信過(guò)程互相重疊，減少了通信延遲對(duì)整體訓(xùn)練性能的影響。

智能化調(diào)度與運(yùn)維保障智算集群穩(wěn)定運(yùn)行

智算集群的穩(wěn)定性也很重要，實(shí)現(xiàn)算力最優(yōu)解，需要一個(gè)高效可靠的智能云管平臺(tái)，通過(guò)實(shí)時(shí)智能監(jiān)控來(lái)實(shí)現(xiàn)分鐘級(jí)的軟硬件故障定位，并實(shí)現(xiàn)故障的自動(dòng)檢測(cè)和修復(fù)。

北電數(shù)智前進(jìn)·AI異構(gòu)計(jì)算平臺(tái)支持多款國(guó)產(chǎn)芯片的廣泛納管，幫助用戶實(shí)現(xiàn)對(duì)不同品牌、類型AI加速卡的統(tǒng)一管理，以確保各類AI芯片的無(wú)縫集成和優(yōu)化利用。廣泛的納管能力也讓用戶能夠根據(jù)具體需求，靈活地調(diào)整資源配置，優(yōu)化算力供給滿足各類訓(xùn)練推理任務(wù)。

前進(jìn)·AI異構(gòu)計(jì)算平臺(tái)具有卓越的算力調(diào)度能力，可為不同場(chǎng)景提供多樣化的調(diào)度策略，以精準(zhǔn)匹配各類計(jì)算任務(wù)的不同需求?！俺毕{(diào)度”是該平臺(tái)的一大特色亮點(diǎn)，其可根據(jù)計(jì)算任務(wù)的特性和資源需求的變化動(dòng)態(tài)地分配和回收計(jì)算資源，尤其適用于渲染應(yīng)用等場(chǎng)景，以最大化資源的利用率并減少執(zhí)行時(shí)間；此外，“前進(jìn)·AI異構(gòu)計(jì)算平臺(tái)”提供的“推訓(xùn)混布”策略可幫助大模型使用方實(shí)現(xiàn)同一算力集群既支持在線推理服務(wù)部署任務(wù)，又支持離線訓(xùn)練任務(wù)，從而顯著提高算力資源的利用率，減少資源浪費(fèi)，大幅降低運(yùn)營(yíng)成本。

11月21日，北電數(shù)智成功推出了國(guó)內(nèi)首個(gè)算力概念驗(yàn)證（PoC）平臺(tái)，并在北京數(shù)字經(jīng)濟(jì)算力中心正式啟用。該平臺(tái)依托北電數(shù)智的先進(jìn)計(jì)算迭代驗(yàn)證平臺(tái)——前進(jìn)·AI異構(gòu)計(jì)算平臺(tái)，為國(guó)產(chǎn)算力集群提供專門的場(chǎng)景評(píng)測(cè)、適配和驗(yàn)證服務(wù)，同時(shí)也為場(chǎng)景持有方特定場(chǎng)景應(yīng)用的開發(fā)，提供了多樣化的算力適配試驗(yàn)空間，從而實(shí)現(xiàn)從基礎(chǔ)算力到業(yè)務(wù)場(chǎng)景驅(qū)動(dòng)的雙向鏈路的無(wú)縫對(duì)接。目前，北電數(shù)智前進(jìn)·AI異構(gòu)計(jì)算平臺(tái)已經(jīng)成功對(duì)近??家芯?企業(yè)的產(chǎn)品 ?余種芯?進(jìn)行了測(cè)試與適配，協(xié)助國(guó)產(chǎn)算力的性能不斷優(yōu)化提升。

在國(guó)產(chǎn)算力發(fā)展從數(shù)量增長(zhǎng)轉(zhuǎn)向質(zhì)量提升的背景下，北電數(shù)智通過(guò)前進(jìn)·AI異構(gòu)計(jì)算平臺(tái)的多重優(yōu)勢(shì)，為重塑國(guó)產(chǎn)芯片的競(jìng)爭(zhēng)力、推動(dòng)數(shù)字中國(guó)建設(shè)添磚加瓦。