業(yè)界首創(chuàng)512GB CXL AIC內(nèi)存擴展卡,江波龍革新AI與高性能計算領(lǐng)域內(nèi)存技術(shù)
人工智能大模型計算、高性能計算(HPC)以及數(shù)據(jù)中心等行業(yè)的迅猛發(fā)展,對計算機系統(tǒng)內(nèi)存性能的需求日益提升,業(yè)界對具備高帶寬、低延遲性能且超大容量的內(nèi)存需求也愈發(fā)迫切,以支持CPU和GPU進行高速、大吞吐量的浮點運算。在此背景下,江波龍日前在CFMS2024展出了一款基于Compute Express Link (CXL)技術(shù)的創(chuàng)新內(nèi)存擴展設(shè)備——CXL 2.0 AIC內(nèi)存擴展卡,為計算機系統(tǒng)提供了強大的內(nèi)存支持。
本文引用地址:http://www.ex-cimer.com/article/202404/457742.htm據(jù)悉,這款CXL 2.0 AIC內(nèi)存擴展卡采用了非DRAM on-board封裝設(shè)計,可兼容多種容量和規(guī)格的直插式內(nèi)存條。它不僅支持CXL1.1標(biāo)準(zhǔn),實現(xiàn)單個計算節(jié)點服務(wù)器線纜直連的直插式內(nèi)存條擴展,還兼容CXL2.0標(biāo)準(zhǔn),支持多個計算節(jié)點服務(wù)器集群與存儲池線纜直連的直插式內(nèi)存池化,從而滿足多樣化的應(yīng)用場景需求。
江波龍CXL2.0 AIC內(nèi)存擴展卡的一大亮點在于其采用了全高全長PCIe Add-in Card (AIC)封裝,配備了8個DIMM插槽,支持DDR4 RDIMM內(nèi)存條,內(nèi)存容量可擴展至512GB,同時通過MCIO高速接口支持PCIe 5.0 x16通道,理論帶寬可達驚人的128GB/s。該產(chǎn)品與支持CXL規(guī)范的服務(wù)器主板通過MCIO線纜直連,從而為單個服務(wù)器和服務(wù)器集群提供大容量、高帶寬、低延遲的擴展內(nèi)存。
在CFMS2024現(xiàn)場,該產(chǎn)品的研發(fā)負(fù)責(zé)人全面介紹了該產(chǎn)品各項特性和競爭優(yōu)勢,筆者從這款創(chuàng)新產(chǎn)品的前瞻性布局,充分感受到了江波龍在內(nèi)存技術(shù)領(lǐng)域的強大研發(fā)實力。
據(jù)悉,該產(chǎn)品能夠同時支持CXL1.1(單個計算節(jié)點 服務(wù)器線纜直連的 直插式內(nèi)存擴展)和CXL2.0(多個計算節(jié)點 服務(wù)器集群與存儲池線纜直連的 直插式內(nèi)存池化),具有更強的適配性。
在性能方面,江波龍CXL 2.0 AIC內(nèi)存擴展卡實測性能遠超業(yè)界現(xiàn)有DRAM on-board封裝的E3.S DDR5內(nèi)存拓展模塊,帶寬高達54GB/s,延遲低至213.3ns。此外,對比了市面上其他同類型產(chǎn)品,筆者發(fā)現(xiàn)江波龍這款產(chǎn)品在性能方面有較大的優(yōu)勢,這對AI算力、高性能計算和數(shù)據(jù)中心等領(lǐng)域的處理能力和運算效率的提升,無疑起到了積極的“助推器”作用。
(CXL 2.0內(nèi)存擴展性能對比)
若在一個單個機箱內(nèi)集成8個CXL 2.0 AIC內(nèi)存擴展卡,就可以形成一個存儲池,其容量高達4TB,帶寬可達1TB,通過MCIO接口連接服務(wù)器,為高性能計算集群提供了前所未有的內(nèi)存擴展能力。
業(yè)界專家普遍認(rèn)為,AI算法,如深度學(xué)習(xí)模型,通常需要處理大量的數(shù)據(jù)集,并且涉及復(fù)雜的矩陣運算,內(nèi)存的帶寬和延遲會直接影響到模型訓(xùn)練和推理的速度。尤其是HPC高性能計算任務(wù),如科學(xué)模擬、天氣預(yù)測和生物信息學(xué)分析,更需要快速處理和分析大量數(shù)據(jù)。而CXL 2.0 AIC內(nèi)存擴展卡的誕生,標(biāo)志著內(nèi)存技術(shù)的一大飛躍,它不僅解決了現(xiàn)有計算機系統(tǒng)內(nèi)存性能瓶頸的問題,還提升了計算效率,為AI算力、HPC高性能計算和數(shù)據(jù)中心等領(lǐng)域的未來發(fā)展提供了強有力的技術(shù)支持。
隨著技術(shù)的不斷進步和應(yīng)用的深入拓展,CXL 2.0 AIC內(nèi)存擴展卡有望在高性能計算領(lǐng)域發(fā)揮越來越重要的作用,并助力AI模型訓(xùn)練、大數(shù)據(jù)分析、科學(xué)計算等領(lǐng)域?qū)崿F(xiàn)更高效的運算,推動存儲行業(yè)和數(shù)據(jù)中心的技術(shù)進步和創(chuàng)新發(fā)展。期待江波龍繼續(xù)在內(nèi)存技術(shù)上不斷鉆研,為全球算力的提升和數(shù)字化轉(zhuǎn)型的加速推進做出積極貢獻。
評論