NVIDIA發(fā)布全新交換機、網卡:帶寬高達80萬兆
3月19日消息,AI新時代不但對算力、模型要求越來越高,也需要越來越強大的網絡。為此,NVIDIA發(fā)布了專為大規(guī)模AI量身訂制的全新網絡交換機——X800系列。
本文引用地址:http://www.ex-cimer.com/article/202403/456697.htm據(jù)悉,NVIDIA Quantum-X800 InfiniBand網絡、Spectrum-X800以太網絡是全球首批高達800Gbps端到端吞吐量的網絡平臺,早期用戶包括微軟Azure、甲骨文云、Coreweave等等。
Quantum-X800平臺可以說是AI專用基礎設施極致性能的新標桿,包含Quantum Q3400交換機、ConnectX-8 SuperNIC網卡,二者互連的端到端吞吐量達到了業(yè)界領先的800Gbps(80萬兆)。
同時,交換帶寬容量比上一代提高5倍,網絡計算能力則憑借NVIDIA SHARPv4技術提高9倍,達到了14.4TFlops,也就是每秒14.4萬億次計算。
Spectrum-X800則包含Spectrum SN5600交換機、BlueField-3 SuperNIC網卡,吞吐量同樣高達800Gbps,可為多租戶AIGC云和大型企業(yè)級用戶提供各種至關重要的先進功能。
軟件方面,NVIDIA 提供面向萬億參數(shù)級AI模型性能優(yōu)化的網絡加速通信庫、軟件開發(fā)套件、管理軟件等全套軟件方案。
其中,NVIDIA集合通信庫(NCCL)可將GPU的并行計算任務擴展到Quantum-X800網絡,并利用基于SHARPv4的強大網絡計算能力、對FP8數(shù)據(jù)格式的支持,為大模型訓練和AIGC提供超強的性能。
全球多家頭部基礎設施供應商和系統(tǒng)廠商將從2025年開始,提供基于Quantum-X800、Spectrum-X800的網絡平臺,包括Aivres、DDN、戴爾、Eviden、Hitachi Vantara(日立旗下)、慧與、聯(lián)想、超微、VAST Data等等。
評論