英偉達(dá)爆出又一重磅產(chǎn)品：含256個(gè)GPU的AI超級(jí)計(jì)算機(jī)！
加入技術(shù)交流群
5月29日，英偉達(dá)在2023臺(tái)北電腦展大會(huì)上發(fā)布了多項(xiàng)重磅消息，其中最引人注目的是其Grace Hopper超級(jí)芯片已經(jīng)全面投產(chǎn)。這些芯片是英偉達(dá)新推出的DGX GH200人工智能超級(jí)計(jì)算平臺(tái)和MGX系統(tǒng)的核心組件，它們專為處理海量的生成型人工智能任務(wù)而設(shè)計(jì)。
本文引用地址：http://www.ex-cimer.com/article/202305/447181.htm新型超級(jí)計(jì)算機(jī)：DGX GH200
英偉達(dá)宣布推出搭載256顆GH200 Grace Hopper超級(jí)芯片的新型DGX GH200人工智能超級(jí)計(jì)算機(jī)。新的DGX系統(tǒng)擁有更大的內(nèi)存容量和更大規(guī)模的模型能力，據(jù)悉DGX GH200的內(nèi)存儲(chǔ)量將是英偉達(dá)目前DGX A100系統(tǒng)的近500倍。
自去年年底OpenAI發(fā)布ChatGPT以來，生成式人工智能（AIGC）就成為熱度居高不下的新趨勢(shì)，該項(xiàng)技術(shù)需要通過超強(qiáng)算力來創(chuàng)建文本、圖像、視頻等內(nèi)容。而芯片巨頭英偉達(dá)所生產(chǎn)的人工智能芯片對(duì)該領(lǐng)域至關(guān)重要，計(jì)算能力方面的突破將使得AIGC應(yīng)用再次獲得巨大提升。
英偉達(dá)CEO黃仁勛在COMPUTEX 2023的主題演講中表示，“DGX GH200人工智能超級(jí)計(jì)算機(jī)，集成了英偉達(dá)最先進(jìn)的加速計(jì)算和網(wǎng)絡(luò)技術(shù)，以拓展人工智能的前沿?！?/p>
英偉達(dá)預(yù)計(jì)，其新型超級(jí)計(jì)算機(jī)將允許開發(fā)人員為人工智能聊天機(jī)器人以及復(fù)雜的算法構(gòu)建更好的語言模型，并創(chuàng)建更有效的欺詐檢測(cè)和數(shù)據(jù)分析。有海外知名媒體對(duì)此評(píng)價(jià)道，英偉達(dá)的新人工智能超級(jí)計(jì)算機(jī)將改變“游戲規(guī)則”。
超強(qiáng)算力
Grace Hopper超級(jí)芯片是英偉達(dá)開發(fā)的基于Arm架構(gòu)的CPU+GPU集成方案，它將72核的Grace CPU、Hopper GPU、96GB的HBM3和512GB的LPDDR5X集成在同一個(gè)封裝中，共有2000億個(gè)晶體管。這種組合提供了CPU和GPU之間驚人的數(shù)據(jù)帶寬，高達(dá)1TB/s，為某些內(nèi)存受限的工作負(fù)載提供了巨大的優(yōu)勢(shì)。
DGX GH200的細(xì)節(jié)還不太清楚，但已確認(rèn)英偉達(dá)使用了一種新的NVLink Switch系統(tǒng)，包含36個(gè)NVLink Switch芯片將256個(gè)GH200 Grace Hopper芯片和144TB的共享內(nèi)存連接成一個(gè)單元。
DGX GH200人工智能超級(jí)計(jì)算平臺(tái)是英偉達(dá)針對(duì)最高端的人工智能和高性能計(jì)算工作負(fù)載而設(shè)計(jì)的系統(tǒng)和參考架構(gòu)，目前的DGX A100系統(tǒng)只能將8個(gè)A100 GPU聯(lián)合起來作為一個(gè)單元，考慮到生成型人工智能的爆炸式增長(zhǎng)，英偉達(dá)的客戶迫切需要更大、更強(qiáng)大的系統(tǒng)。
DGX GH200就是為了提供最大的吞吐量和可擴(kuò)展性而設(shè)計(jì)的，它通過使用英偉達(dá)的定制NVLink Switch芯片來避免標(biāo)準(zhǔn)集群連接選項(xiàng)（如InfiniBand和以太網(wǎng)）的限制。
英偉達(dá)CEO黃仁勛表示GH200芯片為“巨型GPU”，這是英偉達(dá)第一次使用NVLink Switch拓?fù)浣Y(jié)構(gòu)來構(gòu)建整個(gè)超級(jí)計(jì)算機(jī)集群，稱這種結(jié)構(gòu)提供了比前一代系統(tǒng)高出10倍的GPU到GPU和7倍的CPU到GPU的帶寬。
它還設(shè)計(jì)了提供比競(jìng)爭(zhēng)對(duì)手高出5倍的互連功耗效率和高達(dá)128TB/s的對(duì)分帶寬。該系統(tǒng)有50英里的光纖，并且重達(dá)4萬磅，但是呈現(xiàn)出來就像一個(gè)單一的GPU。英偉達(dá)表示256顆Grace Hopper超級(jí)芯片將DGX GH200的“AI性能”提升到了exaflop（一百萬萬億次）。
英偉達(dá)將把DGX GH200的參考藍(lán)圖提供給其主要客戶谷歌、Meta和微軟，并且還將把該系統(tǒng)作為云服務(wù)提供商和超大規(guī)模數(shù)據(jù)中心的參考架構(gòu)設(shè)計(jì)。該系統(tǒng)預(yù)計(jì)將于2023年底投入使用，目前英偉達(dá)沒有提供價(jià)格。
英偉達(dá)自己也將部署一個(gè)新的英偉達(dá)Helios超級(jí)計(jì)算機(jī)，由四個(gè)DGX GH200系統(tǒng)組成，用于自家的研發(fā)工作。這四個(gè)系統(tǒng)共有1024個(gè)Grace Hopper芯片，并且用英偉達(dá)的Quantum-2 InfiniBand 400Gb/s網(wǎng)絡(luò)連接起來。
5月25日，英偉達(dá)公布了明顯高于華爾街預(yù)期的季度營(yíng)收預(yù)測(cè)，此后該公司股價(jià)在一天內(nèi)飆升24%。季度報(bào)告表明，營(yíng)收的上漲主要受惠于云計(jì)算平臺(tái)和大型科技公司對(duì)GPU芯片的需求。
評(píng)論