谷歌推出 A3 Virtual Machines 超級(jí)計(jì)算機(jī):搭載英偉達(dá) H100,可提供 26 exaFlops AI 性能
T之家 5 月 11 日消息,在今日凌晨的 Google I / O 大會(huì)上,谷歌花了一個(gè)多小時(shí)的時(shí)間來談?wù)撈湓谌斯ぶ悄芊矫娴谋姸噙M(jìn)步,例如用于其生成式 AI 巴德的新 PaLM 2 大型語言模型(LLM)。這是在谷歌產(chǎn)品組合中添加人工智能功能的基礎(chǔ)支柱,包括谷歌地圖、谷歌照片和 Gmail 等等。
本文引用地址:http://www.ex-cimer.com/article/202305/446464.htm除此之外,谷歌還推出了一款性能卓絕的超級(jí)計(jì)算機(jī) ——A3 Virtual Machines。它采用了第 4 代英特爾至強(qiáng)可擴(kuò)展處理器、2TB DDR5-4800 內(nèi)存,以及 8 張英偉達(dá) H100“Hopper”GPU,通過 NVLink 4.0 和 NVSwitch 實(shí)現(xiàn)了 3.6 TBps 的對(duì)分帶寬。
谷歌表示,新的 A3 超級(jí)計(jì)算機(jī)“專門用于訓(xùn)練和服務(wù)要求最苛刻的人工智能模型,這些模型為當(dāng)今的生成人工智能和大型語言模型創(chuàng)新提供動(dòng)力”。據(jù)介紹,這款超級(jí)計(jì)算機(jī)可以提供 26 exaFlops 的人工智能性能。
根據(jù)谷歌的說法,A3代表了其 GPU 到 GPU 數(shù)據(jù)接口的首個(gè)生產(chǎn)級(jí)部署,允許在繞過主機(jī) CPU 的情況下以 200Gbps 的速度共享數(shù)據(jù)。這個(gè)被谷歌稱為基礎(chǔ)設(shè)施處理單元 (Infrastructure Processing Unit, IPU) 的接口可以使 A3 虛擬機(jī) (VM) 的可用網(wǎng)絡(luò)帶寬比 A2 虛擬機(jī)提高 10 倍之多。
英偉達(dá)超大規(guī)模和高性能計(jì)算副總裁伊恩?巴克表示:“谷歌云的 A3 虛擬機(jī)由下一代英偉達(dá) H100 GPU 提供支持,將加速生成式人工智能應(yīng)用程序的培訓(xùn)和服務(wù)?!霸诠雀柙谱罱瞥?G2 實(shí)例之后,我們很自豪能夠繼續(xù)與谷歌云合作,通過專門構(gòu)建的人工智能基礎(chǔ)設(shè)施幫助全球企業(yè)轉(zhuǎn)型?!?/p>
如果你想要嘗試體驗(yàn) A3,現(xiàn)可通過谷歌 A3 預(yù)覽以申請(qǐng)加入早期訪問計(jì)劃。但I(xiàn)T之家這里必須要提醒一下,填寫表單只是申請(qǐng),并不能保證你一定能夠通過審核且有資格使用 A3。
評(píng)論