ai訓(xùn)練文章進(jìn)入ai訓(xùn)練技術(shù)社區(qū)

11 分鐘訓(xùn)完 GPT-3，英偉達(dá) H100 橫掃 MLPerf 8 項(xiàng)基準(zhǔn)測(cè)試，下一代顯卡 25 年發(fā)布

最新 MLPerf 訓(xùn)練基準(zhǔn)測(cè)試中，H100 GPU 在所有的八項(xiàng)測(cè)試中都創(chuàng)下了新紀(jì)錄！如今，NVIDIA H100 幾乎已經(jīng)統(tǒng)治了所有類別，并且是新 LLM 基準(zhǔn)測(cè)試中使用的唯一的 GPU。3,584 個(gè) H100 GPU 群在短短 11 分鐘內(nèi)完成了基于 GPT-3 的大規(guī)?；鶞?zhǔn)測(cè)試。MLPerf LLM 基準(zhǔn)測(cè)試是基于 OpenAI 的 GPT-3 模型進(jìn)行的，包含 1750 億個(gè)參數(shù)。Lambda Labs 估計(jì)，訓(xùn)練這樣一個(gè)大模型需要大約 3.14E23 FLOPS 的計(jì)算量。11 分鐘訓(xùn)出
關(guān)鍵字： AI 英偉達(dá) H100 AI訓(xùn)練

近日，英特爾宣布Habana? Gaudi?2深度學(xué)習(xí)處理器在MLPerf行業(yè)測(cè)試中表現(xiàn)優(yōu)于英偉達(dá)A100提交的AI訓(xùn)練時(shí)間，結(jié)果突顯了5月在英特爾On產(chǎn)業(yè)創(chuàng)新峰會(huì)上發(fā)布的Gaudi2處理器在視覺(jué)（ResNet-50）和語(yǔ)言（BERT）模型上訓(xùn)練時(shí)間的優(yōu)勢(shì)。英特爾公司執(zhí)行副總裁兼數(shù)據(jù)中心與人工智能事業(yè)部總經(jīng)理 Sandra Rivera表示：“非常高興能與大家分享Gaudi 2在MLPerf基準(zhǔn)測(cè)試中的出色表現(xiàn)，我也為英特爾團(tuán)隊(duì)在產(chǎn)品發(fā)布僅一個(gè)月取得的成就感到自豪。我們相信，在視覺(jué)和語(yǔ)言模型中提供領(lǐng)先的性
關(guān)鍵字： Habana Gaudi2 AI訓(xùn)練 Intel

共2條 1/1 1

您好，目前還沒(méi)有人創(chuàng)建詞條ai訓(xùn)練!
歡迎您創(chuàng)建該詞條，闡述對(duì)ai訓(xùn)練的理解，并與今后在此搜索ai訓(xùn)練的朋友們分享。創(chuàng)建詞條