<meter id="pryje"><nav id="pryje"><delect id="pryje"></delect></nav></meter>
          <label id="pryje"></label>

          新聞中心

          EEPW首頁 > 業(yè)界動態(tài) > 英特爾首次提交至強CPU Max系列MLPerf測試結(jié)果,以極高準確度脫穎而出

          英特爾首次提交至強CPU Max系列MLPerf測試結(jié)果,以極高準確度脫穎而出

          —— 英特爾產(chǎn)品在全新MLCommons AI推理性能測試中盡顯優(yōu)勢
          作者: 時間:2023-09-13 來源:電子產(chǎn)品世界 收藏

          今日,MLCommons公布針對 60 億參數(shù)大語言模型及計算機視覺與自然語言處理模型GPT-J的 MLPerf推理v3.1 性能基準測試結(jié)果,其中包括英特爾所提交的基于Habana? Gaudi?2 加速器、第四代英特爾?至強?可擴展處理器,以及英特爾?至強? CPU Max 系列的測試結(jié)果。該結(jié)果顯示了英特爾在AI推理方面極具競爭力的表現(xiàn),并進一步加強了其對加速從云到網(wǎng)絡到邊緣再到端的工作負載中大規(guī)模部署AI的承諾。

          本文引用地址:http://www.ex-cimer.com/article/202309/450500.htm

          英特爾執(zhí)行副總裁兼數(shù)據(jù)中心與人工智能事業(yè)部總經(jīng)理Sandra Rivera表示:“正如最新的 MLCommons結(jié)果顯示,我們擁有強大的、具有競爭力的人工智能產(chǎn)品組合以滿足客戶對高性能、高效率的深度學習推理及訓練的需求,同時,針對各種規(guī)模的人工智能模型,英特爾產(chǎn)品組合均具有領先的性價比優(yōu)勢。”

          根據(jù)6月披露的MLCommons AI訓練結(jié)果和Hugging Face性能基準測試驗證,Gaudi2 在先進的視覺語言模型上,性能可以超越英偉達的H100處理器,而今天的結(jié)果進一步證明了英特爾能夠提供滿足AI計算需求的、英偉達H100和A100的唯一可行的替代方案。

          考慮到客戶的個性化需求,英特爾正在通過能夠幫助解決AI工作負載中推理與訓練問題的產(chǎn)品,讓AI無處不在。英特爾的AI產(chǎn)品為客戶提供了可根據(jù)各自性能、效率及目標成本進行靈活匹配以獲取最佳AI解決方案的理想選擇,同時亦幫助客戶開放生態(tài)系統(tǒng)。

          關于Habana Gaudi2的測試結(jié)果:

          Habana Gaudi2 在GPT-J模型上的推理結(jié)果強有力地驗證了其具有競爭力的性能。

          ●   Gaudi2 在GPT-J-99 和GPT-J-99.9 上的服務器查詢和離線樣本的推理性能分別為78.58 次/秒和84.08 次/秒。

          ●   與英偉達H100相比,Gaudi2提供了令人信服的卓越性能,H100相對于Gaudi2僅表現(xiàn)出 1.09 倍(服務器)和 1.28 倍(離線)的輕微性能優(yōu)勢。

          ●   Gaudi2 擁有高于英偉達A100 2.4 倍(服務器)、 2 倍(離線)的性能。

          ●   Gaudi2 提交的結(jié)果采用 FP8數(shù)據(jù)類型,并在這種新數(shù)據(jù)類型上達到了 99.9% 的準確率。

          隨著每6-8周公布的 Gaudi2 軟件更新,英特爾將繼續(xù)在 MLPerf 基準測試中展現(xiàn)其產(chǎn)品的性能提升,以及持續(xù)擴大的模型覆蓋范圍。

          image.png

          Habana Gaudi2 在GPT-J模型上的推理結(jié)果驗證了其具有競爭力的性能

          關于第四代至強可擴展處理器的測試結(jié)果:

          英特爾提交了基于第四代英特爾至強可擴展處理器的7個推理基準測試,其中包括GPT-J模型。結(jié)果顯示,包括視覺、語言處理、語音和音頻翻譯模型,以及更大的 DLRM v2 深度學習推薦模型及ChatGPT-J 模型在內(nèi),第四代至強處理器對于通用 AI 工作負載擁有出色的性能。此外,截至目前,英特爾仍是唯一一家使用行業(yè)標準的深度學習生態(tài)系統(tǒng)軟件提交公開 CPU 結(jié)果的廠商。

          ●   第四代英特爾至強可擴展處理器是通過流行的AI框架與庫構(gòu)建及部署通用AI工作負載的理想選擇。對于GPT-J對約 1000-1500 字新聞稿進行100 字總結(jié)的任務,第四代至強可擴展處理器可在離線模式下完成每秒兩段的總結(jié)提要,在實時服務器模式下完成每秒一段的總結(jié)提要。

          ●   英特爾首次提交了英特爾至強CPU Max 系列的MLPerf 結(jié)果,該系列可提供高達64 GB的高帶寬內(nèi)存。對于 GPT-J而言,它是僅有的能夠達到 99.9% 準確度的 CPU,這對于對精度要求極高的應用來說至關重要。

          ●   英特爾與OEM廠商合作提交了測試結(jié)果,進一步展示了其AI性能的可擴展性,以及基于英特爾至強處理器的通用服務器的可獲取性,充分滿足客戶服務水平協(xié)議 (SLA)。

          image.png

          第四代至強可擴展處理器是構(gòu)建及部署通用AI工作負載的理想選擇

          MLPerf 是業(yè)內(nèi)享有盛名的 AI 性能基準測試,旨在實現(xiàn)公平、可重復的產(chǎn)品性能比較。英特爾計劃為下一個 MLPerf測試提交新的AI訓練性能結(jié)果。持續(xù)的性能更新彰顯了英特爾致力于幫助客戶、助力AI技術(shù)演進所邁出的每一步,無論是低成本的AI處理器,還是面向網(wǎng)絡、云和企業(yè)用戶的高性能AI硬件加速器或是 GPU。



          關鍵詞:

          評論


          相關推薦

          技術(shù)專區(qū)

          關閉
          看屁屁www成人影院,亚洲人妻成人图片,亚洲精品成人午夜在线,日韩在线 欧美成人 (function(){ var bp = document.createElement('script'); var curProtocol = window.location.protocol.split(':')[0]; if (curProtocol === 'https') { bp.src = 'https://zz.bdstatic.com/linksubmit/push.js'; } else { bp.src = 'http://push.zhanzhang.baidu.com/push.js'; } var s = document.getElementsByTagName("script")[0]; s.parentNode.insertBefore(bp, s); })();