Rambus通過9.6 Gbps HBM3內(nèi)存控制器IP大幅提升AI性能
作為業(yè)界領(lǐng)先的芯片和IP核供應(yīng)商,致力于使數(shù)據(jù)傳輸更快更安全,Rambus Inc.(納斯達克股票代碼:RMBS)今日宣布Rambus HBM3內(nèi)存控制器IP現(xiàn)在可提供高達9.6 Gbps的性能,可支持HBM3標(biāo)準(zhǔn)的持續(xù)演進。相比HBM3 Gen1 6.4 Gbps 的數(shù)據(jù)速率,Rambus HBM3內(nèi)存控制器的數(shù)據(jù)速率提高了50%,總內(nèi)存吞吐量超過1.2 TB/s,適用于推薦系統(tǒng)的訓(xùn)練、生成式AI以及其他要求苛刻的數(shù)據(jù)中心工作負載。
本文引用地址:http://www.ex-cimer.com/article/202312/453669.htmRambus HBM3控制器模塊圖
Rambus IP核部門總經(jīng)理 Neeraj Paliwal 表示:“大語言模型要求高性能內(nèi)存技術(shù)的不斷進步,使得HBM3成為AI/ML訓(xùn)練的首選內(nèi)存。依靠Rambus的創(chuàng)新和卓越的工程技術(shù),我們的HBM3內(nèi)存控制器IP可提供業(yè)界領(lǐng)先的9.6 Gbps性能?!?/p>
IDC內(nèi)存半導(dǎo)體副總裁 Soo-Kyoum Kim 表示:“HBM 是更快速且更高效的處理大型 AI 訓(xùn)練和推理集的關(guān)鍵內(nèi)存技術(shù),比如用于生成式 AI 的訓(xùn)練和推理。對于像Rambus這樣的 HBM IP供應(yīng)商來說,持續(xù)提高性能來支持滿足市場苛刻要求的領(lǐng)先 AI 加速器的意義重大。”
HBM采用創(chuàng)新的2.5D/3D架構(gòu),為AI加速器提供具有高內(nèi)存帶寬和低功耗的解決方案。憑借極低的延遲和緊湊的封裝,HBM已成為AI訓(xùn)練硬件的首選。
Rambus HBM3 內(nèi)存控制器 IP 專為需要高內(nèi)存吞吐量、低延遲和完全可編程性應(yīng)用而設(shè)計。該控制器是一種高度可配置的模塊化解決方案,可根據(jù)每個客戶對尺寸和性能的獨特要求進行定制。對于選擇第三方HBM3 PHY的客戶,Rambus還提供HBM3控制器的集成與驗證服務(wù)。
Rambus HBM3內(nèi)存控制器從即日起提供許可證。
評論