存儲(chǔ)產(chǎn)業(yè)的下一個(gè)“新寵”是？

人工智能AI浪潮下，以HBM為代表的新型DRAM存儲(chǔ)器迎來了新一輪的發(fā)展契機(jī)，而與此同時(shí)，在服務(wù)器需求推動(dòng)下，存儲(chǔ)產(chǎn)業(yè)的另一大“新寵”MRDIMM/MCRDIMM也開始登上“歷史舞臺(tái)”。

當(dāng)前，AI及大數(shù)據(jù)的快速發(fā)展帶動(dòng)服務(wù)器CPU內(nèi)核數(shù)量同步增加，為滿足多核CPU中各內(nèi)核的數(shù)據(jù)吞吐要求，需要大幅提高內(nèi)存系統(tǒng)的帶寬，在此情況下，服務(wù)器高帶寬內(nèi)存模組MRDIMM/MCRDIMM應(yīng)運(yùn)而生。

01
JEDEC公布DDR5 MRDIMM標(biāo)準(zhǔn)細(xì)節(jié)

當(dāng)?shù)貢r(shí)間7月22日，JEDEC宣布即將推出DDR5多路復(fù)用雙列直插式內(nèi)存模組 (MRDIMM) 和下一代LPDDR6壓縮連接內(nèi)存模組 (CAMM)先進(jìn)內(nèi)存模組標(biāo)準(zhǔn)，并介紹了這兩項(xiàng)內(nèi)存的關(guān)鍵細(xì)節(jié)，旨在為下一代高性能計(jì)算和人工智能發(fā)展提供支持。

JEDEC表示，這兩項(xiàng)新技術(shù)規(guī)范均由JEDEC的JC-45 DRAM模組委員會(huì)開發(fā)。

作為JEDEC的JESD318 CAMM2內(nèi)存模組標(biāo)準(zhǔn)的后續(xù)，JC-45正在開發(fā)用于LPDDR6的下一代CAMM模組，目標(biāo)是最大速度超過14.4GT/s。按照計(jì)劃，該模組還將提供24bit位寬子通道、48bit位通道并支持“連接器陣列”，以滿足未來高性能計(jì)算和移動(dòng)設(shè)備的需求。

圖片來源：JEDEC

而DDR5 MRDIMM內(nèi)存支持多路復(fù)用列，能夠在單個(gè)通道上組合和傳輸多個(gè)數(shù)據(jù)信號(hào)，有效提升帶寬而無需額外的物理連接。據(jù)悉，JEDEC規(guī)劃了多代DDR5 MRDIMM內(nèi)存，最終目標(biāo)是將其帶寬提升至12.8Gbps，較DDR5 RDIMM內(nèi)存目前的6.4Gbps翻倍并提高引腳速度。

在JEDEC的設(shè)想中，DDR5 MRDIMM將利用與現(xiàn)有DDR5 DIMM相同的引腳、SPD、PMIC等設(shè)計(jì)，與RDIMM平臺(tái)兼容，并利用現(xiàn)有的LRDIMM生態(tài)系統(tǒng)進(jìn)行設(shè)計(jì)與測試。

JEDEC表示，這兩項(xiàng)新技術(shù)規(guī)范的推出，預(yù)計(jì)將為內(nèi)存市場帶來新一輪的技術(shù)革新。

02
美光MRDIMM DDR5下半年批量出貨

2023年3月，AMD在Memcom 2023活動(dòng)上表示，正在和JEDEC合作，開發(fā)新的DDR5 MRDIMM標(biāo)準(zhǔn)內(nèi)存，其目標(biāo)傳輸速率高達(dá)17600 MT/s。據(jù)TomsHardware當(dāng)時(shí)的報(bào)道，第一代DDR5 MRDIMM的目標(biāo)速率是8800MT/s，之后會(huì)逐步提高，第二代將達(dá)到12800MT/s，然后第三代會(huì)提升至17600MT/s。

MRDIMM的全稱為“Multiplexed Rank DIMM”，即將兩個(gè)DDR5 DIMM合二為一，從而提供雙倍的數(shù)據(jù)傳輸率，同時(shí)可訪問兩個(gè)Rank。

7月22日，存儲(chǔ)大廠美光宣布推出全新的MRDIMM DDR5，目前已經(jīng)出樣，可為人工智能AI、高性能計(jì)算HPC應(yīng)用提供超大容量、超高帶寬、超低延遲，將于2024年下半年開始批量出貨。

圖片來源：美光

MRDIMM可以提供最高帶寬、最大容量、最低延遲以及更高的每瓦性能。美光表示，在加速內(nèi)存密集型虛擬化多租戶、高性能計(jì)算和AI數(shù)據(jù)中心工作負(fù)載方面，表現(xiàn)優(yōu)于當(dāng)前的TSV RDIMM。

據(jù)官方介紹，與傳統(tǒng)的RDIMM DDR5相比，MRDIMM DDR5可實(shí)現(xiàn)有效內(nèi)存帶寬提升高達(dá)39%，總線效率提升超過15%，延遲降低高達(dá)40%。

MRDIMM支持從32GB到256GB的容量選擇，涵蓋標(biāo)準(zhǔn)和高型兩種外形規(guī)格（TFF），適用于高性能的1U和2U服務(wù)器，其中256GB TFF MRDIMM對(duì)比類似容量的TSV RDIMM，性能可以領(lǐng)先35%。

該款全新內(nèi)存產(chǎn)品為美光MRDIMM系列的首代，將與英特爾至強(qiáng)處理器兼容。美光表示，后續(xù)幾代MRDIMM產(chǎn)品將繼續(xù)提供比同代RDIMM高45%的單通道內(nèi)存帶寬。

03
SK海力士下半年推出MCRDIMM產(chǎn)品

作為全球最大的存儲(chǔ)廠商，為提升產(chǎn)品速度，SK海力士在AMD與JEDEC之前便推出了類似MRDIMM的MCRDIMM。

MCRDIMM全稱為“Multiplexer Combined Ranks Dual In-line Memory Module”，是將多個(gè)DRAM結(jié)合在基板上的模組產(chǎn)品，通過同時(shí)操作模組的兩個(gè)基本信息處理運(yùn)算單位Rank。

2022年底，SK海力士與英特爾和瑞薩合作，開發(fā)出了DDR5多路合并陣列雙列直插內(nèi)存模組（MCR DIMM），成為當(dāng)時(shí)業(yè)界最快的服務(wù)器DRAM產(chǎn)品。根據(jù)瀾起科技2023年年報(bào)，MCRDIMM也可以視為MRDIMM的第一代產(chǎn)品。

圖片來源：SK海力士

傳統(tǒng)DRAM模組每次只能向CPU傳輸64個(gè)字節(jié)的數(shù)據(jù)，而在SK海力士的MCRDIMM模組中，兩個(gè)內(nèi)存列同時(shí)運(yùn)行可向CPU傳輸128個(gè)字節(jié)的數(shù)據(jù)。每次傳輸?shù)紺PU的數(shù)據(jù)量的增加使得數(shù)據(jù)傳輸速度提高到8Gbps以上，是單個(gè)DRAM的兩倍。

SK海力士彼時(shí)預(yù)計(jì)，在高性能計(jì)算對(duì)于內(nèi)存帶寬提升需求的驅(qū)動(dòng)下，MCR DIMM的市場將會(huì)逐步打開。據(jù)SK海力士在其2024財(cái)年第二季度財(cái)務(wù)報(bào)告最新透露，公司將在下半年推出適用于服務(wù)器的32Gb DDR5 DRAM和用于高性能計(jì)算的MCRDIMM產(chǎn)品。

04
MRDIMM未來可期

MCRDIMM/MRDIMM采用DDR5 LRDIMM“1+10”的基礎(chǔ)架構(gòu)，需要搭配1顆MRCD芯片及10顆MDB芯片。從概念來看，MCRDIMM/MRDIMM允許并行訪問同一個(gè)DIMM中的兩個(gè)陣列，從而大幅提升DIMM模組的容量和帶寬。

與RDIMM相比，MCRDIMM/MRDIMM可以提供更高的帶寬，同時(shí)與現(xiàn)有RDIMM成熟的生態(tài)系統(tǒng)有較好的兼容性。此外，使用MCRDIMM/MRDIMM有望顯著提升服務(wù)器整體性能，減少企業(yè)的總擁有成本（TCO）。

MRDIMM和MCRDIMM同屬于DRAM內(nèi)存模組范疇，而內(nèi)存模組與HBM的應(yīng)用場景不同，各自的市場空間較為獨(dú)立。作為行業(yè)標(biāo)準(zhǔn)的封裝內(nèi)存，HBM以較小的尺寸，在給定容量下可以實(shí)現(xiàn)更高的帶寬和能效，但其價(jià)格貴、容量較小、不可擴(kuò)展等特點(diǎn)限制它只能在少數(shù)領(lǐng)域使用。因此從產(chǎn)業(yè)角度來說，內(nèi)存模組是大容量、高性價(jià)比、可擴(kuò)展內(nèi)存的主流解決方案。

瀾起科技認(rèn)為，基于高帶寬、大容量的優(yōu)勢，MRDIMM有望成為未來AI和高性能計(jì)算主內(nèi)存的優(yōu)選方案。而根據(jù)JEDEC的規(guī)劃，未來用于服務(wù)器的新型高帶寬內(nèi)存模組MRDIMM，將支持更高的內(nèi)存帶寬，進(jìn)一步滿足HPC及AI應(yīng)用場景對(duì)內(nèi)存帶寬的需求。