全球首款12層堆疊HBM3E，開始量產(chǎn)了

最近，韓國 SK 海力士宣布，已開始量產(chǎn)全球首款 12 層 HBM3E 產(chǎn)品，容量為 36GB，這是迄今為止現(xiàn)有 HBM 的最大容量。

SK 海力士聲稱，12 層 HBM3E 產(chǎn)品在速度、容量和穩(wěn)定性方面均達(dá)到全球最高標(biāo)準(zhǔn)。該公司計劃在年內(nèi)向客戶提供量產(chǎn)產(chǎn)品。

受此消息影響，SK 海力士股價周四在韓股市場上大漲。

SK 海力士率先實(shí)現(xiàn) 12 層 HBM 量產(chǎn)

今年 3 月，SK 海力士向客戶交付 8 層 HBM3E 產(chǎn)品，創(chuàng)下業(yè)界首位。時隔 6 個月后，SK 海力士再次業(yè)界首個實(shí)現(xiàn) 12 層 HBM3E 芯片量產(chǎn)，再次證明其技術(shù)優(yōu)勢。

SK 海力士是自 2013 年推出世界首款 HBM 以來，開發(fā)并供應(yīng)從第一代 (HBM1) 到第五代 (HBM3E) 全部 HBM 系列的唯一企業(yè)。

如今，SK 海力士實(shí)現(xiàn)在業(yè)界率先量產(chǎn) 12 層 HBM3E 后，將滿足人工智能企業(yè)日益增長的需求，并繼續(xù)保持其在人工智能存儲器市場的領(lǐng)先地位。

SK 海力士總裁 Justin Kim 表示：「SK 海力士再次突破了 AI 內(nèi)存領(lǐng)域的技術(shù)限制，展示了我們在 AI 內(nèi)存領(lǐng)域的行業(yè)領(lǐng)先地位…為了克服人工智能時代的挑戰(zhàn)，我們將穩(wěn)步準(zhǔn)備下一代內(nèi)存產(chǎn)品，繼續(xù)保持全球第一的地位?！?/span>

速度、容量、穩(wěn)定性均達(dá)最高標(biāo)準(zhǔn)

據(jù)該公司介紹，12 層 HBM3E 產(chǎn)品在速度、容量、穩(wěn)定性等人工智能存儲器所必需的所有領(lǐng)域都符合世界最高標(biāo)準(zhǔn)。

SK 海力士將內(nèi)存運(yùn)行速度提高到 9.6 Gbps，這是目前可用的最高內(nèi)存速度。如果大型語言模型 Llama 3 70b 由單個搭載 4 個 HBM3E 產(chǎn)品的 GPU 驅(qū)動，每秒可讀取總計 700 億個參數(shù) 35 次。

SK 海力士的 12 層產(chǎn)品和此前同等厚度的 8 層產(chǎn)品相比，容量增加了 50%。為了實(shí)現(xiàn)這一目標(biāo)，該公司將每個 DRAM 芯片比以前薄 40%，并使用 TSV 技術(shù)垂直堆疊。

該公司還通過應(yīng)用其核心技術(shù) Advanced MR-MUF 工藝，解決了由于將更薄的芯片堆疊得更高而產(chǎn)生的結(jié)構(gòu)問題。這使得新一代產(chǎn)品散熱性能比上一代產(chǎn)品高 10%，并通過增強(qiáng)翹曲控制來確保產(chǎn)品的穩(wěn)定性和可靠性。

三星進(jìn)展如何？

HBM（高帶寬存儲器）是 GPU 的關(guān)鍵組件，有助于處理復(fù)雜應(yīng)用程序產(chǎn)生的大量數(shù)據(jù)，芯片垂直堆疊技術(shù)可以在節(jié)省空間的同時降低功耗。

目前，HBM 的主要制造商只有三個——SK 海力士、美光科技和三星電子。其中，三星電子于今年 2 月首次推出了 HBM3E 12H。

三星 HBM3E 12H 支持全天候最高帶寬達(dá) 1280GB/s，產(chǎn)品容量也達(dá)到了 36GB。相比三星 8 層堆疊的 HBM3 8H，HBM3E 12H 在帶寬和容量上大幅提升超過 50%。

「當(dāng)前行業(yè)的人工智能服務(wù)供應(yīng)商越來越需要更高容量的 HBM，而我們的新產(chǎn)品 HBM3E 12H 正是為了滿足這種需求而設(shè)計的，」三星電子存儲器產(chǎn)品企劃團(tuán)隊(duì)執(zhí)行副總裁 Yongcheol Bae 表示，「這一新的存儲解決方案是我們研發(fā)多層堆疊 HBM 核心技術(shù)以及在人工智能時代為高容量 HBM 市場提供技術(shù)領(lǐng)導(dǎo)力而努力的一部分?！?/span>

HBM3E 12H 采用了先進(jìn)的熱壓非導(dǎo)電薄膜（TC NCF）技術(shù)，使得 12 層和 8 層堆疊產(chǎn)品的高度保持一致，以滿足當(dāng)前 HBM 封裝的要求。因?yàn)樾袠I(yè)正在尋找緩解薄片帶來的芯片彎曲問題，這項(xiàng)技術(shù)將在更高的堆疊中帶來更多益處。三星一直在努力降低其非導(dǎo)電薄膜（NCF）材料的厚度，并實(shí)現(xiàn)芯片之間的間隙最小化至 7 微米（μm），同時消除了層與層之間的空隙。這些努力使其 HBM3E 12H 產(chǎn)品的垂直密度比其 HBM3 8H 產(chǎn)品提高了 20% 以上。

三星先進(jìn)的熱壓非導(dǎo)電薄膜（TC NCF）技術(shù)還通過允許在芯片之間使用不同尺寸的凸塊（bump）改善 HBM 的熱性能。在芯片鍵合（chip bonding）過程中，較小凸塊用于信號傳輸區(qū)域，而較大凸塊則放置在需要散熱的區(qū)域。這種方法有助于提高產(chǎn)品的良率。

隨著人工智能應(yīng)用的指數(shù)級增長，HBM3E 12H 有望成為未來系統(tǒng)的優(yōu)選解決方案，滿足系統(tǒng)對更大存儲的需求。憑借超高性能和超大容量，HBM3E 12H 將幫助客戶更加靈活地管理資源，同時降低數(shù)據(jù)中心的總體擁有成本（TCO）。相比 HBM3 8H，HBM3E 12H 搭載于人工智能應(yīng)用后，預(yù)計人工智能訓(xùn)練平均速度可提升 34%，同時推理服務(wù)用戶數(shù)量也可增加超過 11.5 倍。

關(guān)于量產(chǎn)進(jìn)度，三星表示已開始向客戶提供 HBM3E 12H 樣品，預(yù)計于今年下半年開始大規(guī)模量產(chǎn)。