AI SSD采購容量預(yù)計突破45EB
根據(jù) TrendForce 集邦咨詢最新的《Enterprise SSD》研究報告,由于 AI 需求大幅升溫,最近兩季 AI 服務(wù)器相關(guān)客戶向供應(yīng)商進一步要求加單 Enterprise SSD(企業(yè)級固態(tài)硬盤)。上游供應(yīng)商為了滿足 SSD 在 AI 應(yīng)用上的供給,加速制程升級,開始規(guī)劃推出 2YY 產(chǎn)品,預(yù)期于 2025 年量產(chǎn)。
本文引用地址:http://www.ex-cimer.com/article/202408/461945.htmTrendForce 集邦咨詢表示,AI 服務(wù)器客戶對供應(yīng)商加單的情況,導(dǎo)致 Enterprise SSD 合約價于 2023 年第四季至 2024 年第三季間的累積漲幅超過 80%。
TrendForce 集邦咨詢在報告中指出,SSD 應(yīng)用于 AI 推理服務(wù)器,可在推理過程中協(xié)助調(diào)整、優(yōu)化 AI 模型,尤其 SSD 可以實時更新數(shù)據(jù),以便微調(diào)推理模型結(jié)果。AI 推理主要提供檢索增強生成 (RAG, Retrieval-Augmented Generation) 和大型語言模型 (LLM, Large Language Model) 服務(wù),而 SSD 可以儲存 RAG 和 LLM 參考的相關(guān)文檔和知識庫,以生成含有更豐富信息的響應(yīng)。此外,隨著更多生成信息是以影片或相片顯示,其數(shù)據(jù)存儲量也相應(yīng)增加,因此,TLC/QLC(四層單元閃存)16TB 以上等大容量 SSD 便成為 AI 推理主要采用的產(chǎn)品。
現(xiàn)在大家都知道,想要大模型有更高質(zhì)量的輸出,就需要高質(zhì)量的數(shù)據(jù),而且是大量的高質(zhì)量數(shù)據(jù)。所以,存儲系統(tǒng)的第一個作用就是:承擔(dān)起存儲大量數(shù)據(jù)的能力。
有人預(yù)測數(shù)據(jù)集會呈指數(shù)級增長,如此多的數(shù)據(jù),說到底還需要服務(wù)器和存儲來承擔(dān),如果還是用機械硬盤,則需要非常多的硬件系統(tǒng),這對于數(shù)據(jù)中心空間,能耗和散熱都是挑戰(zhàn)。
而如果換成 SSD 閃存存儲后,其單位能耗可以輸出更高的性能,有助于省電。同時,更高的單盤容量可以減少硬件系統(tǒng)數(shù)量,進而減少數(shù)據(jù)中心機房空間占用,省下更多成本。
在 AI 同樣非常火熱的北美等市場上,對高容量 SSD 的需求正在快速上升。企業(yè)和數(shù)據(jù)中心正在尋求大容量的存儲解決方案來應(yīng)對不斷增長的 AI 相關(guān)數(shù)據(jù)。
AI 的場景大致分為模型訓(xùn)練和推理兩大部分。
其中,訓(xùn)練主要在數(shù)據(jù)中心內(nèi)部完成,涉及的主要操作包括數(shù)據(jù)攝?。↖ngest)、Checkpoint 創(chuàng)建等。當(dāng)然,需要歸檔的數(shù)據(jù)也都存放在資源充裕的數(shù)據(jù)中心里。而推理既可以在數(shù)據(jù)中心內(nèi)部完成,也可以在近邊緣和遠邊緣端完成。
數(shù)據(jù)準備的過程主要發(fā)生在數(shù)據(jù)中心和近邊緣端,也會有少部分發(fā)生在遠邊緣端??梢哉f,幾乎所有場景中都離不開存儲的支持,都需要存儲具有處理大量數(shù)據(jù)的能力,都需要有盡可能高的讀寫性能。
此時,閃存存儲的優(yōu)勢就非常明顯。
在 AI 浪潮的推動下,美國頂級科技公司的數(shù)據(jù)中心正加速從 HDD 轉(zhuǎn)向企業(yè)級 SSD。比如:大型科技公司如特斯拉在擴大 AI 服務(wù)器建設(shè)時,紛紛選擇增加 SSD 的采購量,以滿足日益增長的數(shù)據(jù)處理需求。
AI SSD 需求位元年增率超過 60%,供應(yīng)商加快大容量產(chǎn)品開發(fā)
2024 年 AI 服務(wù)器 SSD 市場除了 16TB 以上產(chǎn)品需求自第二季大幅上升,隨著 NVIDIA H100、H20 和 H200 等系列產(chǎn)品到貨,相關(guān)客戶進一步加大 TLC 4、8TB Enterprise SSD 訂單需求。根據(jù) TrendForce 集邦咨詢預(yù)估,今年 AI 相關(guān) SSD 采購容量將超過 45EB,未來幾年,AI 服務(wù)器有望推動 SSD 需求年增率平均超過 60%,而 AI SSD 需求在整個 NAND Flash(閃存)的占比有機會自 2024 年的 5%,上升至 2025 年的 9%。
不過,戴爾公司副董事長兼首席運營官 Jeff Clarke 在財報電話會議上透露,由于成本上升和供需關(guān)系緊張,預(yù)計 2024 年下半年 SSD 價格將再攀升 20%。這一消息無疑給計劃購買或升級 SSD 的用戶帶來了不小的壓力。
業(yè)內(nèi)專家分析認為,SSD 價格的上漲與原材料成本的增加密切相關(guān)。隨著全球原材料價格的持續(xù)上漲,SSD 的生產(chǎn)成本也在不斷攀升。此外,存儲器廠商為了擺脫虧損、改善盈利狀況,也開始尋求提高產(chǎn)品價格。這些因素共同推動了 SSD 價格的上漲。
對于用戶而言,面對 SSD 價格的上漲,如何選擇合適的存儲設(shè)備成為了一個亟待解決的問題。一方面,用戶可以根據(jù)自己的實際需求選擇性價比更高的存儲設(shè)備;另一方面,用戶也可以關(guān)注市場動態(tài),抓住合適的時機進行購買或升級。
評論