<meter id="pryje"><nav id="pryje"><delect id="pryje"></delect></nav></meter>
          <label id="pryje"></label>

          新聞中心

          EEPW首頁(yè) > 智能計(jì)算 > 市場(chǎng)分析 > 液冷AI服務(wù)器,出現(xiàn)瓶頸

          液冷AI服務(wù)器,出現(xiàn)瓶頸

          作者: 時(shí)間:2024-07-24 來(lái)源:半導(dǎo)體產(chǎn)業(yè)縱橫 收藏

          業(yè)內(nèi)人士稱,液冷解決方案的通用快速斷開(kāi)裝置(UQD)供應(yīng)已趨于緊張,這可能成為 AI 服務(wù)器液冷增長(zhǎng)的主要瓶頸。

          本文引用地址:http://www.ex-cimer.com/article/202407/461343.htm

          服務(wù)器 ODM 廠商指出,Nvidia 的 Blackwell AI 芯片,包括 B100 和 B200,將于今年開(kāi)始出貨,但 GB200 解決方案要到 2024 年底或 2025 年才會(huì)開(kāi)始量產(chǎn)。

          B100、B200 客戶目前大多仍采用風(fēng)冷散熱設(shè)計(jì),不過(guò)據(jù) ODM 廠商反映,液冷滲透率持續(xù)提升,預(yù)估隨著 Blackwell 芯片出貨量的增加,客戶采用液冷的意愿也會(huì)提升。

          擴(kuò)大產(chǎn)能以應(yīng)對(duì)液體冷卻需求的增加

          相關(guān)企業(yè)紛紛擴(kuò)大生產(chǎn),迎接液冷新時(shí)代。散熱模塊廠商晶晨科技計(jì)劃將水冷板月產(chǎn)能從 3 萬(wàn)片提升 10 倍至 30 萬(wàn)片。

          Auras 在泰國(guó)設(shè)立新工廠,以響應(yīng)客戶的地緣政治擔(dān)憂和要求。該工廠預(yù)計(jì)將于第三季度開(kāi)始量產(chǎn)。除了擴(kuò)大冷板的本地產(chǎn)能外,Auras 還計(jì)劃在本地生產(chǎn)冷卻分配單元 (CDU) 和冷卻液分配歧管 (CDM),計(jì)劃月產(chǎn)能約為 2,000-3,000 套。

          散熱模組廠 AVC 在近期財(cái)報(bào)電話會(huì)議上指出,其中國(guó)及越南工廠的冷板模組月產(chǎn)能約為 11.5 萬(wàn)臺(tái),若以冷板計(jì)算,則月產(chǎn)量約 42 萬(wàn)臺(tái),AVC 計(jì)劃年底前將產(chǎn)能擴(kuò)大 50%。

          AVC 還計(jì)劃將 CDU 的月產(chǎn)能擴(kuò)大至 1,000 臺(tái),將 CDM 的月產(chǎn)能擴(kuò)大至 30,000 套。AVC 強(qiáng)調(diào),這一計(jì)劃產(chǎn)能可根據(jù)客戶訂單需求靈活調(diào)整。

          熱能技術(shù)公司高力熱處理因客戶對(duì)液冷產(chǎn)能需求增加,正擴(kuò)大臺(tái)灣中壢廠區(qū)產(chǎn)能,預(yù)計(jì)第三季末 CDM 月產(chǎn)能將從 1,000 臺(tái)增至 2,000 臺(tái),年底將增至 4,000 臺(tái),行內(nèi) CDU 年產(chǎn)能也將在年底達(dá)到 2,000 臺(tái)。

          上述廠商均對(duì)液冷需求抱有較高期待,主要原因在于中國(guó)與歐盟的運(yùn)算效率與數(shù)據(jù)中心 PUE 規(guī)范,但最重要因素還是 Nvidia 解除了對(duì)芯片廠商散熱規(guī)格自我限制。

          液冷快速增長(zhǎng)導(dǎo)致 UQD 短缺

          在大家熱切期盼液冷時(shí)代來(lái)臨之際,UQD 成為成長(zhǎng)的最大瓶頸,散熱模塊廠指出,近期 UQD 供貨吃緊,雖然液冷目前市占率只有個(gè)位數(shù),但未來(lái)若上升至兩位數(shù),UQD 恐將一票難求。

          UQD 供應(yīng)商多來(lái)自歐美,如美國(guó)大廠 Parker Hannifin 與 CPC、瑞士 Staubli International、丹麥 Danfoss、瑞典 Cejn 等,臺(tái)灣連接器零組件大廠 Lotes 也積極入市,并已開(kāi)始送樣。

          安博科技董事長(zhǎng)梁志堅(jiān)指出,由于液冷最看重的是避免泄漏,而 UQD 是最容易發(fā)生泄漏的元件,因此 UQD 的供貨是液冷元件中最緊張的。這不僅是技術(shù)問(wèn)題,相關(guān)廠商也有專利保護(hù),安博科技正在研究如何突破這些專利壁壘。

          業(yè)界表示,UQD 廠商有專利保護(hù),但同時(shí)也需要經(jīng)過(guò)層層驗(yàn)證,包括 OCP 認(rèn)證、客戶端驗(yàn)證等耗時(shí)耗力,加上現(xiàn)有歐美廠商無(wú)擴(kuò)充產(chǎn)能意向,將成為液冷快速發(fā)展的主要瓶頸。

          Supermicro 是成長(zhǎng)最快的液冷廠商之一,創(chuàng)始人兼首席執(zhí)行官梁見(jiàn)后指出,過(guò)去 30 年,液冷僅占服務(wù)器市場(chǎng)的 1%,但他預(yù)估 2025 年滲透率將躍升至 30%。

          液體冷卻成為潛在解決方案,人工智能繁榮給電網(wǎng)帶來(lái)壓力

          生成式人工智能的快速發(fā)展推動(dòng)了數(shù)據(jù)中心前所未有的擴(kuò)張,引發(fā)了人們對(duì)其對(duì)電網(wǎng)影響的擔(dān)憂。這些耗電設(shè)施可能會(huì)導(dǎo)致停電并增加能源成本。

          據(jù)電力研究所估計(jì),到 2030 年,數(shù)據(jù)中心可能消耗美國(guó) 9% 的電力,是目前的兩倍。一個(gè)大型數(shù)據(jù)中心的用電量相當(dāng)于數(shù)十萬(wàn)戶家庭的用電量。

          人工智能不斷增加的電力需求尤其令人擔(dān)憂。早期的人工智能模型消耗的電量是谷歌搜索的十倍,而較新的芯片對(duì)能源的需求甚至更高。專家警告稱,未來(lái)人工智能的發(fā)展可能會(huì)受到我們產(chǎn)生足夠電力的能力的限制。

          一些國(guó)家面臨嚴(yán)峻挑戰(zhàn)。例如,到 2026 年,愛(ài)爾蘭可能會(huì)有 30% 的電力用于數(shù)據(jù)中心。在美國(guó),數(shù)據(jù)中心的用電集中在 15 個(gè)州,其中得克薩斯州和弗吉尼亞州最多。加利福尼亞州的情況危急,預(yù)計(jì)新建的數(shù)據(jù)中心可能會(huì)產(chǎn)生超過(guò)核電站發(fā)電量的電力需求。

          數(shù)據(jù)中心:巨大的能源消耗和液體冷卻的興起

          人工智能的計(jì)算需求正在推高服務(wù)器溫度和碳排放,從而導(dǎo)致冷卻系統(tǒng)需求大幅增加。冷卻系統(tǒng)占數(shù)據(jù)中心總電力消耗的 40%,是僅次于服務(wù)器本身的第二大電力消耗來(lái)源。

          全球服務(wù)器冷卻市場(chǎng)預(yù)計(jì)將從 2024 年的 200 億美元增長(zhǎng)到 2027 年的 900 億美元。數(shù)據(jù)中心的液體冷卻系統(tǒng)預(yù)計(jì)將從 1% 增加到 22%,市場(chǎng)價(jià)值在未來(lái)三年內(nèi)從 3.17 億美元增長(zhǎng)到 78 億美元。

          使用水或冷卻劑來(lái)冷卻服務(wù)器的液體冷卻解決方案正日益流行。新技術(shù)包括浸入式冷卻(將整個(gè)服務(wù)器機(jī)架浸入非導(dǎo)電液體中)和直接液體冷卻(在服務(wù)器周?chē)h(huán)水)。雖然目前比空氣冷卻系統(tǒng)更昂貴,但液體冷卻可以將數(shù)據(jù)中心的功耗降低 10% 或更多。

          研究公司 Global Market Insights 預(yù)測(cè),全球數(shù)據(jù)中心液體冷卻市場(chǎng)規(guī)模將從 2022 年的 21 億美元增長(zhǎng)到 2032 年的 122 億美元。Uptime Institute 的一項(xiàng)調(diào)查發(fā)現(xiàn),16% 的數(shù)據(jù)中心經(jīng)理認(rèn)為液體冷卻將在 1-3 年內(nèi)成為數(shù)據(jù)中心的主要冷卻方法,而 41% 的人認(rèn)為這將需要 4-6 年。因此,混合冷卻方法在短期內(nèi)更有可能出現(xiàn)。

          數(shù)據(jù)中心風(fēng)冷系統(tǒng)管理領(lǐng)域的領(lǐng)導(dǎo)者 Upsite Technologies 指出,雖然技術(shù)在不斷進(jìn)步,但短期內(nèi)不太可能實(shí)現(xiàn) 100% 液冷數(shù)據(jù)中心,液冷設(shè)備仍然需要風(fēng)冷來(lái)散熱。

          雖然液體冷卻也更高效,但難以大規(guī)模實(shí)施,而且需要大量的前期投資。空氣冷卻成本較低,但效率較低。因此,混合冷卻設(shè)施正變得越來(lái)越受歡迎,以最大限度地發(fā)揮液體和空氣冷卻的優(yōu)勢(shì)。

          數(shù)據(jù)中心能源危機(jī)引發(fā)緊急行動(dòng)呼吁

          由于數(shù)據(jù)中心對(duì)環(huán)境的影響,它們受到越來(lái)越多地關(guān)注。世界各國(guó)政府都在實(shí)施法規(guī),以控制其能源消耗和碳足跡。中國(guó)的「綠色數(shù)據(jù)中心」指南以及德國(guó)、新加坡和日本的類(lèi)似舉措就是這一趨勢(shì)的例子。

          施耐德電氣等行業(yè)專家強(qiáng)調(diào),需要采用全面的環(huán)境指標(biāo)來(lái)評(píng)估數(shù)據(jù)中心的可持續(xù)性。這包括能源使用以外的因素,例如水資源和廢物產(chǎn)生。

          美國(guó)政府正在向大型科技公司施壓,要求他們投資清潔能源,并認(rèn)識(shí)到生成人工智能不斷增長(zhǎng)的電力需求對(duì)環(huán)境產(chǎn)生的重大影響。

          尋找合適的電源:數(shù)據(jù)中心和能源挑戰(zhàn)

          數(shù)據(jù)中心需要多樣化的能源組合,以平衡可靠性和可持續(xù)性,滿足不斷增長(zhǎng)的需求。

          太陽(yáng)能和風(fēng)能等可再生能源因其低碳足跡而頗具吸引力。然而,它們對(duì)天氣條件的依賴可能導(dǎo)致輸出不穩(wěn)定,因此不適合作為數(shù)據(jù)中心的唯一電源。建造冗余設(shè)施來(lái)彌補(bǔ)這種不一致性可能是必要的,但成本很高。

          核電成為一種潛在的解決方案。傳統(tǒng)核電站提供可靠的基載電力,產(chǎn)生對(duì)數(shù)據(jù)中心運(yùn)營(yíng)至關(guān)重要的穩(wěn)定電力。此外,全球核電市場(chǎng)預(yù)計(jì)將在未來(lái)十年實(shí)現(xiàn)穩(wěn)步增長(zhǎng)。

          核能領(lǐng)域的創(chuàng)新提供了更多有希望的可能性。小型模塊化反應(yīng)堆 (SMR) 正在開(kāi)發(fā)中,作為傳統(tǒng)核電站的更小、更安全、更具可擴(kuò)展性的替代品。雖然仍處于研發(fā)階段,但 SMR 有可能直接部署在數(shù)據(jù)中心,提供專用的清潔能源。

          然而,SMR 的廣泛應(yīng)用面臨重大障礙。監(jiān)管和制造方面的挑戰(zhàn)可能會(huì)使其商業(yè)部署推遲數(shù)年。美國(guó)政府正在積極探索解決方案,包括與科技巨頭合作以降低成本并簡(jiǎn)化流程。

          減少數(shù)據(jù)中心能源需求的另一種方法是優(yōu)化人工智能工作負(fù)載。通過(guò)將一些人工智能任務(wù)從云端轉(zhuǎn)移到具有較小、資源密集度較低的人工智能模型的本地設(shè)備,可以降低總體能耗。

          數(shù)據(jù)中心的未來(lái)發(fā)展需要多管齊下。采用多元化的能源組合,包括核能等可靠能源,同時(shí)積極尋求 SMR 等可再生和創(chuàng)新解決方案至關(guān)重要。此外,優(yōu)化本地設(shè)備上的 AI 工作負(fù)載可以進(jìn)一步促進(jìn)數(shù)據(jù)中心的可持續(xù)發(fā)展。



          關(guān)鍵詞: 液冷AI服務(wù)器

          評(píng)論


          技術(shù)專區(qū)

          關(guān)閉
          看屁屁www成人影院,亚洲人妻成人图片,亚洲精品成人午夜在线,日韩在线 欧美成人 (function(){ var bp = document.createElement('script'); var curProtocol = window.location.protocol.split(':')[0]; if (curProtocol === 'https') { bp.src = 'https://zz.bdstatic.com/linksubmit/push.js'; } else { bp.src = 'http://push.zhanzhang.baidu.com/push.js'; } var s = document.getElementsByTagName("script")[0]; s.parentNode.insertBefore(bp, s); })();