紅帽與Run:ai為混合云優(yōu)化人工智能工作負載
全球領先的開源解決方案提供商紅帽公司與人工智能(AI)優(yōu)化和編排領域的領導者Run:ai今日宣布展開合作,將Run:ai的資源優(yōu)化功能集成到紅帽OpenShift AI中。此合作通過簡化AI操作和優(yōu)化底層基礎設施,使企業(yè)能夠充分利用AI資源。在一個可靠的MLOps平臺上,企業(yè)可以高效地構建、調整、部署和監(jiān)控AI應用和模型,從而最大化人力和硬件資源的效用。
本文引用地址:http://www.ex-cimer.com/article/202405/458818.htmGPU是推動AI工作流程的核心計算引擎,支持模型訓練、推理和實驗等。鑒于這些專用處理器的高昂成本,特別是在分布式訓練和推理場景中。紅帽與Run:ai正聯(lián)合提供解決方案,通過在紅帽O(jiān)penShift AI上部署經(jīng)認證的Run:ai OpenShift Operator,滿足GPU資源優(yōu)化的關鍵需求,幫助用戶在任何場景下擴展和優(yōu)化其AI工作負載。Run:ai的云原生計算編排平臺在紅帽O(jiān)penShift AI上提供的幫助包括:
● 利用專用工作負載調度程序,解決AI工作負載的GPU調度問題,輕松確定關鍵任務工作負載的優(yōu)先級,并確保分配足夠資源支持這些工作負載。
● 通過部分GPU使用和監(jiān)控功能,根據(jù)設定的優(yōu)先級和策略動態(tài)分配資源,提升基礎設施效率。
● 改善對共享GPU基礎設施的控制和可見性,為IT、數(shù)據(jù)科學和應用開發(fā)團隊提供更便捷的訪問和資源分配方式。
Run:ai的認證OpenShift Operator現(xiàn)已可用。展望未來,紅帽和Run:ai計劃繼續(xù)加強合作,在紅帽O(jiān)penShift AI上為Run:ai引入更多集成功能。此舉旨在提供更無縫的客戶體驗,并進一步加速AI模型向生產工作流的轉移,實現(xiàn)更高的一致性。
支持證言
Steven Huels,紅帽副總裁兼AI事業(yè)部總經(jīng)理
“隨著AI采用率的提高和對GPU需求的增加,企業(yè)需優(yōu)化其AI平臺,以充分利用運營和基礎設施,無論這些資源位于混合云的哪個部分。通過與Run:ai的合作,讓企業(yè)能夠在不犧牲AI/ML平臺的可靠性或寶貴的GPU資源的情況下,在任何必需的地方最大限度地擴展AI工作負載?!?/p>
Omri Geller,Run:ai首席執(zhí)行官兼創(chuàng)始人
“我們很高興能與紅帽O(jiān)penShift AI合作,增強AI運營的能力和潛力。通過利用紅帽O(jiān)penShift的MLOps優(yōu)勢和Run:ai在AI基礎設施管理方面的專業(yè)知識,我們正在為企業(yè)AI設立新標準,提供無縫的可擴展性和優(yōu)化的資源管理?!?/p>
評論