紅帽通過RHEL AI推動開源生成式AI創(chuàng)新的普及

●   這是首個通過紅帽靈活而成熟的企業(yè)訂閱模式提供支持、保障，并且開源授權(quán)的IBM Granite大型語言模型（LLM）

●   向全球領先的企業(yè)級Linux平臺引入開源的InstructLab模型對齊工具，旨在簡化生成式AI模型的實驗及調(diào)整對齊

●   在AMD、Intel和NVIDIA平臺上提供受支持的、企業(yè)就緒的模型運行時環(huán)境，推動基于開源的AI創(chuàng)新

世界領先的開源解決方案供應商紅帽公司日前宣布推出紅帽企業(yè)Linux AI（RHEL AI）。這是一個基礎模型平臺，能夠使用戶更加便捷地開發(fā)、測試和部署生成式人工智能（GenAI）模型。RHEL AI整合了IBM研究院的開源授權(quán)Granite大型語言模型（LLM）系列、基于大規(guī)模對話機器人對齊（LAB）方法的InstructLab模型對齊工具，以及通過InstructLab項目實施的社區(qū)驅(qū)動模型開發(fā)方法。該解決方案被封裝成一個優(yōu)化的、可啟動的RHEL鏡像，用于在混合云環(huán)境中部署單個服務器，并已集成到OpenShift AI中。OpenShift AI是紅帽的混合機器學習運營（MLOps）平臺，能夠在分布式集群環(huán)境中大規(guī)模運行模型和InstructLab。

ChatGPT的推出極大地激發(fā)了社會對生成式AI的興趣，自那以來，相關(guān)創(chuàng)新的步伐不斷加速。企業(yè)已從對生成式AI服務的初步評估轉(zhuǎn)向開發(fā)并啟用AI的應用程序。一個快速成長的開放模型生態(tài)系統(tǒng)進一步促進了AI的創(chuàng)新，并說明了不會有一個獨占鰲頭的模型?？蛻魧⑹芤嬗诙鄻踊倪x擇，從而滿足其特定需求，這一過程還將通過開放創(chuàng)新的方式得到加速推進。

實施AI策略遠不止選擇一個模型那么簡單。企業(yè)需要專業(yè)知識來為特定場景調(diào)整適當?shù)哪Ｐ?，并且還必須處理AI實施過程中的顯著成本難題。數(shù)據(jù)科學技能的稀缺性，加之以下幾個方面的財務需求，使得情況更為復雜：

●   購置AI基礎設施或使用AI服務

●   針對特定商業(yè)需求調(diào)整AI模型的復雜流程

●   將AI融入企業(yè)應用

●   管理應用程序及其模型的生命周期 

為了真正降低進入AI創(chuàng)新的門檻，企業(yè)需要擴大參與AI項目的人員范圍，同時控制相關(guān)成本。通過使用InstructLab對齊工具、Granite模型和RHEL AI，紅帽致力于將自由獲取、重復利用、透明開放以及鼓勵貢獻等開源項目的優(yōu)勢應用于生成式AI。

通過InstructLab在開放環(huán)境中構(gòu)建AI

IBM研究院開發(fā)了大規(guī)模對話機器人對齊（LAB）技術(shù)，這是一種利用分類指導合成數(shù)據(jù)生成和創(chuàng)新的多階段調(diào)整框架的模型對齊方法。此方法通過減少對昂貴人工注釋和專有模型的依賴，使AI模型的開發(fā)變得更加開放和易于接觸。采用LAB方法，可以通過指定分類下的技能和知識，大規(guī)模生成影響模型的合成數(shù)據(jù)，并利用這些數(shù)據(jù)訓練模型。

在意識到LAB方法能顯著提升模型性能后，IBM和紅帽決定推出InstructLab，這是一個圍繞LAB方法和IBM開源Granite模型構(gòu)建的開源社區(qū)。InstructLab項目的目標是使開發(fā)者通過簡化LLM的創(chuàng)建、構(gòu)建和貢獻過程，像參與任何其他開源項目一樣，將LLM開發(fā)的權(quán)力交到開發(fā)者手中。

在InstructLab的啟動過程中，IBM還公開發(fā)布了一系列精選的Granite英語和編程模型。這些模型在Apache許可證下發(fā)布，確保了對訓練模型所用數(shù)據(jù)集的透明度。Granite 7B英語模型已整合到InstructLab社區(qū)，最終用戶可以像對其他任何開源項目那樣，共同貢獻技能和知識，從而提升該模型。對于Granite編程模型，InstructLab將很快提供類似的支持。

在可信賴的Linux基礎上進行開源AI創(chuàng)新

RHEL AI沿用這種開放式AI創(chuàng)新方法，融合了企業(yè)級就緒的InstructLab項目和Granite語言與代碼模型，及全球領先的企業(yè)級Linux平臺，簡化了混合基礎設施環(huán)境中的部署。這樣構(gòu)建了一個基礎模型平臺，使開源許可的生成式AI模型能夠被企業(yè)所使用。RHEL AI包括：

●   紅帽支持和保障的開源許可Granite語言和代碼模型。

●   提供支持并具有生命周期管理的InstructLab分發(fā)版本，這是一種可擴展且成本效益高的解決方案，能夠增強大型語言模型（LLM）的功能，并使知識與技能的貢獻得到更廣泛的用戶接納。

●   通過RHEL鏡像方式提供的優(yōu)化可啟動模型運行實例，包括Granite模型和InstructLab工具包，及優(yōu)化的Pytorch運行時庫和針對AMD Instinct? MI300X、Intel和NVIDIA GPU以及NeMo框架的加速器。

●   紅帽提供的完整企業(yè)支持和生命周期保證，從可信的企業(yè)產(chǎn)品分發(fā)開始，提供24小時全天候生產(chǎn)支持和擴展的生命周期支持。

隨著各組織在RHEL AI上試驗和調(diào)整新AI模型，他們可以通過紅帽O(jiān)penShift AI來擴展這些工作流，OpenShift AI將包含RHEL AI，并利用OpenShift的Kubernetes引擎在大規(guī)模訓練和部署AI模型，以及OpenShift AI的集成MLOps能力來管理模型的生命周期。IBM的watsonx.ai企業(yè)工作室建立在紅帽O(jiān)penShift AI上，RHEL AI一旦在OpenShift AI中可用，將帶來額外的企業(yè)AI開發(fā)、數(shù)據(jù)管理、模型治理和性價比改進的能力。

云是混合的，AI亦如此

過去三十多年，開源技術(shù)不僅推動了快速創(chuàng)新，還大幅降低了IT成本并降低了創(chuàng)新門檻。從21世紀初通過RHEL提供開放式企業(yè)Linux平臺，到通過紅帽O(jiān)penShift推動容器和Kubernetes成為開放式混合云和云原生計算的基礎，紅帽幾乎一直引領著這一潮流。

紅帽在開放混合云中賦能人工智能/機器學習戰(zhàn)略，支持人工智能工作負載在數(shù)據(jù)所在的地方運行，無論是在數(shù)據(jù)中心、多個公有云或邊緣。除了支持工作負載外，紅帽的人工智能愿景還將模型訓練和調(diào)整引向同一方向，以更好地應對數(shù)據(jù)主權(quán)、合規(guī)和操作完整性等方面的限制。紅帽的平臺為這些工作負載提供跨環(huán)境的一致性，無論它們在何處運行，這對于順利推進人工智能創(chuàng)新至關(guān)重要。

RHEL AI和InstructLab社區(qū)進一步落實了這一愿景，消除了試驗和構(gòu)建AI模型的多個障礙，提供了推動下一代智能工作負載所需的工具、數(shù)據(jù)和概念。

上市時間

紅帽企業(yè)Linux AI目前已作為開發(fā)者預覽版提供。在IBM云上已建立的GPU基礎設施用于訓練Granite模型并支持InstructLab，現(xiàn)IBM云將增加對RHEL AI和OpenShift AI的支持。此整合將使企業(yè)能夠更輕松地將生成式AI部署至其關(guān)鍵任務應用程序中。

支持證言

Ashesh Badani，紅帽高級副總裁兼首席產(chǎn)品官

“對企業(yè)來說，生成式AI（GenAI）代表了一次革命性的飛躍，但這需要企業(yè)真正部署起來，并針對其具體業(yè)務需求使用AI模型。通過結(jié)合紅帽O(jiān)penShift AI的廣泛應用，RHEL AI和InstructLab項目旨在降低混合云中生成式AI所面臨的多種挑戰(zhàn)，從數(shù)據(jù)科學技能的限制到巨大的資源需求，同時促進企業(yè)的部署并推動上游社區(qū)的創(chuàng)新。”

Ramine Roane，AMD公司AI部門副總裁

“AI是過去五十年中技術(shù)最重要的變革之一。為了促進AI更廣泛的采用，構(gòu)建AI應用的模型和工具需要對企業(yè)可達。RHEL AI基于可信賴的Linux基礎，配備開源工具和模型，是支持此類需求的平臺之一，我們很高興支持紅帽利用我們的AMD技術(shù)推動企業(yè)AI的進步?！?/p>

Jeremy Foster，思科網(wǎng)絡-計算部門高級副總裁兼總經(jīng)理

“AI運動是企業(yè)的一次巨大變革，許多組織正在探索最佳前進路徑。思科持續(xù)與紅帽緊密合作，推進AI的采用，RHEL AI將通過提供開源啟用的大型語言模型（LLM），作為企業(yè)就緒的Linux平臺的一部分來加速創(chuàng)新。”

Gil Shneorson，戴爾解決方案平臺高級副總裁

“戴爾一直在提供可靠和一致的基礎設施生命周期管理方面處于先驅(qū)地位；我們認為，隨著系統(tǒng)的持續(xù)演化，為企業(yè)IT操作提供持續(xù)的、可靠和安全的系統(tǒng)更新至關(guān)重要。使組織能夠擴展代碼更新并減少部署時間的新技術(shù)，將是保持創(chuàng)新進程的關(guān)鍵?！?/p>

Frances Guida，惠普企業(yè)計算解決方案和AI總監(jiān)

“HPE與紅帽合作了二十年，提供結(jié)合了HPE計算平臺和RHEL的行業(yè)領先解決方案。在快速增長的技術(shù)領域如生成式AI中，開放環(huán)境對創(chuàng)新至關(guān)重要，我們期待與RHEL AI和紅帽探索新的合作領域，助力惠普客戶取得成功?！?/p>

Darío Gil，IBM高級副總裁兼研究總監(jiān)

“真正的開源創(chuàng)新引入AI模型開發(fā)，并利用廣闊的社區(qū)力量，將改變企業(yè)對AI采用和擴展計劃的思考方式。IBM一直支持開源社區(qū)，支持了Linux、Apache和Eclipse等有影響力的社區(qū)，我們與紅帽的合作是我們致力于構(gòu)建安全、負責任且高效AI的開放方式的一大步。RHEL AI和InstructLab，結(jié)合IBM的開源Granite模型家族，將為那些尋求為其特定用途構(gòu)建模型的客戶提供新的價值和選擇?！?/p>

Hillery Hunter，IBM基礎設施創(chuàng)新首席技術(shù)官兼總經(jīng)理

“許多企業(yè)都在努力將AI融入其關(guān)鍵任務應用程序。RHEL AI和OpenShift AI在IBM云上的可用性將徹底改變社區(qū)和公司構(gòu)建及利用生成式AI的方式。我們正在促進開放合作，簡化模型定制，并為將AI整合到每個應用程序中提供企業(yè)級支持的模型和工具?！?/p>

Justin Hotard，英特爾數(shù)據(jù)中心及AI集團執(zhí)行副總裁兼總經(jīng)理

“AI的廣泛采用需要完全開源，社區(qū)成員應該貢獻并創(chuàng)造新的應用和使用案例。通過整合開源的Granite模型和InstructLab項目，RHEL AI正為我們與生產(chǎn)中的AI模型的互動方式、調(diào)整和最終使用中帶來重大變革?！?/p>

Kirk Skaugen，聯(lián)想ISG總裁

“部署AI驅(qū)動應用的客戶需要能在一個可信、熟悉但仍具創(chuàng)新性的平臺上測試和實驗潛在模型。聯(lián)想認為AI的未來是混合式的，我們視RHEL AI為廣泛混合AI創(chuàng)新的關(guān)鍵途徑，并通過紅帽O(jiān)penShift AI實現(xiàn)生產(chǎn)規(guī)模化。我們很高興與紅帽合作，在我們的ThinkSystem 8-GPU服務器上進行聯(lián)合測試，推動混合AI創(chuàng)新?！?/p>

Justin Boitano，NVIDIA企業(yè)產(chǎn)品副總裁

“紅帽和NVIDIA長期以來一直保持緊密合作，紅帽企業(yè)Linux AI展示了我們共同致力于為開發(fā)者和研究者提供全面的計算和軟件解決方案，幫助他們構(gòu)建下一波AI技術(shù)和應用?！?/p>