紅帽宣布推出 Podman AI實(shí)驗(yàn)室
世界領(lǐng)先的開(kāi)源解決方案提供商紅帽公司近日宣布推出Podman AI實(shí)驗(yàn)室,這是Podman桌面的一個(gè)新擴(kuò)展。該實(shí)驗(yàn)室通過(guò)一個(gè)直觀的圖形界面,使開(kāi)發(fā)者能夠在本地工作站使用容器來(lái)構(gòu)建、測(cè)試和運(yùn)行基于生成式人工智能(GenAI)的應(yīng)用程序。此舉旨在推動(dòng)GenAI的普及,同時(shí)允許開(kāi)發(fā)者在保持對(duì)敏感數(shù)據(jù)所有權(quán)和控制權(quán)的同時(shí),享受本地開(kāi)發(fā)的便利、簡(jiǎn)潔和成本效益。
本文引用地址:http://www.ex-cimer.com/article/202405/459111.htm最近,GenAI和開(kāi)源大語(yǔ)言模型(LLM)的興起標(biāo)志著一個(gè)新時(shí)代的開(kāi)始,這個(gè)時(shí)代在很大程度上依賴于AI應(yīng)用的計(jì)算能力。企業(yè)正迅速積累專業(yè)知識(shí)、流程和工具,以保持其市場(chǎng)競(jìng)爭(zhēng)力。行業(yè)分析公司IDC注意到了這一轉(zhuǎn)變,并預(yù)測(cè):“到2026年,40%的新增應(yīng)用將是智能應(yīng)用,開(kāi)發(fā)者將AI技術(shù)融入應(yīng)用中,以增強(qiáng)現(xiàn)有體驗(yàn)并創(chuàng)造新的使用場(chǎng)景。”1
隨著人工智能和數(shù)據(jù)科學(xué)進(jìn)入主流應(yīng)用程序開(kāi)發(fā)領(lǐng)域,如Podman AI實(shí)驗(yàn)室這樣的工具可以協(xié)助開(kāi)發(fā)人員使用GenAI構(gòu)建智能應(yīng)用程序,或利用AI增強(qiáng)的開(kāi)發(fā)能力來(lái)優(yōu)化工作流程。Podman AI實(shí)驗(yàn)室提供了一個(gè)包含示例應(yīng)用的配方目錄,使開(kāi)發(fā)人員能夠快速掌握一些常見(jiàn)的LLM用例,例如:
● 聊天機(jī)器人:模擬人類(lèi)對(duì)話,利用AI理解用戶的詢問(wèn)并提供適當(dāng)?shù)幕貜?fù)。這些功能通常用于增強(qiáng)自助式客戶支持或虛擬個(gè)人助理應(yīng)用。
● 文本摘要器:為各種應(yīng)用和行業(yè)提供多功能性,實(shí)現(xiàn)高效的信息管理。開(kāi)發(fā)人員可以利用此功能來(lái)協(xié)助內(nèi)容創(chuàng)建和整理、研究、新聞聚合、社交媒體監(jiān)控和語(yǔ)言學(xué)習(xí)等任務(wù)。
● 代碼生成器:自動(dòng)完成項(xiàng)目設(shè)置和API集成等重復(fù)性任務(wù),或生成代碼模板,讓開(kāi)發(fā)人員能夠?qū)W⒂诟邔哟蔚脑O(shè)計(jì)和問(wèn)題解決。
● 物體檢測(cè):識(shí)別和定位數(shù)字圖像或視頻幀中的物體,適用于自動(dòng)駕駛汽車(chē)、零售庫(kù)存管理、精準(zhǔn)農(nóng)業(yè)和體育廣播等應(yīng)用。
● 音頻到文本轉(zhuǎn)錄:將口頭語(yǔ)言自動(dòng)轉(zhuǎn)錄為書(shū)面文本,有助于音頻內(nèi)容的記錄、獲取和分析。
這些示例為開(kāi)發(fā)人員提供了一個(gè)起點(diǎn),他們可以查看源代碼,了解應(yīng)用程序的構(gòu)建方式,并學(xué)習(xí)將自己的代碼與AI模型集成的最佳實(shí)踐。
對(duì)于開(kāi)發(fā)人員而言,容器傳統(tǒng)上為他們?cè)谧烂嫔蠘?gòu)建和測(cè)試應(yīng)用程序提供了一個(gè)靈活、高效且一致的環(huán)境,無(wú)需擔(dān)心沖突或兼容性問(wèn)題。如今,他們也希望人工智能模型開(kāi)發(fā)同樣簡(jiǎn)單易用。Podman AI實(shí)驗(yàn)室正好滿足這一需求,為開(kāi)發(fā)人員提供配置本地推理服務(wù)器的能力,使其更容易在本地運(yùn)行模型、獲取端點(diǎn),并開(kāi)始圍繞模型開(kāi)發(fā)新功能。
此外,Podman AI實(shí)驗(yàn)室還包括一個(gè)沙盒環(huán)境,用戶可以在其中與模型互動(dòng)并觀察其行為。這個(gè)環(huán)境適用于測(cè)試、實(shí)驗(yàn)和開(kāi)發(fā)模型原型及應(yīng)用程序。直觀的用戶界面有助于探索各種模型的功能和準(zhǔn)確性,并協(xié)助用戶找到適合特定應(yīng)用場(chǎng)景的最佳模型配置。
隨著AI在企業(yè)中的日益普及,紅帽正引領(lǐng)潮流,正通過(guò)其一致、可信且全面的混合云AI平臺(tái)產(chǎn)品組合,釋放AI推動(dòng)創(chuàng)新、提升效率和創(chuàng)造價(jià)值的潛力。
Podman AI實(shí)驗(yàn)室是建立在Podman桌面的基礎(chǔ)之上的,后者是紅帽公司創(chuàng)立的一個(gè)開(kāi)源項(xiàng)目,已累計(jì)超過(guò)100萬(wàn)次下載。它還與紅帽企業(yè) Linux的鏡像模式緊密集成,這是世界領(lǐng)先的企業(yè)級(jí)Linux平臺(tái)的一種新型部署方式,通過(guò)容器鏡像形式提供操作系統(tǒng)。這種集成使開(kāi)發(fā)人員能夠更輕松地從在筆記本電腦上制作原型和處理模型,轉(zhuǎn)變?yōu)槭褂眉t帽O(jiān)penShift將新的AI應(yīng)用打包成便攜、可部署的容器,并在混合云的任何環(huán)境中(從裸機(jī)到云實(shí)例)輕松運(yùn)行。
云是混合的,AI亦如此
過(guò)去三十多年,開(kāi)源技術(shù)不僅推動(dòng)了快速創(chuàng)新,還大幅降低了IT成本并降低了創(chuàng)新門(mén)檻。從21世紀(jì)初通過(guò)RHEL提供開(kāi)放式企業(yè)Linux平臺(tái),到通過(guò)紅帽O(jiān)penShift推動(dòng)容器和Kubernetes成為開(kāi)放混合云和云原生計(jì)算的基礎(chǔ),紅帽幾乎一直引領(lǐng)著這一潮流。
紅帽在開(kāi)放混合云中賦能AI/ML戰(zhàn)略,支持人工智能工作負(fù)載在數(shù)據(jù)所在的地方運(yùn)行,無(wú)論是在數(shù)據(jù)中心、多個(gè)公有云或邊緣。除了支持工作負(fù)載外,紅帽的AI愿景還將模型訓(xùn)練和調(diào)整引向同一方向,以更好地應(yīng)對(duì)數(shù)據(jù)主權(quán)、合規(guī)和操作完整性等方面的限制。紅帽的平臺(tái)為這些工作負(fù)載提供跨環(huán)境的一致性,無(wú)論它們?cè)诤翁庍\(yùn)行,這對(duì)于順利推進(jìn)AI創(chuàng)新至關(guān)重要。
支持證言
Sarwar Raza,紅帽副總裁兼應(yīng)用開(kāi)發(fā)者業(yè)務(wù)部總經(jīng)理
“AI時(shí)代已經(jīng)到來(lái),但對(duì)許多應(yīng)用程序開(kāi)發(fā)人員而言,構(gòu)建智能應(yīng)用程序的學(xué)習(xí)曲線相當(dāng)陡峭。Podman AI實(shí)驗(yàn)室提供了一個(gè)熟悉且易于使用的工具和沙盒環(huán)境,讓開(kāi)發(fā)人員安全可靠地將AI模型整合到代碼和工作流程中,而無(wú)需昂貴的基礎(chǔ)設(shè)施投資或深厚的AI專業(yè)知識(shí)。”
Jim Mercer,IDC軟件開(kāi)發(fā)、DevOps和DevSecOps項(xiàng)目副總裁
“生成式人工智能(GenAI)的新浪潮正在席卷整個(gè)行業(yè),對(duì)處于這一新興模式前沿的開(kāi)發(fā)人員和DevOps專業(yè)人員產(chǎn)生了深遠(yuǎn)影響??梢灶A(yù)見(jiàn),整個(gè)開(kāi)發(fā)和DevOps領(lǐng)域的變革將會(huì)加速。未來(lái)幾年很可能成為應(yīng)用程序開(kāi)發(fā)和部署史上最關(guān)鍵的幾年?!?/p>
[1] IDC FutureScape:全球開(kāi)發(fā)人員和 DevOps 2024 年預(yù)測(cè)》,DOC # US50136023,2023 年 10 月
評(píng)論