肯睿Cloudera攜手NVIDIA,進一步擴展NVIDIA微服務的生成式AI功能
近日,可信的企業人工智能數據公司肯睿Cloudera宣布進一步擴大其與NVIDIA的合作。Cloudera Powered by NVIDIA將把NVIDIA AI Enterprise軟件平臺中的企業級NVIDIA NIM微服務集成到Cloudera Data Platform上的AI/ML工作流程服務Cloudera Machine Learning中,為客戶提供快速、安全和精簡化的生產級端到端生成式AI工作流程。
本文引用地址:http://www.ex-cimer.com/article/202403/456598.htm結合專為大語言模型(LLM)優化的綜合全棧平臺后,企業數據在推動企業生成式AI應用從試點到生產的過程中,發揮了至關重要的作用。借助NVIDIA NIM和NeMo Retriever微服務,開發人員能夠將AI模型與他們的業務數據(包括文本、圖像和各種可視化圖,如條形圖、折線圖和餅圖等)相關聯,生成高度準確且符合上下文語境的回答。NVIDIA AI Enterprise提供專為構建、自定義和部署企業級LLM而優化的運行時,使用上述微服務的開發人員可以通過它部署應用。Cloudera Machine Learning充分利用NVIDIA微服務,將高性能AI工作流程、AI平臺軟件和加速計算應用于數據,使客戶能夠從他們委托Cloudera管理的企業數據中挖掘出價值。
肯睿Cloudera 將推出多項集成NVIDIA微服務的功能。Cloudera Machine Learning 將通過集成NVIDIA微服務支持的模型和應用服務,提升所有工作負載的模型推理性能。借助這項全新的AI模型服務功能,客戶部署在公有云和私有云上的模型都能實現容錯、低延遲服務和自動擴展。此外,Cloudera Machine Learning 還將提供集成式 NVIDIA NeMo Retriever 微服務,簡化自定義 LLM 與企業數據的連接。用戶可通過這項功能構建基于檢索增強生成(RAG)的生產級應用。
Cloudera此前曾與NVIDIA合作,通過將NVIDIA RAPIDS Accelerator for Apache Spark集成到Cloudera Data Platform,利用GPU優化數據處理?,F在,隨著NVIDIA微服務計劃的加入以及與NVIDIA AI Enterprise 的集成,Cloudera Data Platform 將成為可提供精簡化端到端混合 AI 管道的平臺。
未來,各個行業的企業都將能夠更加快速、直觀地構建、自定義和部署支持變革性生成式AI的 LLM,包括加快開發時間的編碼協作機器人、自動執行客戶互動和服務的聊天機器人、快速處理文檔的文本摘要應用、精簡化的上下文搜索等各種應用。這些創新技術使整個企業的數據和高級AI流程變得更加簡單和快捷,最大程度地縮短了實現業務價值的時間,增加了收入來源并優化了成本。
肯睿Cloudera AI/ML產品副總裁Priyank Patel表示:“Cloudera正在通過集成NVIDIA NIM和CUDA-X微服務,為Cloudera Machine Learning提供助力,幫助客戶將AI熱潮轉化為實實在在的業務成果。除了為客戶提供強大的生成式AI功能和性能外,此次集成的成果還將助力企業做出更加準確且及時的決策,同時減少預測中的不準確性、幻覺和錯誤。這些都是適應當今數據環境的關鍵因素?!?/p>
NVIDIA企業產品副總裁 Justin Boitano 表示:“企業迫切希望將其海量數據運用于生成式AI,創造出定制化的輔助系統和生產力工具。通過將NVIDIA NIM微服務集成到Cloudera Data Platform,開發人員能夠更加輕松且靈活地部署推動業務轉型的LLM?!?/p>
Cloudera將在AI時代的開發者峰會NVIDIA GTC上展示全新的AI功能。本屆GTC于3月18日至21日在加利福尼亞州圣何塞市的圣何塞麥克內里會展中心舉行,參加者包括影響AI和加速計算領域下一步發展方向的企業與創新者。
評論