商湯聯合發布《新一代人工智能基礎設施白皮書》，解讀AI 2.0時代“新基建”
近日,商湯科技智能產業研究院與中國信息通信研究院云計算與大數據研究所,中國智能算力產業聯盟,人工智能算力產業生態聯盟,聯合發布《新一代人工智能基礎設施白皮書》(以下簡稱《白皮書》)?！栋灼凡粌H明確了“新一代AI基礎設施”的定義、特點和價值,還首次提出“新一代AI基礎設施評估體系”,為AI 2.0時代智算產業發展提供重要參考。
本文引用地址：http://www.ex-cimer.com/article/202401/454444.htm新一代AI基礎設施成為AI 2.0時代“新基建”
數據顯示,過去四年,大模型參數量以年均400%復合增長,AI算力需求增長超過15萬倍,遠超摩爾定律。以CPU為中心的傳統計算基礎設施已無法滿足大模型、生成式AI的新要求。大模型訓練對數據質量和效率的需求,企業應用生成式AI對于MaaS(大模型即服務)的需求,也都給AI基礎設施提出了全新要求。
AI 2.0時代,需要新一代的基礎設施來支撐大模型的訓練與推理、生成式AI應用的規?；涞?其核心要素,如計算、存儲、網絡以及數據服務都要做精細化的設計和重構,而非簡單的服務器或GPU實例堆砌。
《白皮書》明確了新一代AI基礎設施的定義:以大模型能力輸出為核心平臺,集成算力資源、數據服務和云服務,專門設計用于最大限度提升大模型和生成式AI應用的表現:數據準備與管理、大模型訓練、推理、模型能力調用、生成式AI應用部署。企業通過新一代AI基礎設施開發和運行生成式AI業務和客戶應用程序,以及基模型和行業模型的訓練與微調。
《白皮書》指出,新一代AI基礎設施的建設將降低大模型開發和應用門檻,在政企服務、產業和科研創新等方面創造更大社會價值:面向產業,將加快推進傳統產業上下游各個環節的智能化轉型,催生新業態、新模式的不斷涌現。面向科研,可加速科學實驗的自動化和智能化,激發人工智能驅動科學研究(AI for Science)的新范式。面向政務,將原本分散、碎片化的政務應用,通過“一模通辦” 為政務服務提質增效。
首次提出新一代AI基礎設施評估體系,商湯科技引領新一代AI基礎設施
當前,新一代AI基礎設施市場處于高速競爭的初級階段,云計算、AI原生、硬件系統等各類廠商均有各自優勢。為了給企業用戶提供AI基礎設施選型的可靠性指導,《白皮書》首次提出了“新一代AI基礎設施評估體系”。通過產品技術、戰略愿景、市場生態三大維度、十二個評估指標,對AI基礎設施廠商綜合能力進行定性和定量的全面評估。
《白皮書》選取了十二家最具代表性的AI基礎設施廠商。商湯科技的新一代AI基礎設施 -SenseCore商湯大裝置,在各個評估指標的得分均超過廠商平均分,并在市場響應、市場認知、產品戰略、工程化建設四個評估指標拿到滿分,成為新一代AI基礎設施市場的領導者。
《白皮書》指出,商湯在產品服務能力呈現出較強的產品實力和技術積累,不僅超前布局了算力基礎設施,還在MaaS平臺以及自身大模型業務的加持下,形成了整套AI基礎設施產品架構,滿足客戶大模型訓練、生成式AI應用的大規模落地需求。
SenseCore商湯大裝置作為商湯推出的AI基礎設施產品與解決方案,總體算力規模目前已達6800P,在支持商湯自身大模型研發的同時,也支持外部客戶訓練大模型和應用部署。今年以來,共有超1000個參數量數十億至上千億的大模型在大裝置上完成訓練,實現了領跑行業的技術迭代進度,并支持了數十款生成式AI應用。
商湯大裝置全面支撐大模型訓練與推理、生成式AI與應用的基礎設施
激發“智能基建革新”,加速大模型和生成式AI落地
《白皮書》以商湯基于AI大裝置的多場景實踐案例為例,闡述了從大型模型訓練到生成式AI應用的全過程,再到區域智算中心的建設與運營,深入挖掘了這一全生命周期中的商業創新價值。
· 大模型訓練場景
商湯大裝置為商湯自研“日日新SenseNova”大模型體系的訓練迭代提供了強大算力支撐,以及1.5萬億token和6000億中文高質量數據,推出了商量大語言模型,AIGC等大模型,并在多個權威大模型測評榜單中位居前列。
商湯還助力某業界領先的認知智能公司打造了高性能算力平臺,提高模型訓練速度和效率,已成功推出了400億參數量的大模型,快速滿足不同領域和場景需求。
·生成式AI應用場景
依托商湯大裝置,商湯聯合中公教育發布虛擬數字講師“小鹿老師”,相比傳統人工直播,不僅降低了80%錄課成本,還提高了2~3倍的課程豐富度,實現教學質量和效率雙重提升。
商湯還助力微博打造“營銷大模型”,讓每位博主都能擁有自己的AI營銷助手,短短數月便有超7000位微博達人采用AIGC生成69萬篇文案,采用率高達95%。
·智算中心建設與運營
今年10月,商湯與重慶南岸區攜手打造的“重慶人工智能計算中心(AIDC)”,以國產化算力為核心,首期建設峰值算力達100 Petaflops,為西南地區的各行各業、科研機構提供AI算力、大模型訓練、推理部署和應用開發等服務。
同時,商湯還助力打造福建省大數據算力平臺,第一階段已建成125 PFLOPS算力規模,并有多家數字生態領軍企業入駐,有望推動生成式AI技術在醫療、金融、制造等各個產業中的落地。
《白皮書》最后指出,隨著新一代AI基礎設施的邊際成本持續下降、邊際效益持續增長,AI將普惠每一個人。
評論