大模型訓練 文章 進入大模型訓練技術社區(qū)

天垓100率先完成百億級參數(shù)大模型訓練，天數(shù)智芯迎來新的里程碑

• ?6月10日，在第五屆智源大會AI系統(tǒng)分論壇上，上海天數(shù)智芯半導體有限公司（以下簡稱“天數(shù)智芯”）對外宣布，在天垓100加速卡的算力集群，基于北京智源人工智能研究院（以下簡稱“智源研究院”）70億參數(shù)的Aquila語言基礎模型，使用代碼數(shù)據(jù)進行繼續(xù)訓練，穩(wěn)定運行19天，模型收斂效果符合預期，證明天數(shù)智芯有支持百億級參數(shù)大模型訓練的能力。圖 天數(shù)智芯產(chǎn)品線總監(jiān)宋煜? ? ? ?在北京市海淀區(qū)的大力支持下，智源研究院、天數(shù)智芯與愛特云翔共同合作，聯(lián)手開展基于自
• 關鍵字： 天垓100  百億級參數(shù)  大模型訓練  天數(shù)智芯