銓興科技 文章 進入銓興科技技術(shù)社區(qū)

銓興科技AI創(chuàng)新解決方案開啟“銓”民AI時代

• 當前，人工智能技術(shù)正以其獨特的魅力和巨大的潛力引領(lǐng)著新一輪科技革命。AI大模型的爆發(fā)帶動了GPU市場的繁榮，從云端到邊緣AI應(yīng)用也催生邊緣AI服務(wù)器及AI加速處理器的巨大需求。在邊緣AI應(yīng)用場景中，大數(shù)據(jù)與大模型的運算、推理依靠GPU的運行效能和帶寬，AI的訓練與微調(diào)依賴顯存容量。為支撐70B、405B甚至大于1000B模型的訓練與微調(diào)任務(wù)，現(xiàn)有市場方案依靠多顯卡集群的方式拼湊顯存與算力?，F(xiàn)行的多顯卡集群方式投入成本昂貴，且高性能GPU算力卡國內(nèi)限購，成本高，后續(xù)維護進階難，極大程度阻礙AI應(yīng)用場景落地，
• 關(guān)鍵字： 銓興科技  AI創(chuàng)新  AI時代