瀚博半導(dǎo)體發(fā)布云端推理AI芯片 今年四季度量產(chǎn)

近兩年AI芯片廠商不斷涌現(xiàn)，2021年熱度更甚，一方面科技巨頭們加大投入力度，另一方面初創(chuàng)企業(yè)們逐步商業(yè)化，并且參與者持續(xù)增加。

在2021世界人工智能大會期間，瀚博半導(dǎo)體發(fā)布其首款云端通用AI推理芯片SV100系列及VA1通用推理加速卡，可實現(xiàn)深度學(xué)習(xí)應(yīng)用超高性能、超低延時的推理性能，可顯著降低數(shù)據(jù)中心與邊緣智能應(yīng)用的部署成本。據(jù)悉，SV100系列及VA1通用推理加速卡預(yù)計將于今年四季度量產(chǎn)上市。

瀚博半導(dǎo)體成立于2018年，今年4月28日完成了5億元人民幣A+輪融資。本輪融資由經(jīng)緯中國和中國互聯(lián)網(wǎng)投資基金聯(lián)合領(lǐng)投，老股東紅點創(chuàng)投中國基金、五源資本、賽富投資基金、耀途資本、天狼星資本和元木資本跟投。

國內(nèi)大廠們也動作不斷，今年上半年，百度宣布旗下昆侖芯片業(yè)務(wù)已成立獨立新公司，瞄準的也是云端AI通用芯片，第二代昆侖芯片已經(jīng)流片成功，將于2021年下半年量產(chǎn)；字節(jié)跳動也表示在組建相關(guān)團隊，在AI芯片領(lǐng)域做一些探索；華為的昇騰生態(tài)在繼續(xù)展開，阿里含光芯片也已面市。

國外的英偉達、英特爾、AMD等更是在AI領(lǐng)域布局已久，尤其是英偉達在AI生態(tài)上建立了穩(wěn)固的壁壘生態(tài)。

人工智能芯片的賽道依舊火熱，隨著持續(xù)的技術(shù)演進，全球范圍內(nèi)各行業(yè)數(shù)據(jù)中心對推理算力的需求在快速增長，下游客戶多樣化的算力應(yīng)用場景，催生了多樣化的AI計算加速芯片需求。那么，在這場算力平臺的競爭中，新興公司們?nèi)绾巫叱霾町惢肪€？云端推理芯片是不少公司選擇突圍的方向。

瀚博半導(dǎo)體創(chuàng)始人兼CEO錢軍表示，選擇推理端突破，一方面是因為市場需求，有數(shù)據(jù)顯示，2021年推理市場已經(jīng)大于訓(xùn)練市場；另一方面是因為GPU在推理側(cè)不是最好的構(gòu)架，瀚博半導(dǎo)體有更好的DSA構(gòu)架。

據(jù)介紹，瀚博SV100系列芯片的單芯片INT8峰值算力超200 TOPS，采用了自研的通用架構(gòu)，支持FP16, BF16和INT8等數(shù)據(jù)格式，并可以實現(xiàn)眾多主流神經(jīng)網(wǎng)絡(luò)的快速部署及計算機視覺、視頻處理、自然語言處理和搜索推薦等多樣化推理應(yīng)用場景。同時，芯片集成高達64路以上H.264/H.265/AVS2的1080p視頻解碼，廣泛適用于云端與邊緣智能應(yīng)用場景。

同時，瀚博半導(dǎo)體創(chuàng)始人兼CTO張磊還介紹道，瀚博的VastStream軟件平臺支持TensorFlow、PyTorch、Caffe2等常見的深度學(xué)習(xí)框架模型與ONNX格式的模型，通過高度定制的AI編譯器充分優(yōu)化模型在瀚博硬件上的執(zhí)行效率。

在架構(gòu)等技術(shù)能力之外，商業(yè)落地非常關(guān)鍵，錢軍在接受記者采訪時談道：“SV100花了兩年半時間，我們找到了一個很好的伙伴快手，快手投了我們，并且合作非常緊密。同時，我們也在和其他國內(nèi)外的廠商們談合作。”

錢軍也坦言，在兩年多的研發(fā)過程中，作為初創(chuàng)公司遇到非常多的挑戰(zhàn)，“包括整個框架設(shè)立可能都會是瓶頸，需要顧慮方方面面的問題，最重要的要從客戶的需求來看，構(gòu)架要對。在理解客戶的需求，我們下了很多功夫。”

在AI芯片的爭霸賽中，國內(nèi)的競爭者越來越多，在群雄并起的階段，格局還在不斷變化之中。