平頭哥奪得權威AI榜單4項第一,RISC-V加速AIoT定制化發(fā)展
4月7日,全球權威AI基準測試MLPerf發(fā)布最新榜單,在聚焦低功耗、高能效的IoT領域Tiny v0.7榜單中,基于平頭哥玄鐵RISC-V C906處理器的軟硬件聯(lián)合優(yōu)化方案,取得了全部4個指標的第一。這意味著在AIoT領域,RISC-V架構能以極低的計算代價實現(xiàn)定制化AI功能。
本文引用地址:http://www.ex-cimer.com/article/202204/432819.htm
(圖說:MLPerf網(wǎng)站截圖)
MLPerf Tiny是目前全球IoT領域對軟硬件性能和優(yōu)化能力測試的權威AI榜單,包含視覺喚醒、圖像分類、語音喚醒及異常監(jiān)測等4個典型AI任務。今年,參與比拼的CPU覆蓋ARM、RISC-V及自研架構等。
此次Tiny v0.7榜單中,在不使用加速器的情況下,阿里基于平頭哥玄鐵RISC-V C906處理器提交的軟硬件性能優(yōu)化結果,在滿足精度要求的同時,刷新了全部4個benchmark指標的紀錄,創(chuàng)造了RISC-V架構在AI基準測試的最好成績。
(圖說:權威AI榜單MLPerf Tiny V0.7性能數(shù)據(jù)對比)
依靠阿里在算法、編譯、硬件的軟硬一體創(chuàng)新,平頭哥玄鐵RISC-V處理器實現(xiàn)了AIoT領域的性能優(yōu)化。
算法層面,阿里云震旦異構加速平臺利用架構感知的模型優(yōu)化工具SinianML,通過壓縮、網(wǎng)絡結構搜索、蒸餾、彈性伸縮等優(yōu)化,使得AI推理實現(xiàn)了計算效率的大幅提升。同時,結合達摩院在語音和視覺AI算法方面的領域知識,在具體任務上通過算法優(yōu)化實現(xiàn)加速。
在編譯及硬件層面,基于業(yè)界最早量產(chǎn)的向量擴展RISC-V指令集的玄鐵C906處理器,平頭哥進一步優(yōu)化神經(jīng)網(wǎng)絡模型部署工具集HHB及加速庫CSI-NN2,將AI算子更好地與硬件適配,使得玄鐵CPU實現(xiàn)了性能升級。HHB及CSI-NN2均已開源。
據(jù)了解,玄鐵RISC-V處理器覆蓋低功耗、高能效、高性能等各類場景,并支持多個操作系統(tǒng),廣泛應用于智能家電、車載、工業(yè)控制、邊緣計算等領域。此前平頭哥曾開源4款量產(chǎn)RISC-V處理器IP,以及基于玄鐵的全棧軟件及工具。
“RISC-V架構更靈活,更能滿足AIoT時代定制化需求。此次在MLPerf Tiny榜單中取得4項第一,證明了RISC-V在性能及能效方面非常優(yōu)異的潛力。平頭哥將繼續(xù)推動RISC-V軟硬技術融合創(chuàng)新,持續(xù)貢獻RISC-V生態(tài),讓RISC-V成長為更多場景和行業(yè)的新選擇?!逼筋^哥副總裁孟建熠說。
評論