Achronix推出基于FPGA的加速自動語音識別解決方案
高性能FPGA芯片和嵌入式FPGA(eFPGA IP)領(lǐng)域的領(lǐng)先企業(yè)Achronix半導(dǎo)體公司日前自豪地宣布:正式推出Achronix與Myrtle.ai合作的最新創(chuàng)新——基于Speedster7t FPGA的自動語音識別(ASR)加速方案。這一變革性的解決方案,實現(xiàn)了高精度和快速響應(yīng),可將超過1000個并發(fā)的實時語音流轉(zhuǎn)換為文本,同時性能比競爭方案高20倍。Achronix于2023年11月12日至17日在丹佛舉辦的“2023年超級計算大會(SC23)”上演示了該方案。
本文引用地址:http://www.ex-cimer.com/article/202311/453430.htm該解決方案由搭載Speedster7t FPGA器件的VectorPath加速卡提供支持,運行Myrtle.ai提供的基于Achronix FPGA的ASR IP,從而提供業(yè)界領(lǐng)先的、實時的、超低延遲的語音轉(zhuǎn)文本功能。服務(wù)器中的單張加速卡可替代多達20臺僅基于CPU的服務(wù)器或15張GPU加速卡。當不需要支持1000個并發(fā)流時,可以輕松自定義 AI 模型,以權(quán)衡準確性與性能。其出色的單詞錯誤率和54毫秒的端到端99%延遲(包括了預(yù)處理和后處理以及與CPU做數(shù)據(jù)交互的時間)將顛覆ASR領(lǐng)域。此外,該解決方案可以在標準的機器學(xué)習(xí)(ML)框架中使用垂直應(yīng)用特定的或自定義的數(shù)據(jù)集進行定制或重新訓(xùn)練。
“基于Achronix Speedster7t FPGA器件的Myrtle.ai加速ASR解決方案的關(guān)鍵優(yōu)勢之一是能夠降低運營成本和資本支出,同時保持其顯著的頂級性能,”Achronix人工智能產(chǎn)品營銷總監(jiān)Bill Jenkins指出?!霸摻鉀Q方案基于Speedster7t FPGA,與傳統(tǒng)的基于CPU/ GPU的服務(wù)器解決方案相比,無論是在企業(yè)還是在云端,都可以將成本降低90%。這種能力意味著企業(yè)可以顯著降本增效,同時提供卓越的實時語音轉(zhuǎn)文本功能。”
Myrtle.ai一流的ASR加速器IP運行在Speedster7t FPGA器件和軟件棧上,事實證明了該FPGA器件能夠?qū)崿F(xiàn)并加速ASR實現(xiàn)解決方案,且易于使用。與基于GPU的競爭解決方案相比,基于Speedster7t器件的解決方案將性價比提升了16倍,憑借該優(yōu)勢,該解決方案或?qū)⒅匦露x行業(yè)級語音數(shù)據(jù)處理方式。
“Achronix Speedster7t FPGA器件的架構(gòu)以及其二維片上網(wǎng)絡(luò)(2D NoC)和機器學(xué)習(xí)處理器(MLP)陣列,為我們提供了創(chuàng)建ASR產(chǎn)品所需的構(gòu)建模塊,該產(chǎn)品比目前市場上的任何產(chǎn)品都更優(yōu)秀,”Myrtle.ai首席執(zhí)行官說道。Myrtle.ai公司以其在優(yōu)化實時性應(yīng)用的低延遲 ML 推理方面的專業(yè)知識而聞名于業(yè)界。 “這些FPGA器件中特有的極低延遲使其成為實時工作負載的理想選擇。我們很高興能夠幫助用戶實現(xiàn)以比以往更快的速度和更低的成本來擴展其ASR服務(wù)的能力?!?/p>
Achronix與Myrtle.ai共同推出的加速ASR解決方案將給那些依賴于快速且準確的語音轉(zhuǎn)文本功能的行業(yè)帶來革命性的影響。其特性包括與主流深度學(xué)習(xí)框架(如PyTorch等)的兼容性,以及用于多語言或?qū)I(yè)的可重訓(xùn)練性。該解決方案目前已在早期合作客戶中部署,現(xiàn)在可以在一般市場上使用。大家可以使用您自己的數(shù)據(jù)集對該解決方案進行評估,或與我們的團隊聯(lián)系安排詳細的討論和演示。
評論