<meter id="pryje"><nav id="pryje"><delect id="pryje"></delect></nav></meter>
          <label id="pryje"></label>

          新聞中心

          EEPW首頁(yè) > 智能計(jì)算 > 最新動(dòng)態(tài) > MWC22|英特爾推出OpenVINO全新版本,賦能開(kāi)發(fā)者加速AI推理

          MWC22|英特爾推出OpenVINO全新版本,賦能開(kāi)發(fā)者加速AI推理

          —— 英特爾OpenVINO工具套件進(jìn)行了重大升級(jí),可輕松加速AI推理性能
          作者: 時(shí)間:2022-02-28 來(lái)源:電子產(chǎn)品世界 收藏


          本文引用地址:http://www.ex-cimer.com/article/202202/431529.htm

          1646030381558478.png

          最新消息:自2018年推出OpenVINO?以來(lái),英特爾已經(jīng)幫助數(shù)十萬(wàn)開(kāi)發(fā)者大幅提升了AI推理性能,并將其應(yīng)用從邊緣計(jì)算擴(kuò)展到企業(yè)和客戶端。英特爾于2022年巴塞羅那世界移動(dòng)通信大會(huì)前夕,推出了英特爾?發(fā)行版OpenVINO工具套件的全新版本。其中的新功能主要根據(jù)開(kāi)發(fā)者過(guò)去三年半的反饋而開(kāi)發(fā),包括更多的深度學(xué)習(xí)模型選擇、更多的設(shè)備可移植性選擇以及更高的推理性能和更少的代碼更改。

          英特爾網(wǎng)絡(luò)與邊緣事業(yè)部OpenVINO開(kāi)發(fā)者工具副總裁Adam Burns表示:“最新版OpenVINO 根據(jù)數(shù)十萬(wàn)開(kāi)發(fā)者在過(guò)去三年多的反饋而開(kāi)發(fā),旨在簡(jiǎn)化和自動(dòng)化優(yōu)化工作。最新版本增加了硬件自動(dòng)發(fā)現(xiàn)和自動(dòng)優(yōu)化功能,讓軟件開(kāi)發(fā)者可以在任意平臺(tái)上實(shí)現(xiàn)最優(yōu)性能。該軟件與英特爾芯片相結(jié)合,可實(shí)現(xiàn)顯著的AI投資回報(bào)優(yōu)勢(shì),并可輕松部署到用戶網(wǎng)絡(luò)中基于英特爾技術(shù)的解決方案中?!?/p>

          關(guān)于OpenVINO:用于高性能深度學(xué)習(xí)的英特爾發(fā)行版OpenVINO工具套件基于one而開(kāi)發(fā),以期在從邊緣到云的各種英特爾平臺(tái)上,幫助用戶更快地將更準(zhǔn)確的真實(shí)世界結(jié)果部署到生產(chǎn)系統(tǒng)中。通過(guò)簡(jiǎn)化的開(kāi)發(fā)工作流程,OpenVINO可賦能開(kāi)發(fā)者在現(xiàn)實(shí)世界中部署高性能應(yīng)用程序和算法。

          重要意義:邊緣AI正在改變各行各業(yè),賦能各種全新、增強(qiáng)的用例,包括制造、健康與生命科學(xué)應(yīng)用,以及零售和安全保障。根據(jù)Omdia的研究,由于企業(yè)對(duì)邊緣AI推理的需求越來(lái)越高,全球邊緣AI芯片組的收入截至2025年將達(dá)到519億美元。邊緣推理降低了時(shí)延、減少了帶寬需求并提高了性能,從而滿足了新興物聯(lián)網(wǎng)設(shè)備和應(yīng)用對(duì)及時(shí)處理越來(lái)越高的要求。

          與此同時(shí),開(kāi)發(fā)者的工作負(fù)載也在不斷增加和變化。因此,他們需要更簡(jiǎn)單、自動(dòng)化程度更高的流程和工具,這些工具需要具備全面的智能功能,從而優(yōu)化從構(gòu)建到部署的性能。

          關(guān)于OpenVINO 的功能:借助這些新功能,開(kāi)發(fā)者可以更輕松地在更廣泛的深度學(xué)習(xí)模型中采用、維護(hù)、優(yōu)化和部署代碼。亮點(diǎn)包括:

          更簡(jiǎn)易的更新

          ●   從框架轉(zhuǎn)換時(shí)減少代碼更改:現(xiàn)在通過(guò)保留精確格式減少轉(zhuǎn)換,模型不再需要布局轉(zhuǎn)換。

          ●   加速AI的更簡(jiǎn)單途徑:模型優(yōu)化器的參數(shù)已減少,能夠最大限度地降低復(fù)雜性。

          ●   訓(xùn)練時(shí)充分考慮到推理:OpenVINO訓(xùn)練擴(kuò)展和神經(jīng)網(wǎng)絡(luò)壓縮框架(NNCF)提供可選擇的模型訓(xùn)練模板,這些模板可以進(jìn)一步提升性能,同時(shí)保持動(dòng)作識(shí)別、圖像分類、語(yǔ)音識(shí)別、問(wèn)答和翻譯的準(zhǔn)確性。

          更廣泛的模型支持

          ●   支持更廣泛的自然語(yǔ)言可編程模型以及文本轉(zhuǎn)語(yǔ)音和語(yǔ)音識(shí)別等用例:動(dòng)態(tài)形狀支持可更好地賦能BERT系列和Hugging Face轉(zhuǎn)換器。

          ●   優(yōu)化和支持高級(jí)計(jì)算機(jī)視覺(jué):Mask R-CNN系列現(xiàn)在已被進(jìn)一步優(yōu)化,并引入了對(duì)雙精度(FP64)模型的支持。

          ●   直接支持 PaddlePaddle 模型:模型優(yōu)化器現(xiàn)在可以直接導(dǎo)入 PaddlePaddle 模型,而無(wú)需先轉(zhuǎn)換到另一個(gè)框架。

          可移植性和性能

          ●   更智能的設(shè)備使用,無(wú)需修改代碼:AUTO設(shè)備模式可根據(jù)模型要求自行發(fā)現(xiàn)可用的系統(tǒng)推理能力,因此應(yīng)用程序無(wú)需再提前了解其計(jì)算環(huán)境。

          ●   工具套件內(nèi)置專家級(jí)優(yōu)化:通過(guò)自動(dòng)批處理功能而提高設(shè)備性能,自動(dòng)調(diào)整和自定義適合開(kāi)發(fā)者的系統(tǒng)配置,和深度學(xué)習(xí)模型的吞吐量設(shè)置。因此使開(kāi)發(fā)者實(shí)現(xiàn)了可擴(kuò)展并行處理以及優(yōu)化內(nèi)存的使用體驗(yàn)。

          ●   專為第12代英特爾?酷睿?打造:支持混合架構(gòu),為使用CPU和集成GPU進(jìn)行高性能推理提供了增強(qiáng)功能。

          關(guān)于邊緣采用:通過(guò)“一次編寫即可隨處部署”的方法,開(kāi)發(fā)者只需一次性編寫應(yīng)用程序或算法,之后即可部署到包括CPU、iGPU、Movidius VPU和GNA在內(nèi)的廣泛的英特爾架構(gòu)中。隨著數(shù)據(jù)的爆炸式增長(zhǎng),英特爾開(kāi)發(fā)了軟件,使開(kāi)發(fā)者能夠更加智能地處理數(shù)據(jù),以解決挑戰(zhàn)并轉(zhuǎn)變商業(yè)模式。因此,人們?cè)絹?lái)越多地在邊緣采用全新、獨(dú)特的AI推理技術(shù),并擴(kuò)展到企業(yè)和客戶端。

          作為Zeblok的AI平臺(tái)即服務(wù),AI-MicroCloud是一款從云到邊緣的MLDevOps平臺(tái),允許客戶大規(guī)模混搭A(yù)I獨(dú)立軟件開(kāi)發(fā)商和供應(yīng)商,以交付邊緣AI應(yīng)用程序,且同時(shí)支持完整的生命周期部署。將英特爾OpenVINO軟件集成到AI-MicroCloud后,使用英特爾處理器將大幅增強(qiáng)AI推理性能,并把每次洞察的成本降至最低。Zeblok的AI-MicroCloud平臺(tái)目前正在進(jìn)行評(píng)估,以支持全球各地城市的具體網(wǎng)絡(luò)拓?fù)洹?/p>

          Zeblok創(chuàng)始人兼首席執(zhí)行官M(fèi)ouli Narayanan表示:“我們的使命就是要考慮每次洞察的成本。通過(guò)采用英特爾處理器,我們實(shí)現(xiàn)了經(jīng)濟(jì)、高能效的AI推理,并產(chǎn)生了極高的投資回報(bào)。這個(gè)新版OpenVINO將為我們的生態(tài)系統(tǒng)創(chuàng)造更高的價(jià)值。”

          American Tower已經(jīng)建設(shè)了六座邊緣數(shù)據(jù)中心,而且未來(lái)將會(huì)建設(shè)更多。該公司最近收購(gòu)了CoreSite以加速5G邊緣部署。他們正在與英特爾和Zeblok合作,為客戶提供完整的交鑰匙解決方案。

          American Tower創(chuàng)新副總裁Eric Watko表示:“憑借American Tower的邊緣基礎(chǔ)設(shè)施、英特爾的OpenVINO深度學(xué)習(xí)功能和Zeblok的AI平臺(tái)即服務(wù),我們可以為市場(chǎng)提供完整的智能解決方案?!?/p>



          關(guān)鍵詞: openvino 2022.1 API

          評(píng)論


          相關(guān)推薦

          技術(shù)專區(qū)

          關(guān)閉
          看屁屁www成人影院,亚洲人妻成人图片,亚洲精品成人午夜在线,日韩在线 欧美成人 (function(){ var bp = document.createElement('script'); var curProtocol = window.location.protocol.split(':')[0]; if (curProtocol === 'https') { bp.src = 'https://zz.bdstatic.com/linksubmit/push.js'; } else { bp.src = 'http://push.zhanzhang.baidu.com/push.js'; } var s = document.getElementsByTagName("script")[0]; s.parentNode.insertBefore(bp, s); })();