開發(fā)者齊聚英特爾OpenVINO? DevCon 2024，展望混合AI最前沿

近日，英特爾在深圳舉辦以“智繪混合AI新篇, 賦能生成式 AI 無處不在 -- OpenVINO? 2024 煥新啟航”為主題的OpenVINO? DevCon中國系列工作坊2024活動，此次活動匯聚了英特爾產(chǎn)品專家、行業(yè)領(lǐng)先技術(shù)大咖以及眾多合作伙伴，通過爐邊談話、演講環(huán)節(jié)和動手實操等多種形式，共同探討在混合AI架構(gòu)中，如何使用OpenVINO?，基于英特爾Meteor Lake架構(gòu)的酷睿Ultra處理器，讓更多AIGC大模型解決方案在AI PC與邊緣設(shè)備端上成為可能。同時，在這場科技盛宴中，英特爾與大家深入探討并實踐了全新OpenVINO? 2024.0版本，為開發(fā)者提供更為強(qiáng)大的性能支持和擴(kuò)展能力，助力開發(fā)者高效利用AI加速技術(shù)。

英特爾中國區(qū)網(wǎng)絡(luò)與邊緣事業(yè)部首席技術(shù)官、英特爾高級首席AI工程師張宇博士表示：“我很榮幸能夠見證并推動混合AI的變革，OpenVINO?已成為開發(fā)者優(yōu)化和部署AI模型的得力助手。隨著Meteor Lake的問世，英特爾將進(jìn)一步提升對在PC和邊緣設(shè)備上部署AI大模型的支持力度，攜手全球開發(fā)者共同開拓混合AI的廣闊天地，助力各行各業(yè)實現(xiàn)智能化、高效化的服務(wù)升級。”

本次OpenVINO? DevCon 2024首場活動采取了線上與線下相融合、理論與實踐相交織的多元化形式，旨在為開發(fā)者們提供一場系統(tǒng)進(jìn)階與技術(shù)提升的全能盛宴。在爐邊談話環(huán)節(jié)，行業(yè)專家與開發(fā)者們深入交流，介紹了英特爾Meteor Lake架構(gòu)亮點，以及基于AI PC、邊緣AI和混合AI的生成式AI的發(fā)展趨勢，同時還分享了OpenVINO?如何助力生成式AI無處不在的愿景，一同探討前沿開發(fā)趨勢，展望AI技術(shù)在未來社會中的廣泛應(yīng)用。演講環(huán)節(jié)則是通過生動的案例和詳實的數(shù)據(jù)，全面展示OpenVINO?如何顯著提升生成式AI和LLM性能，實現(xiàn)更快、更智能的推理，加深開發(fā)者們對OpenVINO?強(qiáng)大功能的認(rèn)識。而此次活動的另一大亮點，無疑是動手實操環(huán)節(jié)。在這一環(huán)節(jié)中，技術(shù)專家們帶領(lǐng)開發(fā)者們進(jìn)行了實戰(zhàn)演練，使用基于英特爾Meteor Lake架構(gòu)處理器的AI PC，處理不同場景下的AI任務(wù)需求，利用OpenVINO?優(yōu)化LLM部署任務(wù)，讓開發(fā)者們直觀體驗OpenVINO?的實用和高效，助力技術(shù)提升。

在此次OpenVINO? DevCon中國系列工作坊活動期間，英特爾揭開了OpenVINO? 2024.0的神秘面紗。該版本不僅融入了前沿技術(shù)，更帶來了諸多實用優(yōu)化，使得AI加速功能更加得心應(yīng)手。全新OpenVINO? 2024.0版本覆蓋并驗證了更多的生成式AI模型，并支持KV緩存壓縮及混合專家（MoE）架構(gòu)，顯著提升了AIGC和大語言模型（LLM）的性能和運行效率，降低了資源消耗。同時，新版本實現(xiàn)了對英特爾NPU的接入，這些優(yōu)化和改進(jìn)不僅讓生成式AI加速更為順暢，也為用戶帶來了更優(yōu)質(zhì)的使用體驗。

英特爾中國網(wǎng)絡(luò)與邊緣事業(yè)部OpenVINO?產(chǎn)品營銷及開發(fā)者生態(tài)總監(jiān)王珅表示：“OpenVINO?在生成式AI領(lǐng)域不僅助力開發(fā)者高效利用AI加速技術(shù)，更致力于推動整個生態(tài)的繁榮。我們持續(xù)創(chuàng)新，傾聽市場聲音，力求為開發(fā)者提供更卓越的產(chǎn)品體驗。未來，OpenVINO?將繼續(xù)秉持開放合作的精神，攜手生態(tài)伙伴，共筑AI產(chǎn)業(yè)未來?！?/span>

現(xiàn)場AI開發(fā)者表示：“我最直觀的感受就是：基于搭載最新一代英特爾? 酷睿? Ultra處理器的AI PC，使用了OpenVINO?后，大模型的推理速度已經(jīng)能夠和很多獨立顯卡加速的機(jī)器相媲美了，而且它具有更低的功耗、更小的體積。在僅僅電池供電的情況下，就能完成這種規(guī)模的推理加速任務(wù)，給我的體驗是非常震撼的。”

為了深入推進(jìn)人才培養(yǎng)與發(fā)展，加強(qiáng)開發(fā)者社區(qū)之間的合作與交流，本次活動還與英特爾人工智能創(chuàng)新應(yīng)用大賽同步進(jìn)行。英特爾將與開發(fā)者們一同探索更多的應(yīng)用場景，引領(lǐng)開發(fā)者們實現(xiàn)AI應(yīng)用創(chuàng)新。英特爾一直致力于完善生態(tài)布局，此次更是攜手本地合作伙伴共同舉辦這場賽事，旨在與更多的開發(fā)者建立緊密的聯(lián)系，共同開拓生成式AI領(lǐng)域的無限潛力與可能。

從OpenVINO?工具套件的不斷升級，到生成式AI和大語言模型性能的顯著提升，再到與產(chǎn)業(yè)生態(tài)伙伴的緊密合作，英特爾以科技之力，引領(lǐng)AI產(chǎn)業(yè)的創(chuàng)新浪潮，為行業(yè)注入強(qiáng)大動力。展望未來，英特爾將繼續(xù)積極擁抱開放與開源的力量，致力于推動技術(shù)創(chuàng)新，并高度關(guān)注人才培養(yǎng)，為更多開發(fā)者提供廣闊的學(xué)習(xí)與成長平臺，共同推動AI產(chǎn)業(yè)的蓬勃發(fā)展，開啟一個更加智能化、高效化的新時代。