計算架構(gòu) 文章 進(jìn)入計算架構(gòu)技術(shù)社區(qū)

NPU是什么？為何它是開啟終端側(cè)生成式AI的關(guān)鍵？

• 生成式AI變革已經(jīng)到來。隨著生成式AI用例需求在有著多樣化要求和計算需求的垂直領(lǐng)域不斷增加，我們顯然需要專為AI定制設(shè)計的全新計算架構(gòu)。這首先需要一個面向生成式AI全新設(shè)計的神經(jīng)網(wǎng)絡(luò)處理器(NPU)，同時要利用異構(gòu)處理器組合，比如中央處理器(CPU)和圖形處理器(GPU)。通過結(jié)合NPU使用合適的處理器，異構(gòu)計算能夠?qū)崿F(xiàn)最佳應(yīng)用性能、能效和電池續(xù)航，賦能全新增強的生成式AI體驗。正如在工具箱中選擇合適的工具一樣，選擇合適的處理器取決于諸多因素，將增強生成式AI體驗。異構(gòu)計算的重要性生成式AI的多樣化要求和
• 關(guān)鍵字： NPU  AI  計算架構(gòu)