AMD Instinct加速器系列亮相Computex 2024
加入技術(shù)交流群
掃碼加入
和技術(shù)大咖面對(duì)面交流
海量資料庫(kù)查詢(xún)
AMD董事長(zhǎng)兼首席執(zhí)行官麗莎Su博士在Computex主題演講中公布了AMD Instinct加速器系列的重大進(jìn)展。該公司宣布了加速器的擴(kuò)展多年路線(xiàn)圖，承諾每年改進(jìn)AI性能和內(nèi)存功能。這標(biāo)志著人工智能和數(shù)據(jù)中心工作負(fù)載的創(chuàng)新新時(shí)代。
本文引用地址：http://www.ex-cimer.com/article/202406/459558.htm
AMD Instinct MI325X加速器
更新的路線(xiàn)圖以新的AMD Instinct MI325X加速器開(kāi)始，該加速器將于2024年第四季度上市。該加速器具有288GB的HBM3E內(nèi)存和每秒6 TB的內(nèi)存帶寬。它采用通用基板服務(wù)器設(shè)計(jì)，確保與AMD Instinct MI300系列兼容。
MI325X擁有業(yè)界領(lǐng)先的內(nèi)存容量和帶寬，性能分別是競(jìng)爭(zhēng)對(duì)手的2倍和1.3倍。它提供了比競(jìng)爭(zhēng)對(duì)手高1.3倍的計(jì)算性能，使其成為AI工作負(fù)載的強(qiáng)大工具。
下一代：MI350和MI400系列
繼MI325X之后，AMD Instinct MI350系列將采用全新的AMD CDNA 4架構(gòu)，預(yù)計(jì)將于2025年推出。該系列將在AI推理性能方面帶來(lái)實(shí)質(zhì)性飛躍，預(yù)計(jì)與AMD Instinct MI300系列相比將增加35倍。MI350X加速器將保持通用基板設(shè)計(jì)，采用先進(jìn)的3nm工藝技術(shù)，支持FP4和FP6 AI數(shù)據(jù)存儲(chǔ)器，并具有高達(dá)288GB的HBM3E內(nèi)存。
由AMD CDNA“Next”架構(gòu)驅(qū)動(dòng)的AMD Instinct MI400系列將于2026年發(fā)布。
AMD Instinct MI300X加速器的采用和影響
AMD Instinct MI 300 X加速器已被主要合作伙伴和客戶(hù)廣泛采用，包括Microsoft Azure、Meta、Dell Technologies、HPE、Lenovo等。AMD數(shù)據(jù)中心加速計(jì)算公司副總裁布拉德·麥克雷迪（Brad McCredie）強(qiáng)調(diào)了MI 300 X加速器的卓越性能和價(jià)值主張，并指出了它們?cè)谕苿?dòng)人工智能創(chuàng)新方面的重要作用。他說(shuō)：“隨著我們每年更新產(chǎn)品的節(jié)奏，我們堅(jiān)持不懈地推進(jìn)創(chuàng)新步伐，為人工智能行業(yè)提供領(lǐng)導(dǎo)能力和性能，我們的客戶(hù)希望推動(dòng)數(shù)據(jù)中心人工智能培訓(xùn)和推理的下一次發(fā)展。
AMD AI軟件生態(tài)系統(tǒng)的進(jìn)步
AMD ROCm 6開(kāi)放軟件堆棧不斷成熟，使AMD Instinct MI 300 X加速器能夠?yàn)榱餍械拇笮驼Z(yǔ)言模型（LLM）提供令人印象深刻的性能。在使用八個(gè)AMD Instinct MI 300 X加速器和運(yùn)行Meta Llama-3 70 B的ROCm 6的服務(wù)器上，客戶(hù)可以實(shí)現(xiàn)比競(jìng)爭(zhēng)對(duì)手高1.3倍的推理性能和令牌生成。
此外，在Mistral-7 B上，一臺(tái)配備ROCm 6的AMD Instinct MI 300 X加速器在推理性能和令牌生成吞吐量方面的表現(xiàn)可超過(guò)競(jìng)爭(zhēng)對(duì)手1.2倍。
AMD與最大的AI模型庫(kù)Hugging Face的合作進(jìn)一步強(qiáng)調(diào)了生態(tài)系統(tǒng)的穩(wěn)健性。Hugging Face每晚測(cè)試700，000個(gè)最受歡迎的型號(hào)，以確保在AMD Instinct MI300X加速器上實(shí)現(xiàn)無(wú)縫功能。AMD還在繼續(xù)其與流行的AI框架（如PyTorch、TensorFlow和JAX）的上游工作，以確保廣泛的兼容性和增強(qiáng)的性能。
關(guān)鍵路線(xiàn)圖亮點(diǎn)
在主題演講中，AMD公布了AMD Instinct加速器路線(xiàn)圖的最新年度節(jié)奏，以滿(mǎn)足對(duì)人工智能計(jì)算不斷增長(zhǎng)的需求。這確保了AMD Instinct加速器將繼續(xù)推動(dòng)下一代前沿AI模型的開(kāi)發(fā)。
- AMD Instinct MI325X加速器：將于2024年第四季度推出，該加速器將配備288GB HBM3E內(nèi)存，每秒6 TB的內(nèi)存帶寬，以及行業(yè)領(lǐng)先的內(nèi)存容量和帶寬。與競(jìng)爭(zhēng)對(duì)手相比，它的計(jì)算性能提高了1.3倍。
- AMD Instinct MI350系列：預(yù)計(jì)在2025年，MI350X加速器將基于AMD CDNA 4架構(gòu)，并使用先進(jìn)的3nm工藝技術(shù)。它將支持FP4和FP6 AI數(shù)據(jù)庫(kù)，并包括高達(dá)288GB的HBM3E內(nèi)存。
- AMD Instinct MI400系列：計(jì)劃于2026年推出，該系列將利用AMD CDNA“Next”架構(gòu)，引入新特性和功能，以增強(qiáng)AI訓(xùn)練和推理性能。
廣泛的行業(yè)采用
對(duì)AMD Instinct MI300X加速器的需求持續(xù)增長(zhǎng)，眾多合作伙伴和客戶(hù)利用這些加速器來(lái)處理要求苛刻的人工智能工作負(fù)載。
AMD在Computex 2024上推出了擴(kuò)展的Instinct加速器路線(xiàn)圖，標(biāo)志著該公司在人工智能和數(shù)據(jù)中心戰(zhàn)略的重要里程碑，展示了其技術(shù)創(chuàng)新和市場(chǎng)競(jìng)爭(zhēng)力，同時(shí)也為未來(lái)的產(chǎn)品發(fā)展和生態(tài)系統(tǒng)建設(shè)奠定了基礎(chǔ)。
評(píng)論