gpu-zrx 文章進(jìn)入gpu-zrx技術(shù)社區(qū)

第一時(shí)間適配！英特爾銳炫GPU在運(yùn)行Llama 3時(shí)展現(xiàn)卓越性能

在Meta發(fā)布Llama 3大語(yǔ)言模型的第一時(shí)間，英特爾即優(yōu)化并驗(yàn)證了80億和700億參數(shù)的Llama 3模型能夠在英特爾AI產(chǎn)品組合上運(yùn)行。在客戶端領(lǐng)域，英特爾銳炫?顯卡的強(qiáng)大性能讓開(kāi)發(fā)者能夠輕松在本地運(yùn)行Llama 3模型，為生成式AI工作負(fù)載提供加速。在Llama 3模型的初步測(cè)試中，英特爾?酷睿?Ultra H系列處理器展現(xiàn)出了高于普通人閱讀速度的輸出生成性能，而這一結(jié)果主要得益于其內(nèi)置的英特爾銳炫GPU，該GPU具有8個(gè)Xe核心，以及DP4a AI加速器和高達(dá)120 GB/s的系統(tǒng)內(nèi)存帶寬。英特
關(guān)鍵字：英特爾銳炫 GPU Llama 3

集邦咨詢：英偉達(dá) Blackwell 平臺(tái)產(chǎn)品帶動(dòng)臺(tái)積電今年 CoWoS 產(chǎn)能提高 150%

IT之家 4 月 17 日消息，集邦咨詢（TrendForce）近日發(fā)布報(bào)告，認(rèn)為英偉達(dá) Blackwell 新平臺(tái)產(chǎn)品需求看漲，預(yù)估帶動(dòng)臺(tái)積電 2024 年 CoWoS 封裝總產(chǎn)能提升逾 150%。英偉達(dá) Blackwell 新平臺(tái)產(chǎn)品包括 B 系列的 GPU，以及整合英偉達(dá)自家 Grace Arm CPU 的 GB200 加速卡等。集邦咨詢認(rèn)為供應(yīng)鏈當(dāng)前非常看好 GB200，預(yù)估 2025 年出貨量有望超過(guò)百萬(wàn)片，在英偉達(dá)高端 GPU 中的占比達(dá)到 40-50%。英偉達(dá)計(jì)劃下半年交付 GB2
關(guān)鍵字：英偉達(dá) 智能計(jì)算 AI GPU

破局GPU的AI霸權(quán) Intel Gaudi3幫國(guó)內(nèi)廠商探路

我們不妨去關(guān)注Gaudi 3 挑戰(zhàn)H200的實(shí)際表現(xiàn)和市場(chǎng)接受程度，雖然中國(guó)市場(chǎng)幾乎不太可能體驗(yàn)到Gaudi 3 但卻為國(guó)內(nèi)AI處理器設(shè)計(jì)廠商提供了正面挑戰(zhàn)英偉達(dá) GPU在AI應(yīng)用霸權(quán)的新思路，希望這能為國(guó)產(chǎn)AI芯片百花齊放帶來(lái)有益借鑒。
關(guān)鍵字： GPU AI Intel Gaudi3

英偉達(dá)H100交貨時(shí)間從4個(gè)月降至8-12周

據(jù)Digitimes報(bào)道，戴爾臺(tái)灣地區(qū)總經(jīng)理Terence Liao報(bào)告稱，英偉達(dá)（Nvidia）H100 AI GPU的交付周期在過(guò)去幾個(gè)月中已從3-4個(gè)月縮短到僅2-3個(gè)月（8-12周）。服務(wù)器 ODM 顯示，與 2023 年相比，供應(yīng)終于有所緩解，當(dāng)時(shí)幾乎不可能獲得 Nvidia 的 H100 GPU。盡管交貨時(shí)間縮短，但Terence Liao表示，對(duì)具有人工智能功能的硬件的需求仍然非常高。具體來(lái)說(shuō)，人工智能服務(wù)器的購(gòu)買(mǎi)正在取代企業(yè)中的通用服務(wù)器購(gòu)買(mǎi)，盡管人工智能服務(wù)器的成本非常高。但是，他認(rèn)為采
關(guān)鍵字：英偉達(dá) H100 GPU

戴爾：GPU交貨期明顯改善已降至8~12周

據(jù)中國(guó)臺(tái)媒消息，戴爾中國(guó)臺(tái)灣總經(jīng)理廖仁祥近日表示，去年圖形處理器（GPU）交貨期曾多達(dá)40周，今年2月以后供貨明顯改善，現(xiàn)在交貨期已經(jīng)降至約8~12周。此前因GPU供應(yīng)緊張，人工智能（AI）服務(wù)器供不應(yīng)求。廖仁祥近日指出，AI服務(wù)器因?yàn)閱蝺r(jià)較高，目前企業(yè)采購(gòu)預(yù)算占比已達(dá)20%，包括制造業(yè)、電信業(yè)、醫(yī)療機(jī)構(gòu)和政府部門(mén)的需求都很強(qiáng)，金融業(yè)也開(kāi)始導(dǎo)入生成式AI應(yīng)用。對(duì)于人工智能電腦（AI PC），廖仁祥認(rèn)為，AI PC市場(chǎng)一定會(huì)發(fā)展起來(lái)，但今年相關(guān)產(chǎn)品的效能，還沒(méi)達(dá)到微軟要求的算力45 TOPS。戴爾認(rèn)為AI
關(guān)鍵字：人工智能戴爾 Dell GPU

國(guó)產(chǎn)GPU供不應(yīng)求——國(guó)產(chǎn)之光性能超乎想象

AI屆春晚—英偉達(dá)GTC大會(huì)在3月召開(kāi)，B100/B200晶片的亮相，刷新了計(jì)算新速度，隨著人工智能技術(shù)的日新月異，從數(shù)據(jù)處理到算法優(yōu)化，再到應(yīng)用場(chǎng)景的拓展，每一步都可能帶來(lái)新的市場(chǎng)機(jī)會(huì)。從智能硬件到云計(jì)算，再到物聯(lián)網(wǎng)等多個(gè)領(lǐng)域，AI技術(shù)的深入應(yīng)用都將成為市場(chǎng)的關(guān)注焦點(diǎn)。AI對(duì)算力的要求是需要大量的并行及重復(fù)計(jì)算，GPU正好有這個(gè)專長(zhǎng)，時(shí)勢(shì)造英雄，因此GPU就出山擔(dān)此重任。臺(tái)積電董事長(zhǎng)劉德音預(yù)測(cè)：未來(lái) 15 年每瓦 GPU 性能提升 1000 倍，GPU 晶體管數(shù)破萬(wàn)億就在近期，在一則對(duì)英偉達(dá)CEO黃仁勛
關(guān)鍵字： GPU AI 摩爾線程 NVIDIA

凌華科技基于Intel Arc A380E GPU的全新顯卡即將亮相Embedded World 2024

重點(diǎn)摘要：●? ?凌華科技推出首款基于Intel GPU的顯卡——A380E，提供卓越性能的同時(shí)，還兼容凌華科技的游戲平臺(tái)●? ?除了在商業(yè)游戲方面的實(shí)力之外，A380E還利用強(qiáng)大的OpenVino? AI工具包，將其實(shí)用性擴(kuò)展到邊緣AI應(yīng)用領(lǐng)域。這種集成的方式讓A380E能夠簡(jiǎn)化AI開(kāi)發(fā)工作，并無(wú)縫集成深度學(xué)習(xí)的功能?！? ?Embedded World 2024 期間，歡迎各位愛(ài)好者和專業(yè)人士蒞臨凌華科技和英特爾的展位，一睹 A380E 的實(shí)
關(guān)鍵字：凌華 GPU 顯卡 Embedded World 2024

如何構(gòu)建比英偉達(dá)更好的GPU

計(jì)算很容易，而數(shù)據(jù)移動(dòng)和存儲(chǔ)卻變得越來(lái)越困難。
關(guān)鍵字：英偉達(dá) GPU

AI芯片短缺，業(yè)界：未來(lái)中國(guó)將發(fā)展自己的高端GPU

近期，阿里巴巴集團(tuán)董事會(huì)主席蔡崇信在接受挪威主權(quán)財(cái)富基金投資總監(jiān)Nicolai Tangen采訪時(shí)談及了AI芯片短缺與限制的問(wèn)題。蔡崇信介紹，目前，國(guó)內(nèi)企業(yè)的芯片存貨可以支持AI大模型未來(lái)18個(gè)月的訓(xùn)練需求，在下一階段即推理階段的應(yīng)用中，市場(chǎng)上有很多選擇，不一定要用英偉達(dá)高端芯片。受復(fù)雜國(guó)際形勢(shì)以及先進(jìn)封裝與HBM產(chǎn)能短缺影響，全球AI芯片發(fā)展受到一定限制。不過(guò)，蔡崇信認(rèn)為，從短期與中期來(lái)看，這是一個(gè)問(wèn)題，但長(zhǎng)遠(yuǎn)來(lái)看，中國(guó)將發(fā)展自己制造這些高端GPU的能力。資料顯示，AI芯片是指對(duì)AI算法做了特殊加
關(guān)鍵字： AI芯片 GPU

Arena與AMD合作擴(kuò)大首個(gè) AI 測(cè)試解決方案部署規(guī)模

專業(yè) AI 基礎(chǔ)模型開(kāi)發(fā)商 Arena 于今日宣布，將與 AMD 展開(kāi)合作，擴(kuò)大 Arena Atlas 在 AMD 的部署。Arena Atlas 是全球首款針對(duì)最新工藝節(jié)點(diǎn)半導(dǎo)體技術(shù)的 AI 測(cè)試和優(yōu)化產(chǎn)品。2023 年期間，AMD 和 Arena 針對(duì) AMD Radeon GPU 測(cè)試和優(yōu)化進(jìn)行了 Atlas 試點(diǎn)項(xiàng)目。通過(guò)快速、自主地識(shí)別功耗和性能優(yōu)化，AMD 工程師可以專注于其他任務(wù)，從而提高生產(chǎn)力并加快產(chǎn)品開(kāi)發(fā)速度。Atlas 為半
關(guān)鍵字： Arena AMD AI測(cè)試 GPU

GPU如何主宰人工智能和計(jì)算

GPU 持續(xù)進(jìn)化。
關(guān)鍵字： GPU

臺(tái)積電董事長(zhǎng)劉德音預(yù)測(cè)：未來(lái) 15 年每瓦 GPU 性能提升 1000 倍，GPU 晶體管數(shù)破萬(wàn)億

GTC 2024 大會(huì)上，老黃祭出世界最強(qiáng) GPU——Blackwell B200 ，整整封裝了超 2080 億個(gè)晶體管。比起上一代 H100（800 億），B200 晶體管數(shù)是其 2 倍多，而且訓(xùn) AI 性能直接飆升 5 倍，運(yùn)行速度提升 30 倍。若是，將千億級(jí)別晶體管數(shù)擴(kuò)展到 1 萬(wàn)億，對(duì) AI 界意味著什么？今天，IEEE 的頭版刊登了臺(tái)積電董事長(zhǎng)和首席科學(xué)家撰寫(xiě)的文章 ——「我們?nèi)绾螌?shí)現(xiàn) 1 萬(wàn)億個(gè)晶體管 GPU」？這篇千字長(zhǎng)文，主打就是為了讓 AI 界人們意識(shí)到，半導(dǎo)體技術(shù)的突破給 AI 技術(shù)
關(guān)鍵字： GPU 臺(tái)積電英偉達(dá) 半導(dǎo)體

新一代GPU亮相，英偉達(dá)開(kāi)發(fā)者大會(huì)火熱進(jìn)行

美國(guó)時(shí)間18日，人工智能、AI芯片巨頭英偉達(dá)的年度開(kāi)發(fā)者大會(huì)在加利福尼亞州圣何塞會(huì)議中心拉開(kāi)帷幕。會(huì)上，英偉達(dá)推出了新一代AI芯片，獲得市場(chǎng)廣泛關(guān)注。有投資人在會(huì)前稱之為是“AI屆的達(dá)沃斯年會(huì)”，英偉達(dá)的CEO黃仁勛當(dāng)天推出了新一代GPU芯片“Blackwell”，以及運(yùn)行AI模型的新軟件“NIM”。ChatGPT問(wèn)世以來(lái)，Nvidia的營(yíng)業(yè)收入不斷攀升，現(xiàn)在已經(jīng)是當(dāng)時(shí)的兩倍左右。AI軟件的蓬勃發(fā)展會(huì)繼續(xù)激發(fā)市場(chǎng)對(duì)AI芯片的需求。并且自今年年初以來(lái)，NVIDIA的股價(jià)已經(jīng)上漲了80%以上，使得今年的GTC
關(guān)鍵字：英偉達(dá) Nvidia GPU

今年的GTC大會(huì)，NVIDIA又一次引領(lǐng)了AI計(jì)算的未來(lái)？

正在舉行的美國(guó)加利福尼亞州圣何塞舉辦的GTC大會(huì)，是全球最具影響力的高性能計(jì)算盛會(huì)，每年的GTC無(wú)數(shù)相關(guān)高性能計(jì)算從業(yè)者和數(shù)碼愛(ài)好者都會(huì)期待作為行業(yè)龍頭的NVIDIA有會(huì)給行業(yè)帶來(lái)什么驚奇。由于人們對(duì)NVIDIA公司以人工智能為動(dòng)力的增長(zhǎng)前景持樂(lè)觀態(tài)度，自今年年初以來(lái)，NVIDIA的股價(jià)已經(jīng)上漲了80%以上，使得今年的GTC大會(huì)，尤其讓人關(guān)注。今年的GTC大會(huì)，NVIDIA能否再續(xù)傳奇呢？本篇文章就帶大家來(lái)梳理一下。首先，最令人矚目的，便是NVIDIA宣布推出全新平臺(tái)——Blackwell，該平臺(tái)標(biāo)志著計(jì)
關(guān)鍵字： GTC大會(huì) 英偉達(dá) GPU AI

英偉達(dá)發(fā)布Blackwell芯片，再次證明統(tǒng)治力

隨著人工智能革命席卷而來(lái)，抓住生成式AI機(jī)會(huì)的英偉達(dá)全面出擊，為大小挑戰(zhàn)者設(shè)下新標(biāo)桿。3月19日，英偉達(dá)在2024年GTC大會(huì)上發(fā)布Hopper架構(gòu)芯片的繼任者 ——?全新Blackwell架構(gòu)芯片平臺(tái)，包括AWS、微軟和谷歌在內(nèi)的公司計(jì)劃將其用于生成人工智能和其他現(xiàn)代計(jì)算任務(wù)。
關(guān)鍵字：英偉達(dá) Blackwell 芯片 GPU AI