h100 gpu 文章進(jìn)入h100 gpu技術(shù)社區(qū)

美國(guó)制裁讓英偉達(dá)退出中國(guó)：誰會(huì)挺身而出？

美國(guó)芯片制裁收緊對(duì)高端AI GPU出口市場(chǎng)造成沖擊，可能導(dǎo)致中國(guó)AI和大語言模型（LLM）行業(yè)短期供應(yīng)短缺和成本上升。然而，長(zhǎng)期影響可能有利于中國(guó)半導(dǎo)體行業(yè)的發(fā)展，促使中國(guó)人工智能芯片制造商通過國(guó)內(nèi)技術(shù)創(chuàng)新爭(zhēng)取進(jìn)口替代。Nvidia是GPU市場(chǎng)的主導(dǎo)力量，目前占據(jù)全球獨(dú)立顯卡市場(chǎng)80%的驚人份額。這一據(jù)點(diǎn)延伸至高端AI GPU領(lǐng)域，在H100、A100、V100等模型的AI算法訓(xùn)練方面具有相當(dāng)大的影響力。IDC中國(guó)的最新數(shù)據(jù)預(yù)計(jì)，中國(guó)加速計(jì)算市場(chǎng)目前價(jià)值31億美元，預(yù)計(jì)到2027年將達(dá)到164億美元。
關(guān)鍵字： ai GPU 英偉達(dá) 華為

美國(guó)升級(jí)芯片出口管制措施 AI時(shí)代算力才是硬道理

美國(guó)商務(wù)部工業(yè)和安全局（BIS）更新了“先進(jìn)計(jì)算芯片和半導(dǎo)體制造設(shè)備出口管制規(guī)則”，將在30天后生效。新規(guī)則將限制英偉達(dá)對(duì)中國(guó)市場(chǎng)芯片銷售，稱更嚴(yán)格的控制針對(duì)英偉達(dá)A800和H800芯片，在25天內(nèi)審查以確定是否需要許可證才能向中國(guó)出售這類芯片。
關(guān)鍵字：美國(guó) 芯片 AI 算力半導(dǎo)體英偉達(dá) GPU

英偉達(dá)推出 Tensor RT-LLM，使大語言模型在搭載 RTX 的 PC 平臺(tái)上運(yùn)行速度提高 4 倍

IT之家 10 月 18 日消息，英偉達(dá)是硬件領(lǐng)域的生成型人工智能之王，該公司的 GPU 為微軟、OpenAI 等公司的數(shù)據(jù)中心提供動(dòng)力，運(yùn)行著 Bing Chat、ChatGPT 等人工智能服務(wù)。今天，英偉達(dá)宣布了一款新的軟件工具，旨在提升大型語言模型（LLM）在本地 Windows PC 上的性能。在一篇博客文章中，英偉達(dá)宣布了其 TensorRT-LLM 開源庫，這個(gè)庫之前是為數(shù)據(jù)中心發(fā)布的，現(xiàn)在也可以用于 Windows PC。最大的特點(diǎn)是，如果 Windows PC 配備英偉達(dá) GeF
關(guān)鍵字：英偉達(dá) GPU 人工智能

英偉達(dá)下一代GPU：Blackwell B100將采用HBM3E顯存，計(jì)劃于明年第二季度左右發(fā)布

今年8月，SK海力士宣布開發(fā)出了全球最高規(guī)格的HBM3E內(nèi)存，并將從明年上半年開始投入量產(chǎn)，目前已經(jīng)開始向客戶提供樣品進(jìn)行性能驗(yàn)證。據(jù)MT.co.kr報(bào)道，繼第4代產(chǎn)品HBM3之后，SK海力士將向英偉達(dá)獨(dú)家供應(yīng)第五代高帶寬內(nèi)存HBM3E，此舉有望進(jìn)一步鞏固其作為AI半導(dǎo)體公司的地位。據(jù)半導(dǎo)體業(yè)界15日消息，SK海力士將于明年初向英偉達(dá)提供滿足量產(chǎn)質(zhì)量要求的HBM3E內(nèi)存，并開展最終的資格測(cè)試。一位半導(dǎo)體行業(yè)高管表示，“沒有HBM3E，英偉達(dá)就無法銷售B100”，“一旦質(zhì)量達(dá)到要求，合同就只是時(shí)間問題?！睋?jù)
關(guān)鍵字：英偉達(dá) GPU Blackwell B100 HBM3E 顯存

?GPU市場(chǎng)開始分化，中國(guó)迎來更多商機(jī)

最近，關(guān)于 GPU，或與 GPU 相關(guān)的消息不斷，例如，OpenAI 正探索自研 AI 芯片，微軟將在今年 11 月推出自研的 AI 芯片，三星推出 Exynos 2400 處理器，自研的 GPU 再次升級(jí)，等等。這些都是市場(chǎng)和廠商尋求更多變化的體現(xiàn)。在全球半導(dǎo)體行業(yè)整體不景氣的 2023 年，只有 AI 服務(wù)器系統(tǒng)和相關(guān)芯片一枝獨(dú)秀，而 AI 服務(wù)器使用的處理器多數(shù)是 GPU，不幸的是（對(duì)于多數(shù) GPU 廠商而言），在這一僅有的優(yōu)秀市場(chǎng)，多數(shù)廠商都只能喝湯，有的甚至連湯都喝不上，唯一大口吃肉的是英偉達(dá)。
關(guān)鍵字： GPU

英偉達(dá)的突飛猛進(jìn)而變動(dòng)的半導(dǎo)體行業(yè)

進(jìn)入10月，2023年也逐漸聽到了年末的腳步聲。以半導(dǎo)體為首的電子器件行業(yè)在23年也發(fā)生了各種各樣的事情。其中本人關(guān)注的十七年就是是英偉達(dá)的突飛猛進(jìn)。在GPU的世界份額排行榜上，“突飛猛進(jìn)”一詞可能不適合全球半導(dǎo)體排名前十的英偉達(dá)，但英偉達(dá)23年的業(yè)務(wù)擴(kuò)張屬實(shí)讓人震撼。成為那個(gè)導(dǎo)火索的是人工智能。在人工智能訓(xùn)練中所使用的服務(wù)器如CHATGPT，都使用了英偉達(dá)的GPU相關(guān)產(chǎn)品作為核心設(shè)備。GPU雖不能像CPU那樣復(fù)雜多樣，但是，GPU擅長(zhǎng)并行處理，能夠高速重復(fù)同樣的計(jì)算，這樣的特征恰好適合于在學(xué)習(xí)過程中高速
關(guān)鍵字：英偉達(dá) GPU AI

俄羅斯計(jì)劃使用被禁的 Nvidia H100 GPU 構(gòu)建十大超級(jí)計(jì)算機(jī)

俄羅斯有一個(gè)雄心勃勃的計(jì)劃，到 2030 年建造多達(dá) 10 臺(tái)超級(jí)計(jì)算機(jī)，每臺(tái)可能容納 10,000 到 15,000 個(gè) Nvidia H100 GPU。從計(jì)算的角度來看，這將為國(guó)家提供類似于用于訓(xùn)練 Chat GPT 的性能。總的來說，配備如此多 H100 GPU 的系統(tǒng)可以產(chǎn)生約 450 FP64 TFLOPS，這是 ExaFLOP 的一半，迄今為止只有美國(guó)才能達(dá)到這一超級(jí)計(jì)算機(jī)性能水平。?在“可信基礎(chǔ)設(shè)施”團(tuán)隊(duì)的牽頭下，俄羅斯項(xiàng)目承諾突破計(jì)算能力的界限，每臺(tái)機(jī)器可能配備 10,000
關(guān)鍵字： GPU 超級(jí)計(jì)算機(jī) NVIDIA

GPU定價(jià)更新

Radeon 7800 XT 是這一代最受歡迎的顯卡之一。
關(guān)鍵字： GPU Radeon 7800 XT

AMD 傳放棄高端游戲顯卡、重押 AI，要跟英偉達(dá)「拼了」

GPU 價(jià)格恐飆高。
關(guān)鍵字： AMD RDNA GPU

蘋果首發(fā)3nm芯片，GPU性能暴漲

今日，蘋果舉辦發(fā)布會(huì)，正式推出了包括iPhone 15系列和Apple Watch Series 9 / Ultra 2在內(nèi)的多款產(chǎn)品，其售價(jià)從1999元到13999元不等。其中iPhone 15 Pro/15 Pro Max的最大亮點(diǎn)也是芯片，其搭載的A17 Pro 芯片，也是業(yè)界首款 3 nm芯片。集成了 190 億顆晶體管，晶體管間僅有 12 個(gè)硅原子寬度的縫隙，內(nèi)置六核 CPU的性能是 A16 Bionic 的兩倍，而效率則高達(dá)四倍。作為對(duì)比，A15 有 150 億個(gè)晶體管，A14有118 億個(gè)晶
關(guān)鍵字： 3nm GPU

AI GPU供不應(yīng)求！臺(tái)積電第三次追加設(shè)備訂單

ChatGPT火爆致使人工智能服務(wù)器需求激增，特別是英偉達(dá)的AI GPU需求。為應(yīng)對(duì)CoWoS市場(chǎng)激增得需求以及加強(qiáng)競(jìng)爭(zhēng)，業(yè)界消息顯示，自第二季度以來，臺(tái)積電已第三次追加設(shè)備訂單。業(yè)界透露，目前臺(tái)積電將訂單可見性從2024年第二季度延長(zhǎng)到年底。一些獨(dú)家供應(yīng)商甚至收到了延續(xù)至2025年的訂單。除了Rudolph、Disco、SUS、ASMPT等國(guó)際設(shè)備巨頭繼續(xù)受益于新增訂單外，Scientech、GPTC等中國(guó)臺(tái)灣設(shè)備制造商也收到了第三波訂單。設(shè)備廠商估算，臺(tái)積電2023年CoWoS總產(chǎn)能逾12萬片，202
關(guān)鍵字： AI GPU 臺(tái)積電

碾壓 H100！英偉達(dá) GH200 超級(jí)芯片首秀 MLPerf v3.1，性能躍升 17%

【新智元導(dǎo)讀】傳說中的英偉達(dá) GH200 在 MLPerf 3.1 中驚艷亮相，性能直接碾壓 H100，領(lǐng)先了 17%。繼 4 月份加入 LLM 訓(xùn)練測(cè)試后，MLPerf 再次迎來重磅更新！剛剛，MLCommons 發(fā)布了 MLPerf v3.1 版本更新，并加入了兩個(gè)全新基準(zhǔn)：LLM 推理測(cè)試 MLPerf Inference v3.1，以及存儲(chǔ)性能測(cè)試 MLPerf Storage v0.5。而這，這也是英偉達(dá) GH200 測(cè)試成績(jī)的首次亮相！相比于單張 H100 配合英特爾 CPU，GH200 的
關(guān)鍵字：英偉達(dá) GPU 計(jì)算平臺(tái)

業(yè)績(jī)?cè)旒伲坑ミ_(dá)被投資人圍攻黃仁勛拋售自家股票套現(xiàn)3.4億

9月8日消息，英偉達(dá)最新提交的監(jiān)管文件顯示，黃仁勛在過去幾個(gè)交易日里出售了價(jià)值近4300萬美元的股票（約3.4億元左右）。這樣的舉措英偉達(dá)更受大家關(guān)注，因?yàn)槟壳安簧偻顿Y人都質(zhì)疑公司業(yè)績(jī)?cè)旒?。有關(guān)英偉達(dá)二季度“破紀(jì)錄”財(cái)報(bào)涉嫌造假的陰謀論正在社交媒體和投資者論壇中甚囂塵上，令9月6日和7日的股價(jià)均跌約3%，抹去8月23日盤后公布二季報(bào)以來的全部漲幅。據(jù)研投機(jī)構(gòu)Macrotips Trading總結(jié)，英偉達(dá)是在幾乎沒有增加成本的情況下實(shí)現(xiàn)了驚人增長(zhǎng)，其收入成本同比僅增長(zhǎng)了6.8%（第二季度），毛利率卻達(dá)到聞所
關(guān)鍵字：英偉達(dá) GPU

人的大腦相當(dāng)于什么水平的 GPU 和 CPU ?

人腦的基本結(jié)構(gòu)和功能人類的大腦是一個(gè)驚人的機(jī)器，能處理復(fù)雜的信息，使我們能理解和響應(yīng)周圍的世界。它由大約860億個(gè)神經(jīng)元組成，每個(gè)神經(jīng)元可以與其他神經(jīng)元通過約1000個(gè)突觸進(jìn)行連接，形成一種復(fù)雜的網(wǎng)絡(luò)結(jié)構(gòu)。大腦的這種網(wǎng)絡(luò)結(jié)構(gòu)讓我們可以進(jìn)行多種多樣的認(rèn)知活動(dòng)，如感知、記憶、思考、語言等。這種網(wǎng)絡(luò)是通過電信號(hào)進(jìn)行通信的，當(dāng)電信號(hào)通過神經(jīng)元時(shí)，它會(huì)在突觸處釋放化學(xué)物質(zhì)，這些化學(xué)物質(zhì)會(huì)跨越突觸間隙，與另一個(gè)神經(jīng)元的接收器結(jié)合，引發(fā)新的電信號(hào)，如此往復(fù)，完成信息的傳遞和處理。這種處理方式雖然復(fù)雜，但速度非常快，使我
關(guān)鍵字： CPU GPU

谷歌下月上線 A3 實(shí)例：搭載英偉達(dá) H100，可提供 26 exaFlops AI 性能

IT之家 8 月 31 日消息，Google Cloud 在今天召開的云 Next 大會(huì)上，宣布下月上線 A3 虛擬機(jī)實(shí)例。谷歌云在今年 5 月召開的 I / O 開發(fā)者大會(huì)上宣布 A3 實(shí)例，最大的亮點(diǎn)在于配備英偉達(dá) H100 Tensor Core GPU，滿足生成式 AI 和大語言模型的需求。IT之家此前報(bào)道，A3 實(shí)例采用了第 4 代英特爾至強(qiáng)可擴(kuò)展處理器、2TB DDR5-4800 內(nèi)存，以及 8 張英偉達(dá) H100“Hopper”GPU，通過 NVLink 4.0 和 NVSwitc
關(guān)鍵字：英偉達(dá) H100