ai gpu mi300 文章進(jìn)入ai gpu mi300技術(shù)社區(qū)

微軟平息“AI發(fā)展過快”擔(dān)憂，英偉達(dá)股價狂飆13%

8月1日消息，美國當(dāng)?shù)貢r間周三，微軟與AMD積極表態(tài)表明，基于GPU的數(shù)十億美元AI服務(wù)器項(xiàng)目將持續(xù)推進(jìn)，沒有放緩的跡象。受此影響，英偉達(dá)股價飆升13%。微軟首席執(zhí)行官薩蒂亞·納德拉（Satya Nadella）和首席財務(wù)官艾米·胡德（Amy Hood）在周二表示，公司計(jì)劃在來年進(jìn)一步增加對基于英偉達(dá)的基礎(chǔ)設(shè)施的投資。在第四財季，微軟的資本支出高達(dá)190億美元，其中約60%用于硬件購置。這家技術(shù)巨頭還表示，從其高成本的GPU服務(wù)器中獲得了顯著的投資回報。此前投資者擔(dān)心云服務(wù)提供商之間的競爭可能導(dǎo)致英偉達(dá)的
關(guān)鍵字：微軟 AI 英偉達(dá)

攻擊成功率從 3% 到接近 100%，利用空格鍵可繞過 Meta AI 模型安全系統(tǒng)

IT之家 7 月 31 日消息，Meta 公司上周在發(fā)布 Llama 3.1 AI 模型的同時，還發(fā)布了 Prompt-Guard-86M 模型，主要幫助開發(fā)人員檢測并響應(yīng)提示詞注入和越獄輸入。IT之家在這里簡要補(bǔ)充下背景知識：提示詞注入（prompt injection）：將惡意或非預(yù)期內(nèi)容添加到提示中，以劫持語言模型的輸出。提示泄露和越獄實(shí)際上是這種攻擊的子集；提示詞越獄（prompt jailbreaks）：繞過安全和審查功能。不過根據(jù)科技媒體 theregister 報道，這個防止 AI
關(guān)鍵字： Meta AI

Nvidia的CEO談AI的未來：“我們將需要三臺電腦... 一臺來創(chuàng)建AI... 一臺來模擬AI... 一臺來運(yùn)行AI”

在今年的Siggraph大會上，Nvidia的Jen-Hsun Huang與Wired進(jìn)行了一個小時的聊天，討論了所有與Nvidia、RTX和AI相關(guān)的話題。在涉及的各種話題中，包括對AI訓(xùn)練和推理有巨大能源需求的認(rèn)可，Huang斷言未來AI系統(tǒng)將需要更多的計(jì)算機(jī)——具體來說，是三倍多。Siggraph是一個年度會議，通常關(guān)于計(jì)算機(jī)圖形和交互技術(shù)（如AR和VR），但AI成為討論的主要話題只是時間問題。為此，Nvidia的CEO接受了Wired的Lauren Goode一個小時的采訪，討論了GPU、RTX和
關(guān)鍵字： AI

AI+機(jī)器視覺成趨勢，圖文詳解N大應(yīng)用場景

機(jī)器視覺廣泛應(yīng)用于工業(yè)領(lǐng)域，涵蓋眾多應(yīng)用場景。在制造業(yè)中，利用機(jī)器視覺執(zhí)行的任務(wù)有：對子組件進(jìn)行最終檢查，查驗(yàn)零件有無潛在制造缺陷等等。在自動化領(lǐng)域，機(jī)器視覺在引導(dǎo)機(jī)器人方面發(fā)揮著重要作用。此外，它還用于驗(yàn)證數(shù)據(jù)矩陣碼、檢查食品包裝和讀取條形碼。機(jī)器視覺白皮書將全面介紹機(jī)器視覺系統(tǒng)及市場，本文為第一部分，將重點(diǎn)介紹系統(tǒng)用途、市場趨勢、系統(tǒng)實(shí)現(xiàn)。系統(tǒng)用途機(jī)器視覺利用攝像頭從環(huán)境中收集視覺數(shù)據(jù)，然后通過硬件和軟件聯(lián)合處理這些數(shù)據(jù)，將數(shù)據(jù)轉(zhuǎn)換為適合各種應(yīng)用的格式。機(jī)器視覺技術(shù)經(jīng)常采用專門的光學(xué)元件來捕獲圖像，以
關(guān)鍵字：安森美 AI 機(jī)器視覺

深圳加快打造 AI 先鋒城市，今年將建成 4000PFLOPS 算力智算中心

IT之家 7 月 30 日消息，中共深圳市委辦公廳、深圳市人民政府辦公廳印發(fā)《深圳市加快打造人工智能先鋒城市行動方案》（IT之家以下簡稱“方案”）?！斗桨浮分赋觯涌焱七M(jìn)深圳先進(jìn)算力基礎(chǔ)設(shè)施建設(shè)，推動“鵬城云腦 Ⅲ”連接全國資源打造核心節(jié)點(diǎn)。推進(jìn)深圳開放智算中心建設(shè)，2024 年建成并投入運(yùn)營算力規(guī)模達(dá) 4000PFLOPS。深圳政府在《方案》中提出，建設(shè)國產(chǎn)人工智能生態(tài)源頭創(chuàng)新中心，配置國產(chǎn)算力及算法、算子庫、數(shù)據(jù)庫、工具鏈、模型庫等工具，形成 2 個行業(yè)大模型，賦能 50 家企業(yè)打造典型應(yīng)用
關(guān)鍵字： AI 智能計(jì)算深圳

蘋果表示其AI模型是在谷歌的定制芯片上訓(xùn)練的

蘋果在論文中表示，支持其Apple Intelligence AI系統(tǒng)的人工智能模型是在谷歌設(shè)計(jì)的處理器上預(yù)訓(xùn)練的，這表明大科技公司在訓(xùn)練前沿AI時正在尋找替代Nvidia的方法。蘋果選擇谷歌自家設(shè)計(jì)的Tensor Processing Unit（TPU）進(jìn)行訓(xùn)練，這在公司剛剛發(fā)布的技術(shù)論文中有詳細(xì)說明。蘋果周一還發(fā)布了Apple Intelligence的預(yù)覽版。Nvidia昂貴的圖形處理單元（GPU）在高端AI訓(xùn)練芯片市場占據(jù)主導(dǎo)地位，過去幾年需求旺盛，以至于很難以所需數(shù)量采購到。OpenAI、微軟和
關(guān)鍵字： AI

iPhone 16將不會預(yù)裝AI功能？計(jì)劃通過iOS 18.1發(fā)布

據(jù)外媒報道，Apple Intelligence將在iOS 18.1上首發(fā)推出，這意味著9月份亮相的iPhone 16將無法預(yù)裝AI功能。延遲的原因可能是蘋果和開發(fā)者需要足夠的測試時間對Apple Intelligence進(jìn)行優(yōu)化，因此9月上線的iOS 18正式版無法體驗(yàn)到Apple Intelligence。在適配的設(shè)備上，蘋果在官網(wǎng)公布的消息中就已提到：Apple Intelligence僅支持iPhone 15 Pro、iPhone 15 Pro Max以及搭載M1或后續(xù)芯片的iPad和Mac設(shè)備。
關(guān)鍵字： iPhone AI iOS

蘋果承認(rèn)：AI模型使用谷歌定制芯片訓(xùn)練

7月30日消息，美國時間周一，蘋果公司表示，其人工智能系統(tǒng)的核心模型在谷歌設(shè)計(jì)的處理器上完成預(yù)訓(xùn)練。這一跡象表明，在訓(xùn)練尖端人工智能方面，大型科技公司正在探索除英偉達(dá)GPU以外的其他替代方案。蘋果在最新發(fā)表的技術(shù)論文中承認(rèn)，該公司采用了谷歌張量處理單元（TPU）訓(xùn)練其人工智能模型。另外，蘋果于周一推出了面向部分用戶的蘋果智能（Apple Intelligence）預(yù)覽版。長期以來，英偉達(dá)的高性能GPU在高端人工智能模型訓(xùn)練市場占據(jù)主導(dǎo)地位，包括OpenAI、微軟、Anthropic在內(nèi)的多家科技公司紛紛采
關(guān)鍵字：蘋果 AI 谷歌定制芯片

消息稱英偉達(dá) RTX 4070 及以上顯卡因 GDDR6X 顯存缺貨 8 月供應(yīng)緊張

IT之家 7 月 29 日消息，消息源 ChannelGate視博合聚 7 月 24 日、25 日兩次爆料稱，英偉達(dá) RTX 4070 及以上顯卡將因?yàn)?GDDR6X 顯存的缺貨在 8 月出現(xiàn)供應(yīng)緊張的情況，供貨量較 7 月減少。IT之家注：自 RTX 4070 開始，英偉達(dá)全部 RTX 40 系中高端顯卡均采用 GDDR6X 顯存，由美光獨(dú)家供應(yīng)。消息源表示，根據(jù)其了解到的“不準(zhǔn)確的原因”，本輪 GDDR6X 顯存出現(xiàn)缺貨是因?yàn)榇饲肮?yīng)的一批產(chǎn)品可能出現(xiàn)了品控問題，被要求更
關(guān)鍵字：英偉達(dá) GPU

Meta訓(xùn)練Llama 3遭遇頻繁故障

7 月 28 日消息，Meta 發(fā)布的一份研究報告顯示，其用于訓(xùn)練 4050 億參數(shù)模型 Llama 3 的 16384 個英偉達(dá) H100 顯卡集群在 54 天內(nèi)出現(xiàn)了 419 次意外故障，平均每三小時就有一次。其中，一半以上的故障是由顯卡或其搭載的高帶寬內(nèi)存（HBM3）引起的。由于系統(tǒng)規(guī)模巨大且任務(wù)高度同步，單個顯卡故障可能導(dǎo)致整個訓(xùn)練任務(wù)中斷，需要重新開始。盡管如此，Meta 團(tuán)隊(duì)還是保持了 90% 以上的有效訓(xùn)練時間。IT之家注意到，在為期 54 天的預(yù)預(yù)訓(xùn)練中，共出現(xiàn)了 466 次工作中
關(guān)鍵字： Meta Llama 3 英偉達(dá) H100 顯卡 GPU

摩根士丹利：僅 GB200 AI 服務(wù)器業(yè)務(wù)，就為英偉達(dá)創(chuàng)造 2100 億美元年收入

IT之家 7 月 26 日消息，摩根士丹利（Morgan Stanely）機(jī)構(gòu)最新發(fā)布分析報告，預(yù)估僅 Blackwell “GB200” AI 服務(wù)器訂單一項(xiàng)收入，將為英偉達(dá)帶來 2100 億美元（IT之家備注：當(dāng)前約 1.52 萬億元人民幣）的年收入。GB200 芯片發(fā)布于 3 月 19 日，由兩個 B200 Blackwell GPU 和一個基于 Arm 的 Grace CPU 組成，推理大語言模型性能比 H100 提升 30 倍，成本和能耗降至 25 分之一。摩根士丹利表示最新的 GB2
關(guān)鍵字： GB200 AI 英偉達(dá) GPU

國際奧委會：最大限度發(fā)揮 AI 工具影響力，體育人才選拔方式有望得到革新

IT之家 7 月 26 日消息，據(jù)新華社報道，在 24 日召開的發(fā)布會上，國際奧委會首席信息科技官伊拉里奧?科爾納表示，已經(jīng)確定了超過 180 個潛在的 AI 應(yīng)用場景，要最大限度發(fā)揮它們的影響力。據(jù)介紹，AI 工具可以在辨別體育人才方面展現(xiàn)價值 —— 通過相應(yīng)技術(shù)，僅憑手機(jī)軟件就能在世界任何地方“發(fā)現(xiàn)”新的體育人才。目前，國際奧委會與英特爾正共同開發(fā)相關(guān)定制化技術(shù)，旨在幫助各國和地區(qū)奧委會創(chuàng)新體育人才識別和投資培養(yǎng)方式，相關(guān)技術(shù)已在塞內(nèi)加爾完成相應(yīng)測試。圖源 Pexels2026 年，塞內(nèi)加爾
關(guān)鍵字： AI 奧運(yùn)會體育

加大調(diào)整力度，教育部支持高校布局集成電路、AI 等專業(yè)

IT之家 7 月 25 日消息，7 月 23 日，教育部高等教育司公布《關(guān)于開展 2024 年度普通高等學(xué)校本科專業(yè)設(shè)置工作的通知》，提出加大本科專業(yè)調(diào)整力度，著力優(yōu)化同新發(fā)展格局相適應(yīng)的專業(yè)結(jié)構(gòu)和人才培養(yǎng)結(jié)構(gòu)?！锻ㄖ芬蟆胺?wù)國家戰(zhàn)略需求”，支持高校面向集成電路、人工智能、量子科技、生命健康、能源、綠色低碳、涉外法治、國際傳播、國際組織、金融科技等關(guān)鍵領(lǐng)域布局相關(guān)專業(yè)，有的放矢培養(yǎng)國家戰(zhàn)略人才和急需緊缺人才。《通知》提出“推動專業(yè)優(yōu)化升級”，支持高校深化新工科、新醫(yī)科、新農(nóng)科、新文科建設(shè)，對
關(guān)鍵字：教育 AI 集成電路

消息稱 OpenAI 公司 2024 年資金缺口達(dá)到 50 億美元

IT之家 7 月 25 日消息，科技媒體 The Information 昨日（7 月 24 日）發(fā)布博文，爆料稱 OpenAI 目前用于 AI 推理的算力，預(yù)估相當(dāng)于 35 萬臺包含英偉達(dá) A100 芯片的服務(wù)器，其中約 29 萬臺用于 ChatGPT，而且近乎滿負(fù)荷運(yùn)行。報道稱截至今年 3 月，OpenAI 公司花費(fèi)近 40 億美元使用微軟服務(wù)器為 ChatGPT 運(yùn)行推理工作負(fù)載；此外 OpenAI 今年訓(xùn)練 ChatGPT 以及新 AI 模型的成本預(yù)估達(dá)到 30 億美元，因此訓(xùn)練和推理
關(guān)鍵字： OpenAI ChatGPT AI

HBM4持續(xù)加速：AI時代競爭新焦點(diǎn)

HBM4是目前發(fā)布的HBM3標(biāo)準(zhǔn)的進(jìn)化版，旨在進(jìn)一步提高數(shù)據(jù)處理速率，同時保持基本特性，例如更高的帶寬、更低功耗和更大的每個芯片和/或堆棧容量 —— 這些對于需要高效處理大數(shù)據(jù)集和復(fù)雜計(jì)算的應(yīng)用至關(guān)重要，包括生成人工智能（AI）、高性能計(jì)算、高端顯卡和服務(wù)器。
關(guān)鍵字： HBM AI 內(nèi)存