ai gpu mi300 文章進(jìn)入ai gpu mi300技術(shù)社區(qū)

英偉達(dá)發(fā)布H200！鞏固AI芯片霸主地位

11月14日消息，全球市值最高的芯片制造商英偉達(dá)公司，正在升級其H100人工智能處理器，為這款產(chǎn)品增加更多功能，進(jìn)一步鞏固其在人工智能計算市場的領(lǐng)先地位。新款芯片的型號名為H200，將具備使用高帶寬內(nèi)存（HBM3e）的能力，從而更好地處理開發(fā)和實施人工智能所需的大型數(shù)據(jù)集。亞馬遜AWS、谷歌云和甲骨文云基礎(chǔ)設(shè)施已承諾從明年開始使用這款新芯片。圖片來源：英偉達(dá)官網(wǎng)目前的英偉達(dá)處理器（被稱為人工智能加速器）已經(jīng)極受追捧。像拉里·埃里森（Larry Ellison）和埃隆·馬斯克（Elon Musk）這樣的科技
關(guān)鍵字：英偉 AI 芯片

生成式AI對電子元器件的影響

在這個電子設(shè)備新潮流的專欄中，筆者于3月31日寫了一篇《ChatGPT是否會喚起新的半導(dǎo)體需求》的報道。從那之后過了約3個月，筆者看到了以ChatGPT為首的生成式AI和半導(dǎo)體相關(guān)的幾個動作。其中最受關(guān)注的企業(yè)是英偉達(dá)。在以ChatGPT為首的生成AI的訓(xùn)練使用的AI服務(wù)器中，很多廠商都是使用英偉達(dá)的GPU產(chǎn)品作為核心設(shè)備，隨著生成AI市場的擴(kuò)大，廠商對英偉達(dá)產(chǎn)品的詢價急劇擴(kuò)大。英偉達(dá)計劃在23年5月至7月期間實現(xiàn)約108-112億美元（與中間值相比，同比增長64%，比上一季度增長53%）的大幅增收，預(yù)計
關(guān)鍵字： AI 智能計算 AI服務(wù)器

老黃深夜炸場！英偉達(dá)發(fā)布全球最強 AI 芯片 H200：性能飆升 90%，Llama 2 推理速度翻倍

IT之家 11 月 13 日消息，英偉達(dá)今日發(fā)布了下一代人工智能超級計算機(jī)芯片，這些芯片將在深度學(xué)習(xí)和大型語言模型（LLM）方面發(fā)揮重要作用，比如 OpenAI 的 GPT-4。新芯片相比上一代有了顯著的飛躍，將被用于數(shù)據(jù)中心和超級計算機(jī)，處理諸如天氣和氣候預(yù)測、藥物發(fā)現(xiàn)、量子計算等任務(wù)。此次發(fā)布的關(guān)鍵產(chǎn)品是基于英偉達(dá)的“Hopper”架構(gòu)的 HGX H200 GPU，是 H100 GPU 的繼任者，也是該公司第一款使用 HBM3e 內(nèi)存的芯片，這種內(nèi)存速度更快，容量更大，因此更適合大型語言模型
關(guān)鍵字：英偉達(dá) GPU 計算平臺 H200

英飛凌試用Archetype AI新AI開發(fā)者模型,以加強AI傳感器解決方案創(chuàng)新

全球功率系統(tǒng)和物聯(lián)網(wǎng)領(lǐng)域的半導(dǎo)體領(lǐng)導(dǎo)者英飛凌科技股份公司（FSE代碼：IFX / OTCQX代碼：IFNNY）與物理世界AI先行者Archetype AI于近日宣布，雙方已簽署戰(zhàn)略合作協(xié)議，將加快開發(fā)具備AI功能的傳感器芯片，使人們的生活更輕松、更安全、更環(huán)保?？偛课挥诠韫鹊腁rchetype AI是一家專注于開發(fā)Physical AI基礎(chǔ)模型的前沿AI企業(yè)。Physical AI是一種能夠感知、理解和推理周圍世界的新型人工智能。英飛凌將試用由Archetype AI開發(fā)的?“大型行為模型” (
關(guān)鍵字：英飛凌 Archetype AI AI開發(fā)者模型 AI傳感器

三星將推出3D AI芯片封裝技術(shù)SAINT，與臺積電競爭

隨著芯片尺寸的縮小變得越來越具有挑戰(zhàn)性，3D芯片封裝技術(shù)的競爭變得更加激烈。全球最大的存儲器芯片制造商三星電子公司計劃明年推出先進(jìn)的三維（3D）芯片封裝技術(shù)，與代工巨頭臺灣半導(dǎo)體制造公司（TSMC）競爭?？偛课挥陧n國水原的芯片制造商將使用該技術(shù)——SAINT，即三星先進(jìn)互連技術(shù)——以更小的尺寸集成高性能芯片（包括AI芯片）所需的內(nèi)存和處理器。據(jù)知情人士周日透露，三星計劃在SAINT品牌下推出三種技術(shù)——SAINT S，垂直堆疊SRAM存儲芯片和CPU；SAINT D，涉及CPU、GPU和DRAM存儲等處理
關(guān)鍵字：三星 AI 晶圓代工

?GPU芯片新技術(shù)出現(xiàn)，中國廠商值得借鑒

11 月 6 日，在創(chuàng)業(yè)三年，即將進(jìn)入下一個三年之際，摩爾線程創(chuàng)始人兼 CEO 張建中給公司全體員工發(fā)了一封信。信中提到了很多關(guān)于過去三年研發(fā)工作的總結(jié)，以及未來發(fā)展規(guī)劃的內(nèi)容，不過，這封信的核心內(nèi)容是：摩爾線程將進(jìn)行一次崗位優(yōu)化，也就是裁員。對于這家中國本土新崛起的 GPU 芯片設(shè)計公司來說，最近幾年的形勢，使得擺在他面前的機(jī)遇和挑戰(zhàn)都顯得很凸出。不僅摩爾線程，壁仞科技和沐曦集成電路也是近幾年中國本土表現(xiàn)非常凸出的 GPU 芯片創(chuàng)業(yè)公司，再加上老牌的景嘉微，以及其它幾家相關(guān)企業(yè)，把中國本土 GPU 技術(shù)
關(guān)鍵字： GPU

聯(lián)想首次發(fā)布大模型解決方案及服務(wù)

在烏鎮(zhèn)舉辦的2023世界互聯(lián)網(wǎng)大會算力網(wǎng)絡(luò)協(xié)同創(chuàng)新分論壇上，聯(lián)想首次對外推出聯(lián)想企業(yè)大模型服務(wù)。據(jù)一起聯(lián)想官微消息，近日，在烏鎮(zhèn)舉辦的2023世界互聯(lián)網(wǎng)大會算力網(wǎng)絡(luò)協(xié)同創(chuàng)新分論壇上，聯(lián)想集團(tuán)副總裁、中國區(qū)方案服務(wù)業(yè)務(wù)總經(jīng)理戴煒以“算力時代一切皆服務(wù)”為主題進(jìn)行演講，并首次對外推出聯(lián)想企業(yè)大模型服務(wù)。旨在以智算服務(wù)為基礎(chǔ)，通過AI平臺部署進(jìn)行推理加速、分布式訓(xùn)練&微調(diào)，幫助實現(xiàn)私有化大模型部署，全面賦能企業(yè)的業(yè)務(wù)系統(tǒng)，幫助客戶實現(xiàn)AI轉(zhuǎn)型。據(jù)悉，聯(lián)想首次對外推出了企業(yè)專屬的私有化大模型
關(guān)鍵字：聯(lián)想世界互聯(lián)網(wǎng)大會 AI 大模型

Stability AI 獲得英特爾新融資支持

據(jù)知情人士透露，Stability AI 已獲得由芯片制造商英特爾公司領(lǐng)投的新融資，這筆現(xiàn)金注入正值該公司的關(guān)鍵時刻。不愿透露姓名的知情人士表示，Stability 是一家以流行的 Stable Diffusion 圖像生成軟件而聞名的人工智能初創(chuàng)公司，在 10 月份完成的交易中以可轉(zhuǎn)換票據(jù)的形式籌集了近 5000 萬美元。Stability發(fā)言人在一份聲明中表示，“過去幾個月，主要風(fēng)險資本和戰(zhàn)略投資者多次對融資感興趣?！?Stability 首席執(zhí)行官埃馬德·莫斯塔克 (Emad Mostaque) 周
關(guān)鍵字：英特爾 AI

英偉達(dá)內(nèi)部人士確認(rèn)：11 月 16 日推出三款中國特供版 AI 芯片

IT之家 11 月 10 日消息，芯片咨詢公司 SemiAnalysis 昨日消息稱，英偉達(dá)現(xiàn)已開發(fā)出針對中國區(qū)的最新改良版 AI 芯片，包括 HGX H20、L20 PCle 和 L2 PCle。對于這一消息，英偉達(dá)內(nèi)部人士對銀柿財經(jīng)表示，消息屬實，本月 16 日將正式推出。此外，英偉達(dá)公司美國總部回復(fù)稱：“很感謝和我們聯(lián)系，我們對這個消息目前還沒有任何評論。”IT之家此前報道，Semianalysis 發(fā)布付費文章，表示三款中國特供版 AI 芯片之一，在 LLM 推理中，要比 H100 快
關(guān)鍵字：英偉達(dá) GPU 人工智能

英特爾供應(yīng)鏈全面出擊，中國市場現(xiàn)新亮點

最近，英特爾與產(chǎn)業(yè)鏈合作伙伴頻繁互動，還發(fā)表了最新人工智能（AI）平臺發(fā)展藍(lán)圖和愿景。英特爾展示了 AI、邊緣計算、云端、新一代系統(tǒng)與平臺等最新解決方案，并與宏碁、華碩、微星、緯穎等眾多伙伴合作展示了 AI PC、搭載 Xeon 處理器和 Gaudi2 AI 硬件加速器的最新系統(tǒng)。近期，美國加強了對輸往中國大陸人工智能芯片的管制，對此，英特爾提出了對策。供應(yīng)鏈透露，英特爾已開發(fā)出 Gaudi 2 的降規(guī)版芯片，即將出貨，該產(chǎn)品將不受新禁令影響。供應(yīng)鏈還透露，來自中國大陸的 Gaudi 2 急單已出現(xiàn)，與英
關(guān)鍵字： AI 英特爾供應(yīng)鏈

3.9 分鐘訓(xùn)完 GPT-3，英偉達(dá) H100 再次刷新 MLPerf 六項紀(jì)錄

IT之家 11 月 9 日消息，英偉達(dá)今天發(fā)布新聞稿，表示旗下的 H100 GPU 在 MLPerf 基準(zhǔn)測試中創(chuàng)造了 6 項新記錄。IT之家今年 6 月報道，3584 個 H100 GPU 群在短短 11 分鐘內(nèi)完成了基于 GPT-3 的大規(guī)?；鶞?zhǔn)測試。MLPerf LLM 基準(zhǔn)測試是基于 OpenAI 的 GPT-3 模型進(jìn)行的，包含 1750 億個參數(shù)。Lambda Labs 估計，訓(xùn)練這樣一個大模型需要大約 3.14E23 FLOPS 的計算量。英偉達(dá)最新的 Eos AI 超級
關(guān)鍵字： AI 智能計算英偉達(dá)

Semidynamics和Arteris合作加速 AI RISC-V 片上系統(tǒng)開發(fā)

亮點摘要:- Arteris和Semidynamics合作，增強了RISC-V處理器IP對于系統(tǒng)IP的靈活性和高度可配置的互操作性。- 集成并優(yōu)化的解決方案將專注于加速人工智能、機(jī)器學(xué)習(xí)和高性能計算應(yīng)用。- 2024年將形成一個演示平臺。加利福尼亞州坎貝爾 - 2023 年 11 月 2 日 - Arteris, Inc.（納斯達(dá)克股票代碼：AIP）是
關(guān)鍵字： Semidynamics Arteris AI RISC-V

OpenAI 最新模型 GPT-4 Turbo 的 5 個關(guān)鍵更新

OpenAI 最近在其最近的開發(fā)者大會上宣布了 ChatGPT 和其他人工智能工具的多項新功能。即將推出的聊天機(jī)器人創(chuàng)建工具 GPT（生成式預(yù)訓(xùn)練變壓器的縮寫）和 ChatGPT 的新模型 GPT-4 Turbo 是該公司此次活動中最重要的兩個公告。這并不是 OpenAI 第一次為 ChatGPT 提供新模型。今年早些時候，OpenAI 將 ChatGPT 的算法從 GPT-3.5 更新為 GPT-4。您是否好奇聊天機(jī)器人的 GPT-4 Turbo 版本在今年晚些時候推出時會有什么不同？根據(jù)之前的
關(guān)鍵字： Open AI AI 人工智能 GPT

安防芯片，不香了？

10 月 28 日，翱捷科技公告變更募投項目「智能 IPC 芯片設(shè)計項目」。翱捷科技表示近年來，由于該投資項目所面臨的市場環(huán)境以及競爭格局發(fā)生了較大變化，下游終端產(chǎn)品市場競爭態(tài)勢以及 IPC 芯片的切入機(jī)會不及預(yù)期，從而延緩了公司產(chǎn)品推進(jìn)節(jié)奏，影響了募集資金使用效率，增加了項目投資實現(xiàn)預(yù)期效益的不確定性風(fēng)險。IPC 芯片是指用在監(jiān)控前端設(shè)備的芯片。在翱捷科技的聲明中表示，原安防行業(yè)的政策驅(qū)動效應(yīng)減弱。平安城市、雪亮工程逐漸步入尾聲，安防行業(yè)增速出現(xiàn)下滑。對于后進(jìn)入安防行業(yè)的芯片公司來說，短期實現(xiàn)規(guī)模化銷售
關(guān)鍵字：安防芯片 AI 翱捷科技

抓住 AI 大趨勢，三星、美光積極籌備 HBM 擴(kuò)建計劃

IT之家 11 月 8 日消息，在消費級存儲市場低迷的背景下，高帶寬存儲器（HBM）技術(shù)已成為新的驅(qū)動力，最新報告指出三星和美光兩家公司正積極籌備擴(kuò)張 HBM DRAM。圖源：三星最新報道稱三星電子耗資 105 億韓元，收購了三星顯示位于韓國天安市的某些工廠和設(shè)備，以擴(kuò)大 HBM 產(chǎn)能。三星電子還計劃再投資 7000 億至 1 萬億韓元，用于新建新的封裝線。IT之家此前報道，三星電子副總裁兼 DRAM 產(chǎn)品和技術(shù)團(tuán)隊負(fù)責(zé)人 Hwang Sang-jun 先生透露，三星已開發(fā)出速度為 9.8Gbp
關(guān)鍵字： HBM AI