微軟發(fā)布自研 AI 芯片 Azure Maia 100 及 Cobalt 100,用于強(qiáng)化 Azure AI 和 Copilot 服務(wù)
IT之家 11 月 16 日消息,在今天于西雅圖舉行的 Ignite 開發(fā)者大會上,微軟正式推出了兩款自研 AI 芯片,用于強(qiáng)化 Azure AI 和 Microsoft Copilot 服務(wù),分別為 Azure Maia 100 及 Azure Cobalt 100。
本文引用地址:http://www.ex-cimer.com/article/202311/452956.htm該系列芯片旨在加速 AI 計(jì)算任務(wù),并為其每月 30 美元(IT之家備注:當(dāng)前約 218 元人民幣)的“Copilot”服務(wù)和企業(yè)軟件用戶提供算力基礎(chǔ),同時也為希望制作自定義 AI 服務(wù)的開發(fā)人員提供服務(wù)。
Azure Maia 100: 這是一款專為 Azure 云服務(wù)和 AI 工作負(fù)載設(shè)計(jì)的 ASIC 芯片,適用于 x86 主機(jī)。
該芯片將安裝在定制的液冷機(jī)架中,同時最多可容納 4 枚芯片。該芯片將支持標(biāo)準(zhǔn) INT8 和 INT4 數(shù)據(jù)格式并利用嵌入式以太網(wǎng)接口。
這款芯片基于臺積電 5nm 節(jié)點(diǎn)制造,可支持各種 AI 場景,包括自然語言處理、計(jì)算機(jī)視覺、推薦系統(tǒng)和生成型 AI。
它可以與 Azure 軟件棧無縫集成,包括 Azure Machine Learning、Azure Cognitive Services 和 Azure Synapse Analytics 等,從而提供高性能、高效率和高靈活性。
Maia 芯片旨在運(yùn)行大型語言模型,這是一種支持微軟 Azure OpenAI 服務(wù)的 AI 軟件,也是微軟與 ChatGPT 開發(fā)者 OpenAI 合作的產(chǎn)品。
微軟表示,他們不打算出售這些芯片,而是將它們用于為其自己的訂閱軟件產(chǎn)品賦能,并作為其 Azure 云計(jì)算服務(wù)的一部分。
微軟和其他科技巨頭如 Alphabet 正在努力應(yīng)對提供 AI 服務(wù)的高成本,這可能比傳統(tǒng)服務(wù)如搜索引擎的成本高出 10 倍。
微軟高管表示,他們計(jì)劃通過一套通用的基礎(chǔ) AI 模型來處理公司幾乎所有的 AI 產(chǎn)品工作,以解決這些問題。據(jù)稱,Maia 芯片正是為此優(yōu)化的。
“我們認(rèn)為這為我們提供了一種能力,可以為客戶提供更快、更低成本和更高質(zhì)量的解決方案,”微軟云和 AI 集團(tuán)執(zhí)行副總裁 Scott Guthrie 說道。
微軟還表示,明年它將為 Azure 客戶提供在 Nvidia 和 AMD 的最新旗艦芯片上運(yùn)行的云服務(wù)。微軟表示,它正在 AMD 的芯片上測試 OpenAI 最先進(jìn)的模型 GPT 4。
“這并不是取代 Nvidia 的東西,”分析師公司 Creative Strategies 的首席執(zhí)行官 Ben Bajarin 說。
他表示,Maia 芯片將使微軟能夠在個人電腦和手機(jī)功能強(qiáng)大到足以處理它們之前,在云端銷售 AI 服務(wù)。
“微軟在這里有一個非常不同的核心技術(shù)機(jī)會,因?yàn)樗麄兊姆?wù)每個用戶都能賺很多錢,”Bajarin 說。
Azure Cobalt 100:這是一款 Arm 芯片,專門用于在微軟 Cloud 上運(yùn)行通用計(jì)算工作負(fù)載。這款芯片可以提供高密度、高可靠性和高安全性的計(jì)算服務(wù),適用于 Web 應(yīng)用、數(shù)據(jù)庫、容器和微服務(wù)等。
它還可以與 Azure 的生態(tài)系統(tǒng)兼容,包括 Azure Kubernetes Service、Azure Functions 和 Azure App Service 等。這款芯片的優(yōu)點(diǎn)在于可以提供低成本、低功耗和低碳排放的計(jì)算平臺,支持可持續(xù)發(fā)展的目標(biāo)。
微軟表示,它總共擁有 128 個 Neoverse N2 內(nèi)核,支持 12 通道 DDR5 內(nèi)存,與即將推出的 ARM 服務(wù)器芯片相比,每個內(nèi)核的性能提高了 40%。
微軟還透露,他們已經(jīng)在嘗試用 Cobalt 為 Teams 賦能。
微軟 Guthrie 表示,公司還希望直接向客戶出售 Cobalt 的使用權(quán),以與亞馬遜網(wǎng)絡(luò)服務(wù)(AWS)提供的“Graviton”系列芯片競爭。
“我們正在設(shè)計(jì)我們的 Cobalt 解決方案,以確保我們在性能以及價格-性能方面都具有競爭力(與亞馬遜的芯片相比),”Guthrie 說。
AWS 將在本月晚些時候舉行自己的開發(fā)者大會,一位發(fā)言人表示,其 Graviton 芯片目前已有 5 萬名客戶。
“AWS 將繼續(xù)創(chuàng)新,為任何需要的客戶工作負(fù)載提供下一代 AWS 設(shè)計(jì)的芯片,以提供更好的性價比,”微軟宣布其芯片后,該發(fā)言人表示。
評論