競爭加??！報道：亞馬遜勸說云客戶遠離英偉達，改用自家芯片

與其他云服務(wù)提供商一樣，亞馬遜租用給開發(fā)者和企業(yè)的服務(wù)器主要適用的是英偉達AI芯片。然而媒體報道，亞馬遜如今正試圖說服這些客戶轉(zhuǎn)而使用由亞馬遜自研AI芯片驅(qū)動的服務(wù)器。

The Information報道，亞馬遜芯片部門Annapurna的業(yè)務(wù)開發(fā)負責(zé)人Gadi Hutt表示，包括蘋果、Databricks、Adobe和Anthropic在內(nèi)的一些希望找到英偉達芯片替代方案的科技公司，已經(jīng)在測試亞馬遜最新的AI芯片，并取得了令人鼓舞的結(jié)果。

Hutt在亞馬遜AWS年度客戶大會表示：“去年，人們開始意識到，‘嘿，亞馬遜在AI芯片上的投資是認真的?！局?，更多人相信這是一個真實且持續(xù)的投入?！?/p>

分析認為，如果亞馬遜能夠?qū)⒖蛻糁С鲛D(zhuǎn)移到其自研的服務(wù)器芯片上，由于這些芯片部分因為耗電量遠低于英偉達芯片而對云客戶更加便宜，這將提升亞馬遜的利潤率。此外，這也能阻止英偉達通過直接向企業(yè)出租其芯片服務(wù)器，搶占更多云市場份額。

英偉達在AI芯片領(lǐng)域的主導(dǎo)地位一直難以撼動，這部分歸因于其芯片比包括亞馬遜、微軟和谷歌在內(nèi)的競爭對手生產(chǎn)的芯片更強大，同時，軟件開發(fā)者習(xí)慣于使用英偉達專有的Cuda編程語言為其芯片編寫軟件。

盡管如此，Hutt和其他亞馬遜高管本周表示，大客戶正在尋求更便宜的替代方案。AWS CEO Matt Garman表示，使用亞馬遜的AI芯片成本比英偉達的旗艦H100芯片低30%到40%，但能實現(xiàn)同等性能。

目前，亞馬遜已經(jīng)在開發(fā)傳統(tǒng)服務(wù)器芯片方面建立了一定的影響力，并成功說服客戶租用這些芯片。近年來，AWS客戶越來越多地使用亞馬遜的Graviton服務(wù)器芯片，而不是由英特爾和AMD提供芯片的服務(wù)器，因為Graviton通常性價比更高。

例如，企業(yè)軟件公司Databricks已經(jīng)成為Graviton的重要客戶，其高管Naveen Rao表示，計劃使用亞馬遜的新AI芯片以降低運行軟件的成本。

亞馬遜開發(fā)芯片（包括AI芯片Trainium）的舉措是其更廣泛戰(zhàn)略的一部分，這一戰(zhàn)略旨在將計算的“基本構(gòu)件”——從服務(wù)器到云軟件——轉(zhuǎn)變?yōu)榱畠r的通用商品。類似地，亞馬遜CEO Andy Jassy本周宣布了一款由亞馬遜打造的新對話式AI模型，他表示，其性能與Anthropic和OpenAI的最新模型相當(dāng)，但價格卻低了三倍以上。

Hutt還談到了公司的新Trainium芯片，以及AWS正在為Anthropic建造的一套超級計算服務(wù)器集群。Anthropic是OpenAI的競爭對手，也是AWS近年來營收增長的重要貢獻者之一，目前是AWS上最多使用英偉達服務(wù)器的客戶之一。

以下是媒體采訪Gadi Hutt的對話節(jié)選：

1. 使用Trainium2（亞馬遜芯片的最新版本），為什么你們要專注于把這款芯片賣給那些在英偉達芯片上花費巨大的公司？

Hutt：那些關(guān)注機器學(xué)習(xí)成本的客戶，通常是花費較大的客戶，包括蘋果、Adobe、Databricks等，還有一些資金充裕的初創(chuàng)公司，比如Poolside和Anthropic。

對他們來說，關(guān)鍵指標是“每1美元能獲得多少性能”。還有許多其他客戶，我們稱之為“長期客戶”，他們有各種項目非常適合我們的芯片。但也許他們每月的花費只有1000美元，這種情況下不值得工程師投入時間去探索這種選項。

實際上，在Trainium2生命周期的這個階段，我并不尋求吸引上百萬個客戶。就機器學(xué)習(xí)而言，我們還處于非常早期的階段。人們還在嘗試攻克通用人工智能（AGI）和各種各樣的想法，這個領(lǐng)域還在不斷演變。

我們不能從第一天起就支持所有的用例。如果客戶嘗試運行一些無法正常工作的東西，這會是一種非常糟糕的體驗。因此，我們專注于聽取最大客戶的需求，“嘿，這是我們需要的”，而這往往是對整個市場未來需求的一個很好的預(yù)測。

2. Trainium2在明年的目標是什么？

Hutt：當(dāng)我們部署大量芯片時，我們的目標是確保它們被充分利用。所以我們首先需要與這些大客戶合作，然后再擴展到我所說的“長期客戶”。對我們這些制造芯片的人來說，成功的衡量標準是確保所有芯片都被充分利用。不管是10個客戶還是1000個客戶，數(shù)量是次要的。

這是場馬拉松，而不是短跑。隨著時間的推移，我們希望看到越來越多的客戶。我不會在內(nèi)部制定目標，規(guī)定要啟用多少客戶。我們更關(guān)注的是確保為客戶提供合適的工具和性能，采用率自然會隨之提高。

3. 為什么第一代Trainium芯片沒有成功推廣？第二代有什么不同？

Hutt：首先，這是我們的第一款訓(xùn)練芯片。你可以看看Trainium1（2022年發(fā)布）與Graviton1（2019年發(fā)布）的對比，同樣的故事。Graviton1實際上是為了啟用整個生態(tài)系統(tǒng)，包括軟件生態(tài)系統(tǒng)，并確保我們?yōu)榭蛻魳?gòu)建了正確的產(chǎn)品。

Trainium1的客戶（包括亞馬遜內(nèi)部的團隊）幫助我們強化了軟件，但工作仍未完成。在支持更多工作負載方面，我們還有很多工作要做。不過，現(xiàn)在我們可以說，我們對Trainium2能夠支持的工作負載感到非常滿意，包括大型語言模型（LLM）、專家模型、多模態(tài)模型以及計算機視覺模型。

這需要時間，而且很復(fù)雜。如果很容易，更多人早就做到了。

4. AWS的客戶是否在考慮明年選擇租用Trainium2還是英偉達的Blackwell芯片？

Hutt：客戶喜歡有選擇的余地。我們的工作是確保我們的芯片即使與英偉達的最新芯片相比，也依然具有吸引力，目前確實如此。

順便說一句，我們還沒有見到72芯片的Blackwell系統(tǒng)投入使用，但假設(shè)英偉達能夠交付，Trainium2依然會更具成本效益。

Trainium3（預(yù)計2025年底發(fā)布）的計算能力是Trainium2的四倍，因此客戶了解我們的發(fā)汗路線圖。他們有信心認為，這是一個值得投資的方向，否則他們不會選擇它。

5. 你認為英偉達GPU的需求是否會發(fā)生變化？

Hutt：有很多客戶想使用英偉達芯片，不愿了解Trainium芯片。如果你是小型GPU消費者，每次穩(wěn)定使用10、20、30甚至100個GPU，沒有動力去改變現(xiàn)狀。即使每月能省下幾千美元，你可能也更愿意讓工程師去做別的事情。

當(dāng)客戶關(guān)心成本問題時，通常是在他們開始擴大規(guī)模時，但大規(guī)模的客戶并不多。所以對我們來說，這些芯片是長期投資，以確保我們?yōu)榭蛻籼峁┻x擇。如果客戶選擇使用它們很好，但如果不選擇，我們依然是運行GPU的最佳平臺。

我們的軟件成熟度會隨著時間的推移而提高，希望屆時會有更多客戶選擇使用Trainium。但GPU對我們來說也是一項好業(yè)務(wù)，我們在賣很多。所以，如果客戶希望我們?yōu)樗麄兲峁〨PU，我們會永遠這么做。

6. 使用Trainium芯片是否會提高AWS的利潤率？

Hutt：我們不會披露利潤率的具體情況，但我們在這些芯片上并沒有虧損。業(yè)務(wù)必須有存在的意義，否則我們不會在這里投資。

7. 客戶何時開始對Trainium2感興趣？

Hutt：我記得與Poolside（一家AI編碼助手初創(chuàng)公司）的第一次會議。當(dāng)我們向他們展示Trainium2的規(guī)格時，他們說，“好吧，這正是我們需要的?！?/p>

8. Anthropic的超級計算機集群項目Rainier的耗電量是多少？

Hutt：我們沒有披露具體數(shù)據(jù)。但我可以告訴你，它比等效的GPU效率高50%。

9. 超級計算機何時能在Anthropic投入使用？

Hutt：Rainier項目很快就會完成，我們已經(jīng)在建造中。他們可以逐步開始使用部分集群，而不需要等到最后一顆芯片上線后再使用。隨著集群擴展，他們可以逐步增加使用量。

10. Anthropic是否是唯一可以使用Rainier項目的公司？

Hutt：是的，僅供Anthropic使用。

我們正在建設(shè)更多的產(chǎn)能，以滿足其他客戶使用Trainium的需求。目前，短期內(nèi)需求大于供應(yīng)。所以第一季度將非常緊張，隨著產(chǎn)能增加，情況會有所改善。