谷歌迅速成為Nvidia強大的競爭對手

谷歌迅速成為Nvidia強大的競爭對手 —— 驅動其超級計算機的TPU v5p人工智能芯片比以往任何時候都更快，具有更大的內存和帶寬，甚至勝過強大的H100

谷歌伴隨其Gemini人工智能模型的最新推出，發布了用于人工智能訓練和推理的旗艦張量處理單元（TPU）的最新版本，這似乎是試圖挑戰Nvidia市場領先的GPU。

TPU v5p —— 谷歌最強大的定制設計人工智能加速器 —— 已經部署以驅動該公司的“AI超級計算機”。這是一個專門用于運行人工智能應用的超級計算機架構，而不是通常用于運行科學工作負載的超級計算機，因為TPU不適用于這種工作負載。

其TPU的最新版本每個架構（組成系統的一部分）有8960個芯片，而v4中有4096個，其總浮點運算數（FLOPs）每個架構的可用性方面具有四倍的可伸縮性。這些新的架構提供4800Gbps的吞吐量。新的架構還配備了95GB的高帶寬內存（HBM），而TPU v4中的HBM RAM為32GB。

Nvidia H100 vs 谷歌 TPU v5p：哪個更快？與Nvidia將其GPU提供給其他公司購買不同，谷歌的定制TPU仍然在內部使用，用于其自己的產品和服務。谷歌的TPU長期以來一直用于推動其服務，包括Gmail、YouTube和Android，而最新版本也用于訓練Gemini。

谷歌的v5p TPU比TPU v4在訓練大型語言模型方面快2.8倍，性價比提高了2.1倍。盡管今年早些時候發布的中間版本TPU v5e在所有三者中提供了最高性價比，但它只比TPU v4快1.9倍，使TPU v5p成為最強大的版本。

它甚至足夠強大，可以與Nvidia廣受歡迎的H100 GPU媲美，后者是最適用于AI工作負載的最佳顯卡之一。根據該公司自己的數據，該組件在訓練工作負載方面比Nvidia的A100 GPU快四倍。

與此同時，谷歌的TPU v4據估計比A100快1.2到1.7倍，根據其在四月份發布的研究。因此，極其粗略的計算表明，TPU v5p相對于A100大約快3.4到4.8倍，使其與H100相當或更強大，盡管在得出任何結論之前需要更詳細的基準測試。