初創公司助英特爾在關鍵人工智能測試中擊敗AMD和Nvidia

這是 AI 硬件軍備競賽的最新轉折，Numenta 采用了一種新穎的方法來提高 CPU 性能,Numenta 已經證明，通過應用一種新穎的方法，英特爾至強 CPU 在人工智能工作負載上的性能可以遠遠超過最好的 CPU 和最好的 GPU。

據 Serve the Home 稱，這家初創公司利用基于這一理念的一系列技術，以 Numenta 智能計算平臺 (NuPIC) 為品牌，在人工智能推理方面解鎖了傳統 CPU 的新性能水平。

真正令人驚訝的是，它的性能明顯優于專門為處理人工智能推理而設計的 GPU 和 CPU。 例如，Numenta 采用了 Nvidia 報告的 A100 GPU 性能數據的工作負載，并在增強型 48 核第四代 Sapphire Rapids CPU 上運行。 在所有場景中，基于總吞吐量，它都比 Nvidia 的芯片更快。 事實上，它比第三代 Intel Xeon 處理器快 64 倍，比 A100 GPU 快 10 倍。

利用神經科學提升人工智能性能

Numenta 以其受神經科學啟發的人工智能工作負載方法而聞名，它嚴重依賴稀疏計算的理念——這就是大腦在神經元之間形成連接的方式。

如今，大多數 CPU 和 GPU 都是為密集計算而設計的，尤其是人工智能，這比大腦工作的上下文方式更加暴力。 盡管稀疏性是提高性能的必由之路，但 CPU 卻無法以這種方式良好工作。 這就是 Numenta 發揮作用的地方。

這家初創公司希望通過將其“秘密武器”應用于通用 CPU，而不是專門為處理以人工智能為中心的工作負載而構建的芯片，從而釋放人工智能模型中稀疏計算的效率增益。

雖然它可以在 CPU 和 GPU 上運行，但 Numenta 采用了 Intel Xeon CPU，并應用了其高級矢量擴展 (AVX)-512 和高級矩陣擴展 (AMX)，因為英特爾的芯片是當時最可用的。

這些是 x86 架構的擴展——作為額外的指令集，可以讓 CPU 執行更苛刻的功能。

Numenta 使用 Docker 容器提供 NuPIC 服務，并且可以在公司自己的服務器上運行。 如果它在實踐中發揮作用，這將是重新利用數據中心中已部署的 CPU 來處理 AI 工作負載的最佳解決方案，特別是考慮到 Nvidia 業界領先的 A100 和 H100 GPU 的等待時間較長。