各大巨頭紛紛入局DPU： DPU真正的魅力何在?

過去十年中，計算已經不僅僅局限在個人電腦和服務器內，CPU和GPU已經被廣泛地用于各個新型超大規(guī)模數(shù)據(jù)中心。這些數(shù)據(jù)中心通過功能強大的新型處理器連接在一起，DPU（ Data Processing Unit ，數(shù)據(jù)處理器）已經成為了以數(shù)據(jù)為中心的加速計算模型的第三個計算單元。

CPU用于通用計算，GPU用于加速計算，而數(shù)據(jù)中心中傳輸數(shù)據(jù)的DPU則進行數(shù)據(jù)處理。

歡迎來到啟用DPU的數(shù)據(jù)革命時代

根據(jù)現(xiàn)今最著名的歷史學家之一Yuval Noah Harari的說法 ，人類面臨著四次重大革命：

· 公元前70,000年發(fā)生的認知革命定義了語言的誕生和交流的能力。它也克服了尼安德特人，將智人帶到了舞臺的前列。

· 農業(yè)革命發(fā)生在公元前10000年，它定義了人類馴養(yǎng)家畜和種植農作物的能力，加速了人類人口的增長，推動了城市的崛起。

· 科學革命是一系列事件，標志著現(xiàn)代科學在早期現(xiàn)代時期的出現(xiàn)，當時數(shù)學、物理、天文學和科學的發(fā)展為我們現(xiàn)代生活方式奠定了基礎。

· 我們今天目睹的第四次革命是數(shù)據(jù)革命。

與之前的重大技術變革（例如個人計算機、客戶端服務器甚至虛擬化）不同，數(shù)據(jù)革命比以前的革命更隱蔽。這種轉變的核心是需要發(fā)動下一次重大技術飛躍，其中機器學習是實現(xiàn)真正人工智能的起點。為了達到這個目標，我們需要處理大量的數(shù)據(jù)。

隨著我們進入數(shù)據(jù)革命時代，對更高計算性能的不斷增長的需求正在推動新的數(shù)據(jù)中心加速器和處理單元的誕生。以前CPU和GPU是計算能力的主要來源。數(shù)據(jù)量和復雜性的指數(shù)級增長推動了以數(shù)據(jù)為中心的體系結構和新型加速器單元的創(chuàng)建。

在以數(shù)據(jù)為中心的設計中，完整的基礎架構堆棧（包括計算，存儲和網絡）的架構旨在快速有效地捕獲、分析、分類、管理和存檔大量數(shù)據(jù)，新一代加速器應運而生 —— DPU。

CPU，GPU和DPU的組合是協(xié)同處理的下一個飛躍，它將利用這些革命性的硬件加速技術和軟件定義的可編程性來應對以數(shù)據(jù)為中心和邊緣計算架構的挑戰(zhàn)，最大程度地提高投資回報率，并使不可能成為可能。

DPU有什么與眾不同之處？

為什么人們如此渴望使用DPU？首先，它更安全，因為控制平面可以在系統(tǒng)內和系統(tǒng)集群之間與數(shù)據(jù)平面分離。目前服務器要處理的資料日益增多，除了原有的加解密、封包壓縮外，加速器也讓服務器要處理的資料量變得更龐大，就會造成原有CPU在處理安全能力表現(xiàn)上出現(xiàn)瓶頸。

DPU可以執(zhí)行原本需要CPU處理的網絡、存儲和安全等任務。這就意味著如果在數(shù)據(jù)中心中采用了DPU，那么CPU的不少運算能力可以被釋放出來，去執(zhí)行廣泛的企業(yè)應用。

DPU的主要作用就在于替代了數(shù)據(jù)中心原本用來處理分布式存儲和網絡通信的CPU處理器資源。在DPU之前，智能網卡（SmartNIC）正在網絡安全和網絡互連協(xié)議方面逐漸取代CPU。而現(xiàn)在DPU的出現(xiàn)，相當于是智能網卡的升級替代版本，一方面增強了智能網卡對網絡安全和網絡協(xié)議的處理能力，一方面又整合和加強了分布式存儲的處理能力，從而在這兩個領域更好地替代CPU，從而釋放CPU的算力給到其他更多應用。

有了DPU的出現(xiàn)，就可以先在DPU將大量的信息先做消化，接著再傳遞給CPU做其他的分配，如此一來能減少CPU約30%的消耗。

DPU是一種新型可編程處理器，是一種SOC（System On Chip），它結合了：

· 行業(yè)標準的、高性能及軟件可編程的多核CPU，通?；谝褢脧V泛的Arm架構，與其的SOC組件密切配合。

· 高性能網絡接口，能以線速或網絡中的可用速度解析、處理數(shù)據(jù)，并高效地將數(shù)據(jù)傳輸?shù)紾PU和CPU。

· 各種靈活和可編程的加速引擎，可以卸載AI、機器學習、安全、電信和存儲等應用，并提升性能。

DPU引入機器學習算法可對數(shù)據(jù)進行智能管理、控制和分析，從而減少閃存擦寫次數(shù)，延長SSD使用壽命；還可減少盤內計算和總線數(shù)據(jù)量，減輕主機CPU的負擔。所有這些DPU功能對于實現(xiàn)安全的、裸性能的、原生云計算的下一代云上大規(guī)模計算至關重要。

CPU、GPU、DPU將代表未來計算的三大支柱。這三者之間，CPU用于通用計算，GPU用于加速計算，而DPU在數(shù)據(jù)中心周圍移動數(shù)據(jù)進行數(shù)據(jù)處理。DPU可以和CPU、GPU相結合，構成完全可編程的單一AI計算單元，實現(xiàn)前所未有的安全性和算力支持。

國際巨頭開始紛紛提前布局

自1950年代以來，中央處理器“ CPU”一直是每臺計算機或智能設備的核心；到1990年代以來，GPU或圖形處理單元扮演了重要角色。在過去的十年中，計算已經擺脫了PC和服務器的繁瑣局限，CPU和GPU為龐大的新超大規(guī)模數(shù)據(jù)中心提供了動力。然而最近幾年，隨著系統(tǒng)中的CPU承受越來越多的網絡和存儲工作負載，DPU已成為以數(shù)據(jù)為中心的加速計算模型的第三個成員。

根據(jù)THENEXTPLATFORM的分析指出，在2020年，在這個領域的玩家或者潛在玩家主要包括Broadcom、Intel、英偉達、Netronome、Pensando、Fungible和Xilinx，還包括云供應商三大巨頭。

DPU是英偉達最新的一個布局。英偉達對DPU尤為重視，最主要的布局就在于2019年3月，花費69億美元收購了以色列芯片公司Mellanox —— Mellanox在2015年9月以8.11億美元的天價收購了EZchip公司，該公司擁有多核芯片創(chuàng)業(yè)公司Tilera的資產，Tilera是最早使用知識產權的高度并行SmartNIC實施之一，該實施源自更早的MIT研究項目。

Mellanox所擅長的正是為服務器、存儲和超融合基礎設施提供包括以太網交換機、芯片和InfiniBand智能互連解決方案在內的大量的數(shù)據(jù)中心產品。英偉達的GPU與Mellanox的互連技術結合，可以使得數(shù)據(jù)中心工作負載將在整個計算、網絡和存儲堆棧中得以優(yōu)化，并能實現(xiàn)更高的性能、更高的利用率和更低的運營成本。

黃仁勛把Mellanox的技術看作是公司的“X因素”，也就是把數(shù)據(jù)中心改造成一個可以解決高性能計算要求的大型處理器架構。而如今我們看到DPU的出現(xiàn)，已經是具有這一架構雛形的一種嘗試了。

英偉達在DPU上的技術突破，是在收購Mellanox之后，在這家公司的硬件基礎上開發(fā)出BlueFeild系列的兩款DPU —— 英偉達BlueField-2 DPU與BlueField-2X DPU。

英偉達發(fā)力DPU建設的深層目的：一個是DPU試圖再一次復制GPU替代顯示加速卡成為通用顯示芯片的路徑；再一個是DOCA試圖再一次復制CUDA在GPU通用化過程中所起到的開創(chuàng)生態(tài)之功。

與此同時，隨著數(shù)據(jù)中心網絡中傳送的數(shù)據(jù)量以每年25％的速度增長，英特爾也對DPU很感興趣。因為預算不能以這種速度增長，而且由于對原始CPU計算的偏見投資（與構建平衡的系統(tǒng)以更充分地利用可用的計算能力相反），網絡通常不超過分布式成本的10％系統(tǒng)。面對所有這些壓力，英特爾必須創(chuàng)新并幫助改善網絡，英特爾認為集成顯得很重要。

在DPU上，英特爾主要是將CPU和FPGA結合在一起，但英特爾并自己做，而是由Inventec和Silicom制造的。前者對于hyperscalers和云構建者來說是日益重要的ODM，而后者則是過去二十年來的網絡接口供應商。

另外，英特爾收購了深度學習芯片公司Nervana Systems，以及移動和嵌入式機器學習公司Movidius，給未來的深度學習下了重注。而英特爾所做的這一切，正是在為未來適應深度學習的數(shù)據(jù)流（DPU）架構升級布局。

越來越多供應商紛紛涌入DPU架構。DPU能否演繹CPU和GPU的佳話？十年前，隨著硬件加速技術的第一次重大沖擊，我們對GPU產品充滿了興趣?，F(xiàn)在，隨著FPGA擴展到超過300萬個邏輯單元，F(xiàn)PGA得以與其他可組合的處理模塊緊密地結合在一起，以實現(xiàn)網絡、內存、存儲和計算。有了這些進步，我們開始認識到第二次硬件加速浪潮的形成。讓我們靜待其變。

英偉達挑戰(zhàn)英特爾，距離還有多遠

另外一個值得注意的是英偉達提出配合DPU處理器的軟件開發(fā)工具包 —— DOCA（Data-Center-Infrastructure-On-A-Chip Architecture）。英偉達的專家將DOCA類比為數(shù)據(jù)中心服務器領域的CUDA，其意圖在于幫助開發(fā)人員在DPU加速的數(shù)據(jù)中心基礎設施上構建相應的應用程序，從而豐富DPU的應用開發(fā)生態(tài)。

如果和不久前英偉達收購ARM的消息結合起來，我們看到英偉達的一個重要考量，就是以ARM架構的CPU為核心，從服務器的應用加速擴展到服務器的全部應用場景，從而實現(xiàn)在數(shù)據(jù)中心服務器領域的更大突破，目標自然是英特爾CPU為代表的X86服務器生態(tài)。

自從英偉達開始收購ARM，外界能夠看到英偉達已經多次顯示出其試圖利用ARM處理器進一步占領數(shù)據(jù)中心服務器市場的決心，而集成了ARM核心的DPU將成為其打入數(shù)據(jù)中心存量市場取代X86 CPU的第一個切入點。

英偉達推出DPU來切入這個市場，而非直接用ARM核心CPU來與X86 CPU直接競爭，其實是一種比較討巧的做法，相當于用集成了網絡、存儲、安全等任務的下一代CPU產品來達到逐漸替換CPU的目的，即使其中所內涵的ARM CPU性能無法對標同一代的X86 CPU，但是整體機由于在DPU SoC上集成了專用的處理加速模塊，因此總體性能一定是超過X86 CPU的。

但是英偉達想要在中高端處理器市場來挑戰(zhàn)英特爾，還要面臨一系列的困難。首先，正是英偉達的GPU與X86 CPU已經形成一種非常穩(wěn)定的強互補關系。英偉達想要采用基于ARM架構的處理器做高端服務器，還需要ARM處理器性能出現(xiàn)大幅的提升，而現(xiàn)在這一進程并不明朗。

英偉達在數(shù)據(jù)中心領域的成功與否，都與能否實現(xiàn)數(shù)據(jù)中心的規(guī)?；\算有關，從發(fā)展自研的DGX系列服務器到整合Mellanox的技術，再到借助ARM生態(tài)發(fā)展全新的數(shù)據(jù)中心計算架構，都是為轉型數(shù)據(jù)中心業(yè)務所作的準備。當然，想要實現(xiàn)這一目標，還要看下英特爾如何應對。

英特爾早已為應對英偉達的種種挑戰(zhàn)進行了相應的回應和布局。早在2017年，英特爾就宣布要開發(fā)全棧的GPU產品組合，而預計明年英特爾的首批GPU將在使用GPU的各個市場上發(fā)布。

目前來說，數(shù)據(jù)中心當中，95％左右的GPU仍然還是連接到x86的CPU之上，英偉達如果單純只是做GPU的增量，仍然無法撼動英特爾在數(shù)據(jù)中心服務器的霸主地位。

數(shù)據(jù)中心業(yè)務對于英特爾來說，也正在成為其最核心的業(yè)務組成。2019年Q4英特爾的數(shù)據(jù)中心業(yè)務超越PC業(yè)務，成為其收入的主要來源；而在今年，英特爾對其技術組織和執(zhí)行團隊的重組，也被外界視為全面轉型數(shù)據(jù)中心業(yè)務的開始。

可以想見在未來的數(shù)據(jù)中心處理器業(yè)務上，英偉達將迎來英特爾最為強勁的保衛(wèi)戰(zhàn)和反擊戰(zhàn)，而廣大的服務器集成商或將成為這場角力賽的受益方。

英偉達還要面對ADM這一新對手的追趕，不久前ADM曝出要花費300億美金收購賽靈思，就被看作是叫板英特爾，阻擊英偉達的雙戰(zhàn)略。

除此之外，英偉達還要在數(shù)據(jù)中心處理器業(yè)務中面臨來自客戶自研芯片的挑戰(zhàn)。云服務商本身也不愿意完全將自身的計算核心完全交給英偉達，無論是AWS、還是谷歌、阿里巴巴、華為，都已經在布局自己的云端處理器。

數(shù)據(jù)中心已經成為英特爾、英偉達、AMD這些老牌芯片巨頭未來爭奪的主戰(zhàn)場，DPU是數(shù)據(jù)中心戰(zhàn)場中重要一役。

作為一個“芯”生事物，走穩(wěn)是當下的要務。DPU還在早期階段，這走的或是類似GPU的革命路線。GPU剛出來時業(yè)界均不看好，但英偉達卻矢志不渝，不斷迭代和優(yōu)化，最終GPU一路狂奔，到最后全面接管了圖形圖像的顯示控制，并在AI時代成為主力核心。但DPU真的會成另一個GPU嗎？