賽靈思CEO:三大戰(zhàn)略成效顯著,自適應(yīng)計(jì)算架構(gòu)可應(yīng)對(duì)萬花筒般的創(chuàng)新
2019年12月,第3屆賽靈思開發(fā)者大會(huì)(XDF)亞洲站在北京盛大舉行,賽靈思總裁兼CEO(首席執(zhí)行官)Victor Peng稱三大戰(zhàn)略成效顯著,例如數(shù)據(jù)中心業(yè)務(wù),在2019年9月結(jié)束的最新的一個(gè)季度,業(yè)務(wù)同比增長(zhǎng)24%;核心業(yè)務(wù)之一的汽車業(yè),在ADAS領(lǐng)域出貨超6700萬片;平臺(tái)轉(zhuǎn)型方面,硬件的Versal(采用自適應(yīng)計(jì)算架構(gòu))樣片已經(jīng)推出,并出爐了4款A(yù)lveo加速器卡;軟件方面祭出了統(tǒng)一開發(fā)平臺(tái)Vitis。
數(shù)據(jù)中心的發(fā)展趨勢(shì)是什么?賽靈思的芯片、加速卡和軟件是如何應(yīng)對(duì)千變?nèi)f化的創(chuàng)新應(yīng)用的?
Victor Peng稱,賽靈思的目標(biāo)是“打造靈活應(yīng)變、萬物智能世界”。為此,公司有三大戰(zhàn)略:①數(shù)據(jù)中心優(yōu)先;②加速核心市場(chǎng)發(fā)展;③驅(qū)動(dòng)自適應(yīng)計(jì)算。歸根結(jié)蒂,三大戰(zhàn)略都是讓更多的軟件和硬件開發(fā)者能使用并受益于賽靈思強(qiáng)大的自適應(yīng)平臺(tái)。
1 數(shù)據(jù)中心迎來顛覆性變革
爆炸性增長(zhǎng)的數(shù)據(jù)帶來了數(shù)據(jù)中心顛覆性的變革:需要高吞吐量的性能,極低的延時(shí),同時(shí)要面對(duì)摩爾定律消亡帶來的性能提升瓶頸。圖靈獎(jiǎng)得主John Hennessy 和Dave Patterson 最近都提到,架構(gòu)創(chuàng)新已經(jīng)進(jìn)入到了一個(gè)新的黃金時(shí)代。因?yàn)閭鹘y(tǒng)架構(gòu)對(duì)于現(xiàn)在的任務(wù)應(yīng)用已經(jīng)應(yīng)付不了,行業(yè)亟需架構(gòu)的創(chuàng)新。為此,賽靈思的產(chǎn)品和平臺(tái)在領(lǐng)域特定結(jié)構(gòu)、異構(gòu)計(jì)算加速、近網(wǎng)絡(luò)計(jì)算和近存儲(chǔ)數(shù)據(jù)方面實(shí)現(xiàn)了創(chuàng)新。
賽靈思的數(shù)據(jù)中心業(yè)務(wù)發(fā)展強(qiáng)勁,在2019年9月結(jié)束的最新的一個(gè)季度,業(yè)務(wù)同比增長(zhǎng)24%,季度增長(zhǎng)92%。實(shí)際上,賽靈思在數(shù)據(jù)中心的量產(chǎn)部署還處于非常早期的階段,這種增長(zhǎng)反映了自適應(yīng)計(jì)算優(yōu)勢(shì)的開啟。
1.1 打造生態(tài)系統(tǒng)
賽靈思的生態(tài)系統(tǒng)發(fā)展很快,主要的OEM(原廠)像戴爾、HP、浪潮等已經(jīng)建立基于賽靈思Alveo加速器卡的系統(tǒng)了,還有業(yè)界領(lǐng)先的經(jīng)銷商也已經(jīng)加入賽靈思的生態(tài)系統(tǒng),例如Clolfax, Ingram。在軟件生態(tài)系統(tǒng)方面,有越來越多的做視頻、數(shù)據(jù)分析、機(jī)器學(xué)習(xí)、生命科學(xué)、金融等的獨(dú)立軟件提供商(ISV)與賽靈思合作。目前,賽靈思已經(jīng)培訓(xùn)工業(yè)界及學(xué)術(shù)界7千多名開發(fā)人員,約有800多個(gè)加速器合作伙伴,而且有95個(gè)發(fā)布的應(yīng)用。
1.2 加速計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)
從計(jì)算加速和傳統(tǒng)CPU比較的例子可見,傳統(tǒng)的數(shù)據(jù)中心服務(wù)器有1個(gè)CPU連接網(wǎng)絡(luò),通過NIC(網(wǎng)絡(luò)接口控制器)和PCIe連接到存儲(chǔ)設(shè)備。而當(dāng)CPU 擁有賽靈思FPGA,以及很快即將推出的賽靈思Versal ACAP(自適應(yīng)計(jì)算加速平臺(tái))的加速,將會(huì)實(shí)現(xiàn)速度的巨大提升(如下圖)。
例如生命科學(xué)公司lllumina,它在基因組分析應(yīng)用上提速了90倍。Aupera公司每單元每瓦特的性能提升了33倍,換句話,1個(gè)Aupera產(chǎn)品相當(dāng)于30多個(gè)服務(wù)器。
然而,計(jì)算加速并不是賽靈思在數(shù)據(jù)中心唯一發(fā)揮作用的地方。在存儲(chǔ)加速領(lǐng)域,賽靈思也在廣泛部署,已經(jīng)和IBM、美光、三星等開展了合作,部署加速存儲(chǔ)和計(jì)算存儲(chǔ),從而可以實(shí)現(xiàn)數(shù)據(jù)在最近的地方處理。眾所周知,很多地方的數(shù)據(jù)增長(zhǎng)是呈指數(shù)級(jí)的,存儲(chǔ)和搜索的響應(yīng)是非常關(guān)鍵的,賽靈思的產(chǎn)品也可以加速。具體地,可以加速壓縮/解壓縮、解密。賽靈思單一的加速器可以把加速性能提升4倍(如下圖),而且是非常線性的。
另外,賽靈思也提供網(wǎng)絡(luò)加速(如下圖),例如在SmartNIC行業(yè)剛剛開始采用網(wǎng)絡(luò)加速的領(lǐng)域。SmartNIC可以通過移除惡意數(shù)據(jù)包提供更好的安全性,并通過將網(wǎng)絡(luò)堆棧從CPU卸載到SmartNIC來加速數(shù)據(jù)包處理。這不僅打破了網(wǎng)絡(luò)性能瓶頸,而且縮短了CPU應(yīng)用執(zhí)行的周期,從而提高了TCO(總擁有成本)。
對(duì)于雙插槽DC(數(shù)據(jù)中心)服務(wù)器,使用基于賽靈思的智能網(wǎng)卡,數(shù)據(jù)吞吐量加快了3~6倍,CPU利用率提高了1.5倍。賽靈思芯片是軟硬件可編程的,因此可實(shí)現(xiàn)用1個(gè)開發(fā)板,定制化地滿足不同客戶部署的需求。
1.3 數(shù)據(jù)中心的未來:分布式自適應(yīng)計(jì)算
數(shù)據(jù)中心的未來發(fā)展趨勢(shì)是什么?首先,業(yè)界對(duì)數(shù)據(jù)中心的需求是不斷增長(zhǎng)的,這是不會(huì)改變的,分為公有云、私有云、混合云或企業(yè)等。其次,數(shù)據(jù)中心運(yùn)營(yíng)商們都想大幅提升數(shù)據(jù)集的利用率,提高高性能,并減少能耗,降低OPEX(資本性支出)/TCO。這可以通過可分解和可組合的方式實(shí)現(xiàn),具體地,使用SmartNIC、固態(tài)硬盤和計(jì)算加速器將資源分解為單獨(dú)的CPU庫來實(shí)現(xiàn),然后根據(jù)需要組合這些資源,以滿足任何工作負(fù)載的需要(如下圖)。
例如,如果控制和網(wǎng)絡(luò)密集型工作負(fù)載是基于CPU的,只要把更多資源分配給CPU就可以了。對(duì)于工作與計(jì)算為基礎(chǔ)的項(xiàng)目,例如AI網(wǎng)絡(luò)等,也可以給這種計(jì)算網(wǎng)絡(luò)分配更多資源。如果與技術(shù)分析比較相關(guān)的,也可以把這些資源分配給這種計(jì)算網(wǎng)絡(luò)。所以ACAP可以針對(duì)專用需求來分配更多的資源,以及你想要加速的相關(guān)數(shù)據(jù)集,ACAP就可以配置好,而且這是動(dòng)態(tài)的,可以較高程度地來利用現(xiàn)有的技術(shù),不管是CPU、存儲(chǔ)數(shù)據(jù),還是加速器,ACAP都可以提升其性能。
ACAP有3大價(jià)值,①TCO方面,可動(dòng)態(tài)優(yōu)化工作負(fù)載,加速和提高加速器的高利用率。②延時(shí)低。③加速可以定制化,即用戶可以采用所有新的創(chuàng)新,諸如用神經(jīng)元網(wǎng)絡(luò)(NN)優(yōu)化,而不用添加新的部件/器件。
2 加速核心市場(chǎng)發(fā)展
除了數(shù)據(jù)中心,在眾多市場(chǎng)和廣泛應(yīng)用領(lǐng)域,賽靈思的自適應(yīng)器件都發(fā)揮作用:從挽救生命的醫(yī)療設(shè)備到自動(dòng)駕駛等。
以汽車行業(yè)為例。賽靈思在汽車業(yè)有大量的創(chuàng)新,自動(dòng)駕駛、ADAS等方面是有非常多的應(yīng)用。十多年來,賽靈思在汽車業(yè)已出貨了1.7億片以上的器件。其中, ADAS 領(lǐng)域有6700萬片。賽靈思的質(zhì)量和可靠性很高,眾多產(chǎn)品的ppm(百萬分之一)值很低。賽靈思擁有200家ADAS和自動(dòng)駕駛客戶群,包括全球主要的Tier 1(一級(jí)供應(yīng)商)、整車廠和初創(chuàng)企業(yè)。
賽靈思最近發(fā)布的ZU7和ZU11 Zynq UtraScale+產(chǎn)品符合汽車安全、質(zhì)量和可靠性要求,滿足了在L2到L4自動(dòng)駕駛車輛的功率限制范圍內(nèi)對(duì)數(shù)據(jù)聚合、預(yù)處理和傳感器數(shù)據(jù)分布的需求。
來自中國(guó)本土的案例是北京的Pony.ai公司,其是自動(dòng)駕駛的初創(chuàng)型企業(yè),利用賽靈思的自適應(yīng)產(chǎn)品進(jìn)行傳感器融合,在汽車駕駛過程中可以處理相關(guān)數(shù)據(jù),不僅能自行駕駛,還能了解周邊所有車所在的位置。
3 軟硬件的平臺(tái)轉(zhuǎn)型
從產(chǎn)生玻色子 (Higgs Boson)的科學(xué)設(shè)備,到把自動(dòng)探測(cè)車發(fā)送到火星上的航天器,再到用人工智能(AI)發(fā)現(xiàn)并治療疾病的系統(tǒng)……,都離不開賽靈思產(chǎn)品的身影。實(shí)際上,除了數(shù)據(jù)中心和汽車等核心市場(chǎng),賽靈思的產(chǎn)品也應(yīng)用于萬花筒般的高科技市場(chǎng)。而服務(wù)于這些碎片化市場(chǎng)的策略,就是平臺(tái)化解決方案。
3.1 硬件平臺(tái)化
賽靈思在數(shù)年前就已經(jīng)開始從器件向平臺(tái)公司的轉(zhuǎn)型戰(zhàn)略,為的是促進(jìn)計(jì)算。
2018年Victor Peng掌舵后,有了兩大平臺(tái)化改進(jìn)(如下圖)。
1)2018年宣布將研發(fā)7 nm架構(gòu)及全新的產(chǎn)品系列Versal,Versal將采用自適應(yīng)計(jì)算架構(gòu)(ACAP)。2019年,Versal芯片已經(jīng)開始在早期客戶中實(shí)現(xiàn)。
2)開發(fā)了加速器卡,并用于多個(gè)行業(yè)。例如2018年推出Alveo PCI加速器卡。迄今賽靈思一共有4大產(chǎn)品系列:U200,U250,U280 和U50。其中,U280集成了HBM 存儲(chǔ),提供終極性能。U50集成了第2代HBM2,實(shí)現(xiàn)小型封裝的突破,是業(yè)界第1款半高半長(zhǎng)、支持PCIe Gen 4的自適應(yīng)加速器卡。
目前,賽靈思最先進(jìn)的處理器芯片擁有360億晶體管的7 nm Versal ACAP,已發(fā)貨給客戶和合作伙伴了。同時(shí)賽靈思現(xiàn)在也有新的Versal PCIe通用開發(fā)板,都已經(jīng)準(zhǔn)備就位,可以使開發(fā)者以10倍速度開始構(gòu)建和加速應(yīng)用。
3.2 軟件平臺(tái)化
為了擁有一個(gè)完整的平臺(tái),除了硬件搭建平臺(tái)外,也需要軟件的統(tǒng)一開發(fā)平臺(tái),為此,賽靈思推出了Vitis。
但Vitis也不是一蹴而就的,早在2010年,賽靈思推出了硬件設(shè)計(jì)套件Vivado,奠定了開發(fā)堆棧的基礎(chǔ)。隨著芯片架構(gòu)的每一波進(jìn)展,賽靈思也在基于Vivado不斷增加新的功能,使之越來越以平臺(tái)為中心。第1代和第2代賽靈思Zynq SoC,由針對(duì)嵌入式開發(fā)人員(如嵌入式和SDSoC開發(fā)環(huán)境)的軟件提供支持。SDAccel是為數(shù)據(jù)中心部署而開發(fā)的。之后問世了加速AI推斷的工具包。在最近的2019年11月,賽靈思祭出了Vitis——用于從嵌入式終端設(shè)備到邊緣和云應(yīng)用的統(tǒng)一開發(fā)環(huán)境。
Vitis可以支持異構(gòu)架構(gòu),例如Zynq SoC和Versal ACAP,開發(fā)人員在開發(fā)軟件時(shí)利用自己所習(xí)慣的方式,在無需硬件專業(yè)知識(shí)的情況下就可獲得優(yōu)化硬件的好處。
3.3 軟硬件平臺(tái)的搭配效果
硬件優(yōu)化可以簡(jiǎn)單到利用幾個(gè)關(guān)鍵的加速內(nèi)核就可利用強(qiáng)大的特定領(lǐng)域體系結(jié)構(gòu)(DSA)。Vitis配合賽靈思開發(fā)板后,可以免費(fèi)下載。
評(píng)論
2018年初Victor Peng執(zhí)掌賽靈思公司后,對(duì)賽靈思技術(shù)產(chǎn)品進(jìn)行了重大改組,電子產(chǎn)品世界的記者認(rèn)為,就像”大道至簡(jiǎn)“一樣,賽靈思的軟件和硬件平臺(tái)化后,產(chǎn)品更加清晰簡(jiǎn)潔、易于應(yīng)用,其核心是ACAP(自適應(yīng)計(jì)算平臺(tái)),以應(yīng)對(duì)萬花筒般的創(chuàng)新。
評(píng)論