收購(gòu)Nervana后 Intel在AI芯片上進(jìn)展如何？

　　Xeon(至強(qiáng))是目前Intel產(chǎn)品中最經(jīng)典、也是使用最廣泛的平臺(tái)，是一個(gè)能夠針對(duì)不同種類(lèi)的工作進(jìn)行計(jì)算支持的平臺(tái)。全球90%以上的數(shù)據(jù)分析在Intel Xeon 處理器平臺(tái)上實(shí)現(xiàn);其中人工智能、深度學(xué)習(xí)相關(guān)方案及部署中，也有超過(guò)90%的案例使用Xeon CPU。

　　Xeon Phi是Xeon的進(jìn)階版，加入了眾核的概念。在Xeon的基礎(chǔ)上加入多個(gè)64核、74核的加速器，使其可以在軟件的配合下大幅提高計(jì)算性能。對(duì)于例如Caffe、Alexnet這樣的網(wǎng)絡(luò)，在經(jīng)過(guò)針對(duì)Xeon Phi進(jìn)行軟硬件結(jié)合的優(yōu)化之后，性能提升了400倍?？梢?jiàn)軟硬件結(jié)合能夠大幅提升深度神經(jīng)網(wǎng)絡(luò)的訓(xùn)練效率。

　　同時(shí)，若可以確定系統(tǒng)的應(yīng)用領(lǐng)域是某種工作負(fù)載，則可以采用FPGA或Nervana這類(lèi)定制化的硬件架構(gòu)作為支持。FPGA可以用來(lái)做網(wǎng)絡(luò)計(jì)算、視頻處理、語(yǔ)音等方面。

　　與FPGA不同的，也是人工智能從業(yè)者最為關(guān)心的，Lake Crest硬件架構(gòu)，是專(zhuān)為深度學(xué)習(xí)這種大規(guī)模運(yùn)算及需要實(shí)時(shí)緩存的系統(tǒng)設(shè)計(jì)的。

　　Lake Crest是主要基于張量運(yùn)算的架構(gòu)，矩陣運(yùn)算屬于張量運(yùn)算。圖中綠色部分是專(zhuān)門(mén)針對(duì)矩陣運(yùn)算的處理單元。同時(shí)運(yùn)用Flexpoint技術(shù)，一個(gè)基于定點(diǎn)與雙精度浮點(diǎn)之間可以變化的技術(shù)，來(lái)提供較高的并行化計(jì)算能力，計(jì)算密度是目前最好的硬件加速水平的十倍。同時(shí)，由于計(jì)算單元專(zhuān)門(mén)針對(duì)張量運(yùn)算所設(shè)計(jì)，所以功耗較低。

　　上圖周?chē)乃膫€(gè)黃色塊為高帶寬內(nèi)存，通過(guò)專(zhuān)用的內(nèi)存訪問(wèn)接口連接到主芯片，中間灰色大區(qū)域可以看作一個(gè)芯片。這些內(nèi)存是直接由軟件管理的，因此整個(gè)計(jì)算中不存在Cache，也就不存在不可預(yù)測(cè)的Cache miss，何時(shí)、去哪里讀取數(shù)據(jù)完全由程序控制。

　　單靠一個(gè)這樣的芯片可能處理不了所有的深度學(xué)習(xí)訓(xùn)練任務(wù)，針對(duì)特殊的需求，可以采取多個(gè)芯片協(xié)同工作的方式。多個(gè)芯片之間的互聯(lián)靠RCL，RCL是Intel專(zhuān)門(mén)定制的Interchip Link，它的速度比傳統(tǒng)的PCIE快20倍，而且是雙向的數(shù)據(jù)帶寬通道，能夠達(dá)到8TB/s。借由RCL，一個(gè)芯片最多可以與12個(gè)芯片互聯(lián)，以組成訓(xùn)練所需的規(guī)模較大的超網(wǎng)格。

　　記憶是AI產(chǎn)生認(rèn)知的必要條件

　　對(duì)于AI今后發(fā)展的展望，宋繼強(qiáng)不止一次強(qiáng)調(diào)，記憶是AI產(chǎn)生認(rèn)知的必要條件。

　　“智能體現(xiàn)哪些方面?首先是感知外界環(huán)境的能力;二是根據(jù)感知進(jìn)行推理;三是推理形成決策觸動(dòng)機(jī)器做反饋(如說(shuō)視覺(jué)、聲音);最后且更重要的是能適應(yīng)環(huán)境，不然就會(huì)變成死程序。這里有條橫線很重要——記憶。Numenta創(chuàng)始人Jeff Hawkins寫(xiě)過(guò)一本書(shū)《人工智能的未來(lái)》，就是專(zhuān)門(mén)講怎樣去看待人工智能。智能就表現(xiàn)在能利用記憶進(jìn)行預(yù)測(cè)，若能做到這一點(diǎn)，機(jī)器就真有智能了。記憶能力非常重要，很多人工智能廠商正在將它加入系統(tǒng)。”