英偉達(dá)的進(jìn)化之路：從電子游戲到人工智能

　　“深度學(xué)習(xí)幾乎和大腦一樣”，黃仁勛說(shuō)：“它非常有用，你可以教會(huì)他幾乎所有事情。但是它有一個(gè)非常大的壁壘，那就是它需要大量的計(jì)算。而我們的GPU具備這樣的計(jì)算能力，是深度學(xué)習(xí)計(jì)算模型的理想選擇?！?/p>本文引用地址：http://www.ex-cimer.com/article/201612/341844.htm

　　深度學(xué)習(xí)發(fā)展史具有里程碑意義的事件發(fā)生在2010年帕羅奧圖的一家日本餐館，在這里，斯坦福的軟件語(yǔ)言學(xué)教授吳恩達(dá)(Andrew Ng)會(huì)見(jiàn)了Google 當(dāng)時(shí)的 CEO 拉里·佩奇和塞巴斯蒂安·特倫(Sebastian Thrun)。塞巴斯蒂安·特倫是一位才華洋溢的計(jì)算機(jī)科學(xué)家，后來(lái)成為了Google X實(shí)驗(yàn)室的負(fù)責(zé)人。早在2008年吳恩達(dá)就發(fā)表了一篇關(guān)于將GPU運(yùn)用到深度學(xué)習(xí)模型的學(xué)術(shù)文章?！吧疃葘W(xué)習(xí)在2008年還不常見(jiàn)”，吳恩達(dá)說(shuō)：“當(dāng)時(shí)的風(fēng)氣是寫(xiě)出花哨的算法?！?/p>

　　特倫開(kāi)發(fā)了最早一批的自動(dòng)駕駛車，在斯坦福他和吳恩達(dá)的辦公室只有一墻之隔，這兩位科學(xué)家共同選擇了在Google建立一個(gè)深度學(xué)習(xí)研究團(tuán)隊(duì)。這樣的選擇是有道理的：Google有大量的計(jì)算基礎(chǔ)設(shè)施，這對(duì)于搭建世界上最大的神經(jīng)網(wǎng)絡(luò)來(lái)說(shuō)是再好不過(guò)的了。佩奇同意了他們的想法，Google Brain就這樣誕生了。Google Brain產(chǎn)出的深度學(xué)習(xí)幾乎滲透到了Google的每一個(gè)產(chǎn)品里，尤其是搜索、語(yǔ)音識(shí)別和圖像識(shí)別。

　　在谷歌開(kāi)始開(kāi)發(fā)Google Brain的同時(shí)，相隔2500英里以外的另一只研究團(tuán)隊(duì)也在搗鼓著深層學(xué)習(xí)。2012年，當(dāng)時(shí)還是多倫多大學(xué)博士研究生的Alex Krizhevsky向ImageNet大賽提交了他出色的研究成果。全球各地的參賽者都可以向ImageNet大賽提交自己的軟件，比賽內(nèi)容是軟件對(duì)圖像中的物件和場(chǎng)景識(shí)別的精準(zhǔn)度。Alex Krizhevsky在自己的房間里用兩塊英偉達(dá)GeForce游戲芯片開(kāi)發(fā)出了他的深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)系統(tǒng)，他向其中導(dǎo)入了120萬(wàn)張圖片來(lái)訓(xùn)練其深度學(xué)習(xí)模型。他開(kāi)發(fā)的這套模型所達(dá)到的圖像識(shí)別準(zhǔn)確度是前所未有的，錯(cuò)誤率只有15%——對(duì)于以前25%的錯(cuò)誤率來(lái)說(shuō)是巨大的進(jìn)步。Alex Krizhevsky的研究成果不僅贏得了當(dāng)年的ImageNet大賽還立刻在學(xué)術(shù)界引起了巨大的反響。(Alex Krizhevsky和他以前在多倫多大學(xué)的教授現(xiàn)在都在Google工作。)

　　有了這樣的進(jìn)步以后，深層學(xué)習(xí)開(kāi)始以野火般的趨勢(shì)推展開(kāi)來(lái)。除了谷歌以外，微軟、Facebook和亞馬遜也開(kāi)始著手富有前瞻性的深層學(xué)習(xí)項(xiàng)目。英偉達(dá)加大了對(duì)CUDA基礎(chǔ)軟件生態(tài)系統(tǒng)的投資，這一決定成為了推動(dòng)這一場(chǎng)變革的關(guān)鍵助因?！斑@需要多年投入大量資金，”英偉達(dá)CUDA開(kāi)發(fā)團(tuán)隊(duì)領(lǐng)頭人Ian Buck說(shuō)：“我們現(xiàn)在正在從多年前這筆富有遠(yuǎn)見(jiàn)的投資中收獲果實(shí)，這是黃仁勛多年來(lái)一直的承諾。”

　　基于深層學(xué)習(xí)，英偉達(dá)持續(xù)優(yōu)化其硬件。英偉達(dá)將8片最新發(fā)布的服務(wù)器芯片Tesla P100集裝在一個(gè)三英尺長(zhǎng)五英寸厚的長(zhǎng)方形容器中，英偉達(dá)將這個(gè)容器命名為DGX-1并號(hào)稱其是“世界上第一臺(tái)盒子里的AI”。這臺(tái)售價(jià)130,000美金的機(jī)器的計(jì)算速度達(dá)到了每秒170萬(wàn)億次( teraflop)，這相當(dāng)于250臺(tái)傳統(tǒng)服務(wù)器的計(jì)算速度。今年8月，黃仁勛親自將第一臺(tái)DGX-1送給Elon Musk，Elon Musk在舊金山運(yùn)營(yíng)了一個(gè)名為OpenAI的非營(yíng)利AI項(xiàng)目。

　　黃仁勛的競(jìng)爭(zhēng)意識(shí)在他早年就顯現(xiàn)出來(lái)了。黃仁勛于1963年出生在臺(tái)灣，在他10歲那年，他的父母還在辦理移民手續(xù)，他被送到肯塔基州東部偏遠(yuǎn)地區(qū)的寄宿學(xué)校上學(xué)，在那里度過(guò)了糟糕的青春時(shí)光。當(dāng)時(shí)那里環(huán)境惡劣，他的室友是比他年長(zhǎng)7歲，身上有7處刀傷的男生。黃仁勛找到了自己的情緒出口，他迷上了乒乓球。1978年，15歲那年，他在美國(guó)乒乓球公開(kāi)賽中奪得了青年組雙人季軍。

　　黃仁勛在高中時(shí)又迷上了計(jì)算機(jī)，后來(lái)在俄勒岡州立大學(xué)(Oregon State University)學(xué)習(xí)計(jì)算機(jī)科學(xué)及芯片設(shè)計(jì)。在那里，他還遇見(jiàn)了他的老婆Lori。畢業(yè)以后，他們搬到了硅谷，在這里黃仁勛的第一份工作是在Intel的對(duì)手AMD那里設(shè)計(jì)處理器芯片。同時(shí)，他繼續(xù)進(jìn)修學(xué)習(xí)，在1992年，他在斯坦福取得了電氣工學(xué)學(xué)碩士學(xué)位。接下來(lái)，他就在芯片制造商LSI Corp.遇見(jiàn)了Malachowsky和Priem，當(dāng)時(shí)Malachowsky和Priem都還在Sun Microsystems工作。

　　他們?nèi)齻€(gè)想創(chuàng)辦一家圖像處理芯片公司時(shí)，黃仁勛才剛滿30歲。他們?cè)谠缙趫D像處理中看到了可以帶來(lái)進(jìn)步的巨大機(jī)遇，他們的產(chǎn)品后來(lái)也成功的運(yùn)用在了PC上。

　　英偉達(dá)在1995年發(fā)布了第一代芯片NV1，耗費(fèi)了1千萬(wàn)美金開(kāi)發(fā)費(fèi)，這筆錢由紅杉資本和Sutter Hill Ventures提供。英偉達(dá)設(shè)想NV1可以在很多場(chǎng)景下使用，但不幸的是消費(fèi)者并不買單。當(dāng)時(shí)英偉達(dá)才剛建立起來(lái)兩年，瀕臨破產(chǎn)，他們被迫解雇了幾乎一半的員工，最后留下了40人。他們于1997年發(fā)布的第三代芯片RIVA128終于取得了成功。RIVA128的速度比其他圖形處理器快4倍，公司的危機(jī)也由此解除了。

　　在接下來(lái)一二十年里，各廠商都在不斷打破處理速度記錄，這已成為該行業(yè)和英偉達(dá)的常態(tài)。但是當(dāng)時(shí)的70家GPU公司現(xiàn)在還存在的只有英偉達(dá)和AMD了。

　　在當(dāng)時(shí)，黃仁勛就成功地打造了愉快的工作氛圍，這呼應(yīng)了該公司在Just 100榜單上的排名。他一直心系員工。在2015年的一場(chǎng)關(guān)于工作環(huán)境多樣化的會(huì)議上，他和一群英偉達(dá)女員工聊后發(fā)現(xiàn)了她們不能在事業(yè)上更上一層的原因。其中很重要的一點(diǎn)就是產(chǎn)假。黃仁勛決心改善這一狀況?，F(xiàn)在英偉達(dá)的員工可以休22周的帶薪產(chǎn)假，另外還有8周的彈性時(shí)間作為回歸過(guò)渡期。

　　黃仁勛將員工的幸福都?xì)w功于英偉達(dá)所做的事業(yè)。進(jìn)入深沉學(xué)習(xí)這樣的領(lǐng)域也為整個(gè)工作氛圍注入了新的活力。“工作必須能夠給整個(gè)社會(huì)帶來(lái)價(jià)值。我們希望我們的工作可以改進(jìn)癌癥的早期發(fā)現(xiàn)和診斷。這多么美妙啊!”

　　英偉達(dá)的成功并不是沒(méi)有人注意到，幾乎所有的大型芯片商都突然開(kāi)始追尋AI夢(mèng)了，同時(shí)也有大量的初創(chuàng)公司開(kāi)始開(kāi)發(fā)架構(gòu)新型的深層學(xué)習(xí)芯片。開(kāi)始躁動(dòng)的不僅是芯片制造商。未來(lái)科技業(yè)中，深層學(xué)習(xí)至關(guān)重要，因此英偉達(dá)最重要的客戶Google現(xiàn)在也開(kāi)始制造芯片了，成了其競(jìng)爭(zhēng)對(duì)手。Google在此之前從未制造過(guò)芯片。

　　Google在5月的開(kāi)發(fā)者大會(huì)上宣布已經(jīng)搭建好了一款名為Tensor Processor Unit的定制芯片，該芯片專為其深層學(xué)習(xí)框架TensorFlow制造。Google表示已經(jīng)在其數(shù)據(jù)中心中使用此芯片以改善其地圖服務(wù)和優(yōu)化搜索結(jié)果。

　　無(wú)獨(dú)有偶，英偉達(dá)的另一客戶微軟現(xiàn)在也開(kāi)始為自己的數(shù)據(jù)中心開(kāi)發(fā)制造芯片，該定制芯片被命名為FPGA，量產(chǎn)后，該芯片可以被重新編碼，對(duì)于AI app來(lái)說(shuō)十分有利。

　　半導(dǎo)體行業(yè)的領(lǐng)軍人物英特爾似乎尤其懼怕英偉達(dá)的進(jìn)步。在錯(cuò)過(guò)了智能手機(jī)的浪潮以后，它不能再錯(cuò)過(guò)深層學(xué)習(xí)的浪潮了。英特爾沒(méi)有先進(jìn)的AI研究，于是選擇了瘋狂收購(gòu)。英特爾最近買進(jìn)了兩家AI初創(chuàng)公司：在8月以4億多美金購(gòu)入了Nervana，接下來(lái)還會(huì)收購(gòu)Movidius，該筆收購(gòu)還暫未披露任何報(bào)價(jià)。去年英特爾還豪擲160億美金購(gòu)入了FPGA制造商Altera。

　　英特爾非常注重維護(hù)其收入來(lái)源——數(shù)據(jù)中心。英特爾以壟斷地位占據(jù)了該市場(chǎng)幾乎99%的市場(chǎng)份額。英偉達(dá)現(xiàn)有的芯片還不能替代英特爾的處理器，英特爾的處理器速度仍然更勝一籌。但是英特爾更想的是它的客戶們都只用它的產(chǎn)品。因此，英特爾計(jì)劃在2017年發(fā)布一款為深層學(xué)習(xí)優(yōu)化的服務(wù)器芯片——新一代Xeon Phi處理器。英特爾高調(diào)的宣布，有了從Nervana購(gòu)入的技術(shù)，該公司可以在2020年之前將現(xiàn)有的深層學(xué)習(xí)網(wǎng)絡(luò)速度提高100倍。

　　英偉達(dá)的優(yōu)勢(shì)是它早于英特爾，AMD及其他對(duì)手在深層學(xué)習(xí)領(lǐng)域開(kāi)展業(yè)務(wù)。但是它也不能松懈。多年來(lái)，它在該領(lǐng)域一枝獨(dú)秀，但是現(xiàn)在市場(chǎng)涌入了更多競(jìng)爭(zhēng)者了。“我認(rèn)為英偉達(dá)所處的位置非常好，形勢(shì)對(duì)他們非常有利，但是我還是不能保證他們會(huì)怎么樣，”資深科技分析家 Jon Peddie說(shuō)到，“有太多人對(duì)這個(gè)市場(chǎng)虎視眈眈了?！?/p>

　　“AI 計(jì)算是計(jì)算機(jī)的未來(lái)，”黃仁勛說(shuō)：“只要我們繼續(xù)保持著最優(yōu)AI計(jì)算平臺(tái)的位置，我認(rèn)為我們可以獲得大量業(yè)務(wù)。最終，GPU會(huì)存在于每一個(gè)公司。”

　　黃仁勛沿襲了曾長(zhǎng)期執(zhí)掌英特爾的Andy Grove 在其90年代的暢銷書(shū)《只有偏執(zhí)狂才能生存》(Only the Paranoid Survive)中的哲學(xué)理念。

　　“我一直都假設(shè)我們30天以后就沒(méi)有業(yè)務(wù)了，”黃仁勛說(shuō)：“這從來(lái)沒(méi)有變過(guò)。這不是害怕失敗，這是害怕自滿，我不想在心中為自滿留下一點(diǎn)點(diǎn)位置。”