不可忽視的英偉達(dá) GPU 與阿里「暖科技」AI 推理應(yīng)用的遍地開(kāi)花

定損寶，是阿里巴巴旗下螞蟻金服推出的「全自動(dòng)汽車定損解決方案」，簡(jiǎn)單來(lái)說(shuō)，車主只需要在事故現(xiàn)場(chǎng)用自己的手機(jī)拍下圖片就能夠完成整個(gè)定損流程。

圖片被上傳至云端后，通過(guò)機(jī)器學(xué)習(xí)和 AI 技術(shù)的相關(guān)損害的分析，在確定損害程度之后會(huì)直接給出定損金額。全程不需要保險(xiǎn)公司線下人員的介入?！高@不光節(jié)約了我們的人力成本，也提升了處理效率，更重要的價(jià)值就在節(jié)約了大家的時(shí)間?！挂晃粡氖卤ｋU(xiǎn)行業(yè)的業(yè)內(nèi)人士說(shuō)到。

像這樣的「暖科技」技術(shù)，在云棲大會(huì)上比比皆是。作為第四屆阿里巴巴云棲大會(huì)，這次也是吸引了近 6 萬(wàn)人參加，涉及到全球 64 個(gè)國(guó)家，創(chuàng)造了新的記錄。歷經(jīng) 8 年演化，云棲大會(huì)已經(jīng)成為了全球最具影響力的科技展會(huì)之一。

刷臉過(guò)閘機(jī)、未來(lái)商店、AI 語(yǔ)音點(diǎn)餐、機(jī)器人格斗大賽……這里展示了非常多的阿里巴巴這個(gè)大生態(tài)下的科技。而在這樣的科技背后，我們看到了越來(lái)越多的 AI 推理應(yīng)用的落地，也越來(lái)越多的感受到了 AI 的力量。

在阿里巴巴將這些技術(shù)打造成「基礎(chǔ)設(shè)施」的邏輯下，我們更不能忽視的是實(shí)現(xiàn)它的「基石」——英偉達(dá) GPU。

「在以前，也許能實(shí)現(xiàn)這樣的技術(shù)，但是根本不可能開(kāi)放給這么多人使用，資源不足，但現(xiàn)在它成為了必然，它甚至還確實(shí)替代了很多人的工作。」一位講解員這么說(shuō)。

確實(shí)，伴隨著 AI 能力的發(fā)展，更重要的是隨著算力的增長(zhǎng)、資源的擴(kuò)大甚至是 GPU 這樣的芯片帶來(lái)的運(yùn)算效率提升。

同樣在云棲大會(huì)的現(xiàn)場(chǎng)感受強(qiáng)烈的是，GPU 在 AI 領(lǐng)域的應(yīng)用正在不斷的幫助阿里在更多領(lǐng)域?qū)崿F(xiàn)技術(shù)的創(chuàng)新和應(yīng)用。

其實(shí)更多的 GPU 都被使用在了幕后，而不是每個(gè)人的個(gè)人電腦中，而這些多數(shù)時(shí)候都是大眾「可感而不可知的」。例如很多人都在淘寶上看到的「推薦產(chǎn)品」或者說(shuō)「猜你喜歡」，它的背后正是這個(gè) alimama 機(jī)器學(xué)習(xí)平臺(tái)，它也是阿里巴巴電商系統(tǒng)的重要后端組成。它的主要作用是通過(guò)大數(shù)據(jù)來(lái)訓(xùn)練深度學(xué)習(xí)模型，然后為平臺(tái)上的用戶顯示他們最感興趣的產(chǎn)品。

在訓(xùn)練階段，Alimama 訓(xùn)練平臺(tái) XDL 能夠從數(shù)據(jù)中學(xué)習(xí)到 1000 億種特征，在整個(gè)訓(xùn)練過(guò)程跟蹤，因?yàn)?NVIDIA Tesla GPU 加速卡的作用，XDL 的運(yùn)行速率得到了 10 倍提升。

最具爭(zhēng)議的「鑒黃師」職位也早已被 AI 取代。由于優(yōu)酷每天新視頻數(shù)量達(dá)到十萬(wàn)至百萬(wàn)級(jí)，實(shí)際圖片計(jì)算數(shù)量可達(dá)億級(jí)；同時(shí)內(nèi)容種類豐富，涵蓋的種類特別多；但內(nèi)容處理的時(shí)效性要求也特別強(qiáng)。

所以優(yōu)酷推出了一套「AI 內(nèi)容理解」，主要用在于快速對(duì)新上傳的視頻進(jìn)行自動(dòng)化審核內(nèi)容理解標(biāo)簽、視頻質(zhì)量分級(jí)、聚類選品等方面，更多的就是類似「鑒黃師」這樣的工作。

這套系統(tǒng)的的要求十分嚴(yán)苛。在具體輸出內(nèi)容理解時(shí)，還會(huì)涉及到多個(gè)維度，如鏡頭、標(biāo)題、OCR、音頻、圖像、光流，因此需要多種 AI 算法同時(shí)運(yùn)行處理。所以最終優(yōu)酷視頻選擇了 GPU+CPU 的異構(gòu)運(yùn)算基礎(chǔ)，在深度學(xué)習(xí)框架層還采用了 NVIDIA 的 TensorRT 技術(shù)來(lái)加速 AI 算法架構(gòu) Tensorflow。

在具體硬件方面，優(yōu)酷采用了 NVIDIA Tesla P100 和 Tesla P4 GPU 加速器結(jié)合的方式。其中 Tesla P100 比較擅長(zhǎng)大規(guī)模的數(shù)據(jù)處理及分析，Tesla P4 則專門(mén)針對(duì)圖像視頻的 AI 處理進(jìn)行了優(yōu)化。

可能在于普通的優(yōu)酷觀看者，這一切都沒(méi)有發(fā)生變化。但在上傳視頻這一段，審核速度得到明顯提升，這樣的 AI 技術(shù)得到了更好的應(yīng)用，優(yōu)質(zhì)內(nèi)容也能第一時(shí)間上線。

這些 AI 應(yīng)用有很多被阿里稱為「暖科技」，的確，他們不是那些冷峻炫酷，漸漸轉(zhuǎn)向那些虛無(wú)縹緲的技術(shù)噱頭，它的對(duì)面則是「暖科技」——技術(shù)像暖流一樣浸潤(rùn)到日常使用中的每一寸發(fā)膚，可觸摸、可享受、可親近。

同時(shí)，阿里還將這種能力開(kāi)放出來(lái)，在今年上半年，2018 云棲大會(huì)·深圳峰會(huì)上，阿里云宣布與 NVIDIA GPU 云（NGC）合作，開(kāi)發(fā)者可以在云市場(chǎng)下載 NVIDIA GPU 云鏡像和運(yùn)行 NGC 容器，來(lái)使用阿里云上的 NVIDIA GPU 計(jì)算平臺(tái)。

阿里將這種「暖」能力賦與更多的開(kāi)發(fā)者，英偉達(dá) GPU 在背后的能力輸出更是不可忽視，未來(lái)，越來(lái)越多的技術(shù)創(chuàng)新和應(yīng)用也許就像背后的 GPU 一樣默默用技術(shù)溫暖你。