三位深度學(xué)習(xí)之父共獲2019年圖靈獎(jiǎng)

　　2019年3月27日 ——ACM宣布，深度學(xué)習(xí)的三位創(chuàng)造者Yoshua Bengio， Yann LeCun， 以及Geoffrey Hinton獲得了2019年的圖靈獎(jiǎng)。

　　今天，深度學(xué)習(xí)已經(jīng)成為了人工智能技術(shù)領(lǐng)域最重要的技術(shù)之一。在最近數(shù)年中，計(jì)算機(jī)視覺、語音識(shí)別、自然語言處理和機(jī)器人取得的爆炸性進(jìn)展都離不開深度學(xué)習(xí)。

　　三位科學(xué)家發(fā)明了深度學(xué)習(xí)的基本概念，在實(shí)驗(yàn)中發(fā)現(xiàn)了驚人的結(jié)果，也在工程領(lǐng)域做出了重要突破，幫助深度神經(jīng)網(wǎng)絡(luò)獲得實(shí)際應(yīng)用。

　　在ACM的公告中，Hinton最重要的貢獻(xiàn)來自他1986年發(fā)明反向傳播的論文“Learning Internal Representations by Error Propagation”，1983年發(fā)明的玻爾茲曼機(jī)(Boltzmann Machines)，以及2012年對(duì)卷積神經(jīng)網(wǎng)絡(luò)的改進(jìn)。Hinton和他的學(xué)生Alex Krizhevsky以及Ilya Sutskever 通過Rectified Linear Neurons和 Dropout Regularization改進(jìn)了卷積神經(jīng)網(wǎng)絡(luò)，并在著名的ImageNet評(píng)測中取得了很好的成績，在計(jì)算機(jī)視覺領(lǐng)域掀起一場革命。

　　Bengio的貢獻(xiàn)主要在1990年代發(fā)明的Probabilistic models of sequences。他把神經(jīng)網(wǎng)絡(luò)和概率模型(例如隱馬爾可夫模型)結(jié)合在一起，并和AT&T公司合作，用新技術(shù)識(shí)別手寫的支票?，F(xiàn)代深度學(xué)習(xí)技術(shù)中的語音識(shí)別也是這些概念的擴(kuò)展。此外Bengio還于2000年還發(fā)表了劃時(shí)代的論文“A Neural Probabilistic Language Model”，使用高維詞向量來表征自然語言。他的團(tuán)隊(duì)還引入了注意力機(jī)制，讓機(jī)器翻譯獲得突破，也成為了讓深度學(xué)習(xí)處理序列的重要技術(shù)。

　　Yann LeCun的代表貢獻(xiàn)之一是卷積神經(jīng)網(wǎng)絡(luò)。1980年代，LeCun發(fā)明了卷積神經(jīng)網(wǎng)絡(luò)，現(xiàn)在已經(jīng)成為了機(jī)器學(xué)習(xí)領(lǐng)域的基礎(chǔ)技術(shù)之一，也讓深度學(xué)習(xí)效率更高。1980年代末期，Yan LeCun在多倫多大學(xué)和貝爾實(shí)驗(yàn)室工作期間，首次將卷積神經(jīng)網(wǎng)絡(luò)用于手寫數(shù)字識(shí)別。今天，卷積神經(jīng)網(wǎng)絡(luò)已經(jīng)成為了業(yè)界標(biāo)準(zhǔn)技術(shù)，廣泛用于計(jì)算機(jī)視覺、語音識(shí)別、語音合成、圖片合成，以及自然語言處理等學(xué)術(shù)方向，以及自動(dòng)駕駛、醫(yī)學(xué)圖片識(shí)別、語音助手、信息過濾等工業(yè)應(yīng)用方向。LeCun的第二個(gè)重要貢獻(xiàn)是改進(jìn)了反向傳播算法。他提出了一個(gè)早期的反向傳播算法backprop，也根據(jù)變分原理給出了一個(gè)簡潔的推導(dǎo)。他的工作讓反向傳播算法更快，比如描述了兩個(gè)簡單的方法可以減少學(xué)習(xí)時(shí)間。LeCun第三個(gè)貢獻(xiàn)是拓展了神經(jīng)網(wǎng)絡(luò)的應(yīng)用范圍。他把神經(jīng)網(wǎng)絡(luò)變成了一個(gè)可以完成大量不同任務(wù)的計(jì)算模型。他早期引進(jìn)的一些工作現(xiàn)在已經(jīng)成為了人工智能的基礎(chǔ)概念。例如，在圖片識(shí)別領(lǐng)域，他研究了如何讓神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)層次特征，這一方法現(xiàn)在已經(jīng)用于很多日常的識(shí)別任務(wù)。他們還提出了可以操作結(jié)構(gòu)數(shù)據(jù)(例如圖數(shù)據(jù))的深度學(xué)習(xí)架構(gòu)。

　　圖靈獎(jiǎng)由ACM于1966年設(shè)置，設(shè)立目的之一是紀(jì)念著名的計(jì)算機(jī)科學(xué)先驅(qū)艾倫·圖靈。圖靈獎(jiǎng)是計(jì)算機(jī)科學(xué)領(lǐng)域的最高獎(jiǎng)。獲獎(jiǎng)?wù)弑仨氃谟?jì)算機(jī)領(lǐng)域具有持久重大的先進(jìn)性技術(shù)貢獻(xiàn)。人工智能領(lǐng)域的先驅(qū)馬文·明斯基(Marvin Lee Minsky)、約翰·麥卡錫(John McCarthy)、艾倫·紐厄爾(Allen Newell)和司馬賀(Herbert Alexander Simon)等人都曾經(jīng)獲獎(jiǎng)。華人科學(xué)家姚期智2000年因?yàn)閭坞S機(jī)數(shù)生成等計(jì)算領(lǐng)域的重要貢獻(xiàn)獲獎(jiǎng)。