Leslie Valiant：機(jī)器學(xué)習(xí)所面臨的挑戰(zhàn)

　　9月6日，以“AI賦能，驅(qū)動(dòng)未來(lái)”為主題的2018中國(guó)人工智能峰會(huì)(CAIS 2018)在南京國(guó)際博覽會(huì)議中心成功召開(kāi)。本次峰會(huì)匯聚了Leslie Valiant、吳恩達(dá)、周志華、李波等人工智能領(lǐng)域的多位頂級(jí)大咖以及京東、ARM、華為、小米、拜騰等企業(yè)代表。其中，2010年圖靈獎(jiǎng)得主、英國(guó)皇家學(xué)會(huì)會(huì)士，美國(guó)科學(xué)院院士，哈佛大學(xué)教授Leslie Valiant帶來(lái)了主題為《Challenges for Machine Learning》的演講 。

　　Leslie Valiant在演講中說(shuō)，人類在1950年就開(kāi)始探討機(jī)器學(xué)習(xí)。近年來(lái)，有一個(gè)重要概念就是監(jiān)督學(xué)習(xí)，即首先獲取信息以及知識(shí)然后執(zhí)行一個(gè)動(dòng)作。機(jī)器學(xué)習(xí)可以通過(guò)不斷訓(xùn)練，不斷得到反饋修正它的行為，減少錯(cuò)誤率，從而提高機(jī)器預(yù)測(cè)的準(zhǔn)確度。

　　機(jī)器學(xué)習(xí)的局限在于數(shù)據(jù)運(yùn)算方式不能改變太多。人類可以在機(jī)器學(xué)習(xí)當(dāng)中不斷做進(jìn)一步補(bǔ)充，讓機(jī)器可以像人一樣推理分析。機(jī)器學(xué)習(xí)可以實(shí)現(xiàn)分析推理，但需要訓(xùn)練它，讓它獲取知識(shí)然后進(jìn)行訓(xùn)練或?qū)W習(xí)。

　　學(xué)習(xí)和推理能力對(duì)機(jī)器學(xué)習(xí)是一個(gè)巨大的挑戰(zhàn)。因?yàn)閷W(xué)習(xí)和推理是按照不同方式構(gòu)成的，它們之間目前還不兼容。對(duì)于人工智能方面的預(yù)測(cè)能力來(lái)說(shuō)，只有訓(xùn)練數(shù)據(jù)可靠，才能讓人工智能掌握一些人類具備的能力，執(zhí)行一些人類目前才能執(zhí)行的任務(wù)。

　　以下為L(zhǎng)eslie Valiant演講實(shí)錄：

　　今天我給大家講的主要是關(guān)于人工智能，介紹一下機(jī)器學(xué)習(xí)的歷史，它的發(fā)展現(xiàn)狀以及什么是人工智能。人工智能指的是計(jì)算機(jī)能夠獲取知識(shí)，可以根據(jù)獲取到的知識(shí)執(zhí)行一些指令做出行動(dòng)。

　　首先，介紹關(guān)于它的歷史背景信息。對(duì)于機(jī)器人也就是沒(méi)有實(shí)體形狀的大腦來(lái)說(shuō)，在眾多的游戲中，比如圍棋、橋牌、撲克游戲、學(xué)習(xí)語(yǔ)言、翻譯語(yǔ)言、密碼學(xué)、數(shù)學(xué)。我們研究發(fā)現(xiàn)，機(jī)器在圍棋和學(xué)習(xí)語(yǔ)言方面表現(xiàn)比較好，而翻譯的表現(xiàn)就沒(méi)那么好。另外想強(qiáng)調(diào)的就是語(yǔ)言學(xué)習(xí)，我認(rèn)為語(yǔ)言學(xué)習(xí)對(duì)于機(jī)器是非常困難的。這就是圖靈1948年的手稿內(nèi)容。

　　在1950年開(kāi)始有人工智能概念，此后一直都在不斷發(fā)展，但還有一個(gè)尚未解決的挑戰(zhàn)，即獲取信息的問(wèn)題。在1950年就開(kāi)始探討機(jī)器學(xué)習(xí)，知識(shí)獲取是程序化還是像人類一樣學(xué)習(xí)式的。眾所周知，機(jī)器需要進(jìn)行編程，但我想說(shuō)這個(gè)觀點(diǎn)也許有一點(diǎn)誤導(dǎo)。在這個(gè)階段，我們開(kāi)始研究程序是如何運(yùn)行的，機(jī)器的程序跟人腦的運(yùn)作有哪些相同的地方以及不同的地方。

　　近年來(lái)人工智能領(lǐng)域研究以及發(fā)展有突破性的進(jìn)展。有一個(gè)很重要的概念——監(jiān)督學(xué)習(xí)。監(jiān)督學(xué)習(xí)首先需要獲取信息以及知識(shí)然后執(zhí)行一個(gè)動(dòng)作。比如識(shí)識(shí)別圖像上的花朵，在獲取知識(shí)階段，它需要給圖像加標(biāo)簽;在執(zhí)行的階段，需要對(duì)圖像的信息進(jìn)行分類。那機(jī)器的監(jiān)督學(xué)習(xí)主要怎么做?

　　我們都知道圖像識(shí)別和語(yǔ)音識(shí)別近年來(lái)發(fā)展很快，也是以這種方法進(jìn)行的。重要的是，我們要了解這些現(xiàn)象背后的原理。有些人會(huì)擔(dān)心智能機(jī)器人會(huì)不會(huì)有一天會(huì)取代人類，或者摧毀人類。其實(shí)，技術(shù)的發(fā)展總會(huì)給我們帶來(lái)一些挑戰(zhàn)及問(wèn)題，它一定是有風(fēng)險(xiǎn)的，但如何尋找更加合理的方式去應(yīng)對(duì)這種挑戰(zhàn)以及風(fēng)險(xiǎn)，這是需要去考慮的。因?yàn)?，科學(xué)也不是百分之百正確，有時(shí)候它們會(huì)犯一些錯(cuò)誤，我們需要去梳理這其中的邏輯。我們應(yīng)該把人工智能看作一項(xiàng)非常有前景的科研技術(shù)，但是也應(yīng)該理性的去看待它。

　　監(jiān)督學(xué)習(xí)是什么?我們都知道做預(yù)測(cè)無(wú)論是人或機(jī)器都會(huì)犯一些錯(cuò)誤。如果我們?cè)黾佑?xùn)練的頻率、計(jì)算的次數(shù)、預(yù)測(cè)的錯(cuò)誤率會(huì)改變。在機(jī)器人學(xué)習(xí)里面，獎(jiǎng)賞是很重要的概念。在不斷訓(xùn)練中，機(jī)器不斷得到反饋，然后修正它的行為。經(jīng)過(guò)多次計(jì)算訓(xùn)練之后，錯(cuò)誤率明顯減少，因此機(jī)器的表現(xiàn)是跟訓(xùn)練的模式相關(guān)。通過(guò)大量數(shù)據(jù)的訓(xùn)練，可以逐步減少錯(cuò)誤的概率，從而提高機(jī)器預(yù)測(cè)的準(zhǔn)確度。

　　簡(jiǎn)單介紹機(jī)器學(xué)習(xí)后，接下來(lái)介紹機(jī)器學(xué)習(xí)能夠幫助我們做什么、以及它的應(yīng)用。這里有一些科學(xué)家做的研究并提出八個(gè)點(diǎn)，包括哪些機(jī)器學(xué)習(xí)能夠去做、哪些是機(jī)器學(xué)習(xí)的局限。比如，我們有清晰定義的目標(biāo)、衡量的方式、計(jì)算方式是非常明確定義的、我們需要清晰的輸入、一定程度的容錯(cuò)區(qū)間、大量的數(shù)據(jù)集用于訓(xùn)練。

　　另外一個(gè)局限，這些數(shù)據(jù)運(yùn)算方式不能不斷去改變太多。比如推理，目前，這些推理和復(fù)雜環(huán)境相關(guān)的因素現(xiàn)在機(jī)器學(xué)習(xí)做得不夠好，所以，機(jī)器學(xué)習(xí)還要進(jìn)一步去推進(jìn)。

　　我們可以在機(jī)器學(xué)習(xí)當(dāng)中不斷做進(jìn)一步補(bǔ)充，讓機(jī)器像人一樣可以推理、分析。這些問(wèn)題不那么容易解決。如果問(wèn)人類“孔子是有筆記本電腦嗎?”你能夠簡(jiǎn)單的回答這些問(wèn)題，機(jī)器學(xué)習(xí)也可以實(shí)現(xiàn)，但要去訓(xùn)練它。在人類看來(lái)很簡(jiǎn)單的問(wèn)題機(jī)器也需要學(xué)習(xí)。當(dāng)它回答“孔子到底有沒(méi)有筆記本電腦這個(gè)問(wèn)題”，需要去訓(xùn)練它，它首先要獲取知識(shí)，然后再進(jìn)行訓(xùn)練或?qū)W習(xí)，這個(gè)時(shí)候才可能回答這個(gè)問(wèn)題。

　　通過(guò)回答古代的人是否有筆記本電腦這個(gè)問(wèn)題可以說(shuō)明，很多人能夠簡(jiǎn)單做的事，機(jī)器很難做到。人們獲取的知識(shí)是用自己的推理或分析，就可以回答一些之前沒(méi)有見(jiàn)過(guò)的問(wèn)題。這樣一個(gè)簡(jiǎn)單的黑盒學(xué)習(xí)，圖像是大象還是別的動(dòng)物，對(duì)于機(jī)器來(lái)說(shuō)需要先訓(xùn)練或?qū)W習(xí)才能回答。人類是憑知覺(jué)，是否有科學(xué)方式可以去問(wèn)一些問(wèn)題，在機(jī)器學(xué)習(xí)當(dāng)中，我們到底還要做什么樣的工作才能確保它們將來(lái)具備像人類那樣的推理和分析能力。人類經(jīng)常做完形填空的練習(xí)，比如，《中國(guó)日?qǐng)?bào)》英文版上周有三句話，把其中的一個(gè)單詞拿走，讓人們做完形填空，來(lái)測(cè)試人類的智能和機(jī)器的智能，這很容易測(cè)試。因此，我們可以對(duì)此展開(kāi)一些科學(xué)的研究，人會(huì)怎么樣回答這個(gè)問(wèn)題。如果你不知道這個(gè)背景知識(shí)，很難回答這樣的一些問(wèn)題，你需要背景知識(shí)，你必須要用已經(jīng)儲(chǔ)備的知識(shí)、認(rèn)知和推理分析能力，才能進(jìn)行黑盒學(xué)習(xí)，進(jìn)行完形填空，以背景知識(shí)回答。

　　顯然，機(jī)器學(xué)習(xí)需要進(jìn)行訓(xùn)練，但人有推理能力，即使之前不知道也可以根據(jù)已有知識(shí)進(jìn)行推理和分析。如果出現(xiàn)一個(gè)前所未有的東西，這時(shí)候需要人類才具備的推理能力，機(jī)器就落了下風(fēng)。

　　講到推理、常識(shí)方面的東西，可能這時(shí)候要帶雨衣，因?yàn)橛锌赡芟掠?。這對(duì)人類是簡(jiǎn)單的理解和推理，但讓機(jī)器能夠獲取這一的知識(shí)和認(rèn)知，很多時(shí)候機(jī)器是沒(méi)有答案的。這對(duì)人類是嘗試，不用寫下來(lái)，但是這對(duì)于人工智能的挑戰(zhàn)就是要讓機(jī)器理解人類達(dá)成的嘗試。即這個(gè)世界的通用規(guī)則，并且機(jī)器利還要用這些常識(shí)進(jìn)行推理，然后產(chǎn)生人類才有的一些決策和行動(dòng)。當(dāng)然，可以通過(guò)監(jiān)督式的學(xué)習(xí)進(jìn)行對(duì)機(jī)器的訓(xùn)練。也有這樣的一些規(guī)則可以使用，通過(guò)機(jī)器監(jiān)督學(xué)習(xí)讓它們獲得這樣的嘗試，但之前那種編程式的方法是失敗的。因?yàn)檫@個(gè)環(huán)節(jié)非常脆弱，編程的碼農(nóng)在這方面可能都會(huì)有自己的一些假設(shè)。

　　由此可見(jiàn)，這八個(gè)點(diǎn)在機(jī)器學(xué)習(xí)中哪些能做、哪些不能做、有哪些挑戰(zhàn)。當(dāng)中有很多黑盒，給大家舉一些例子，在高層次做一些解釋，一些基礎(chǔ)的東西則不用解釋。所有做決策給到的信息，只要部分的給到就可以做出一些判斷、得出一些想法。如果給到機(jī)器足夠的解釋，是否它就能做和人類一樣的推理和分析?

　　顯然，挑戰(zhàn)是存在的，一些業(yè)內(nèi)精英也在這方面做具體的工作，邏輯推理、邏輯分析、通過(guò)監(jiān)督機(jī)器學(xué)習(xí)的方式進(jìn)行訓(xùn)練和學(xué)習(xí)，讓它取得成功，這樣機(jī)器可以學(xué)習(xí)人類世界更多的常識(shí)和規(guī)則。這個(gè)不隨著時(shí)間的變化而變化，而是一些永恒不變的真理，或是人類社會(huì)的一些常識(shí)，讓機(jī)器可以去掌握，那么，它就可能具備推理和分析的能力。目前的挑戰(zhàn)在于，學(xué)習(xí)和推理是按照不同的方式構(gòu)成的，它們相互之間目前還不兼容，因此，在大腦當(dāng)中，學(xué)習(xí)和推理是形成統(tǒng)一體的，機(jī)器也必須做到這一點(diǎn)。我們需要某種機(jī)制，讓它們像人類一樣具備強(qiáng)大的學(xué)習(xí)和推理能力的結(jié)合。

　　我認(rèn)為學(xué)習(xí)和推理能力的結(jié)合是一個(gè)巨大的挑戰(zhàn)，很多人正在努力開(kāi)展相關(guān)的工作。前面也講過(guò)預(yù)測(cè)，預(yù)測(cè)能力在將來(lái)的人工智能方面是很重要的一個(gè)發(fā)展領(lǐng)域，能夠產(chǎn)生數(shù)據(jù)組，有相關(guān)學(xué)習(xí)推理的方法，并可以不斷改善。這方面還停不下來(lái)，在人類的一些智能方面還要進(jìn)行很多研究，像對(duì)待人類精英教育一樣，不斷的用一些課件和方法來(lái)教會(huì)機(jī)器。這個(gè)挑戰(zhàn)始終是存在的。因?yàn)樾枰ビ?xùn)練機(jī)器，而且我們提供給機(jī)器的訓(xùn)練材料或課件必須要適合機(jī)器的特點(diǎn)，所以，人工智能這方面目前有很多的挑戰(zhàn)。

　　只有訓(xùn)練的數(shù)據(jù)可靠，才能讓人工智能掌握一些人類具備的能力，從而執(zhí)行一些人類目前才能執(zhí)行的任務(wù)。這是挑戰(zhàn)，我先講到這里，感謝各位的耐心聆聽(tīng)。