這三個被遺忘的問題沒解決 談什么人工智能

　　按：姚新，現(xiàn)為英國伯明翰大學(xué)計算機(jī)學(xué)院講座教授，計算智能及其應(yīng)用卓越研究中心主任，IEEE Fellow(院士)，IEEE 計算智能學(xué)會杰出講座教授。2003 - 2008年任IEEE 進(jìn)化計算學(xué)報主編，2014-2015年任IEEE進(jìn)化計算學(xué)會主席。他的主要研究領(lǐng)域包括進(jìn)化計算和集成學(xué)習(xí)及其應(yīng)用，特別是在軟件工程中的應(yīng)用。他的論文曾獲2001年 IEEE Donald G. Fink獎優(yōu)秀論文獎、2010和2015年IEEE 進(jìn)化計算學(xué)報杰出論文獎、2010年BT Gordon Radley 最佳創(chuàng)新作者獎、2011年IEEE 神經(jīng)網(wǎng)絡(luò)學(xué)報杰出論文獎、以及其他一些最佳論文獎。2012年他榮獲久負(fù)盛名的英國皇家學(xué)會沃爾夫森(Wolfson)研究功勛獎，2013年榮獲IEEE計算智能學(xué)會先驅(qū)獎。

　　姚新教授在2016人工智能湖南論壇上報告

　　在類腦研究中究竟有哪些重要的科學(xué)問題呢? 姚新教授就此討論了3 個似乎已被許多類腦計算研究者所忽視的問題。

　　第一個是關(guān)于進(jìn)化的問題。所有生物腦都是進(jìn)化的，然而時下的類腦計算研究計劃很少涉及進(jìn)化的作用。在類腦計算研究中應(yīng)當(dāng)考慮進(jìn)化嗎?

　　第二個是關(guān)于類腦計算系統(tǒng)的運行環(huán)境問題。環(huán)境在類腦計算研究中的作用是什么?

　　第三個是關(guān)于身體的作用或腦體相互作用問題。在生物界不存在沒有身體的大腦。時下的大腦研究計劃很少提及身體的作用，好像含有身體的大腦研究沒有什么是要做的一樣。事情果真是這樣的嗎?

　　對上述問題，姚新教授沒有提供確切的答案，只是謙虛地表示希望通過這 3 個問題起到拋磚引玉的作用。

　　沒有答案，先提問題

　　這三個問題跟產(chǎn)業(yè)界的關(guān)系不那么密切，但是做相關(guān)產(chǎn)業(yè)的話也必須要考慮到這些問題。這個背景很簡單，大家在開幕式的時候可能已經(jīng)感到現(xiàn)在人工智能是相當(dāng)紅火，不但在科研界、學(xué)校比較紅火，在產(chǎn)業(yè)界也非常的紅火。各位領(lǐng)導(dǎo)也說了湖南省長沙市包括雨花區(qū)都喜歡引進(jìn)人工智能有關(guān)的產(chǎn)業(yè)，最好是智能機(jī)器人，而不是一般的工業(yè)機(jī)器人。

　　從研究的角度來說，人工智能又跟人腦的研究又掛上鉤了。按照這個計劃來說，歐盟有專門的人腦研究計劃;美國也有類似的人腦研究計劃，也不叫人腦，是叫大腦，包括人腦和機(jī)器腦，也是通過奧巴馬總統(tǒng)宣布的;在 IEEE 協(xié)會里面也有大腦研究計劃，就是促進(jìn)國際上的合作;國內(nèi)也有很多，包括科學(xué)院或者是國家層面都想研究這個大腦。

　　那么，怎么理解大腦是一方面，另外一方面是怎么把對大腦的理解真正運用到工程中。作為人工智能推進(jìn)的作用，我今天講的這些東西倒不是說要在大腦研究或者是人工智能研究當(dāng)中找到什么答案，我沒有答案，但是我有問題，問題也不多，有三個問題，這三個問題跟我的研究背景有關(guān)系。

　　第一個問題——創(chuàng)造還是演化

　　大家在談到人工智能或者人腦的時候，總是喜歡說做了一個人工智能的東西，但是我做工程或者是科學(xué)的人想過沒有，所有的大腦都是演化來的，沒有一個是人造出來的?，F(xiàn)在我們是想人造一個大腦出來，當(dāng)然這沒有什么問題，唯一問題稍微帶有一點哲學(xué)性。比如說，現(xiàn)在想做一個人工智能的系統(tǒng)，靠人來造，而且現(xiàn)在要做腦計劃，想要做一個人工腦，同時又說要從自然腦里面找到啟發(fā)性的東西，自然的大腦都是演化出來的，不是造出來的。所以這里面的邏輯好像比較奇怪，雖然對一個產(chǎn)品感興趣，卻忽略了產(chǎn)品是怎么來的。這種方法對不對是一個問題，如果只對產(chǎn)品感興趣，卻不管產(chǎn)品怎么來的，只研究將來要研發(fā)的產(chǎn)品研發(fā)的東西。

　　在神經(jīng)網(wǎng)絡(luò)研究里面，有一種很簡單的神經(jīng)網(wǎng)絡(luò)叫層次網(wǎng)，即一層一層的網(wǎng)絡(luò)。最簡單的三層網(wǎng)，一個輸入網(wǎng)，中間的叫做引層，一個是輸出的層。這個網(wǎng)絡(luò)像所有的科學(xué)家那樣可以做很聰明的事情，每個輸入要么是 0 要么是 1，網(wǎng)絡(luò)學(xué)習(xí)能夠判斷 0101 這串?dāng)?shù)字是偶數(shù)還是奇數(shù)。這個事情說起來很簡單，但是如果你只能給計算機(jī)一個例子，通過學(xué)習(xí)，將來的輸入只要是偶數(shù)就給1，只要是奇數(shù)就給0。既然這個問題比較難，研究人員就想用設(shè)計人工神經(jīng)網(wǎng)絡(luò)來完成這個工作。的確，這是人設(shè)計出來的神經(jīng)網(wǎng)絡(luò)，非常的規(guī)則。而且非常好理解它，因為只有三層。這里面是八個輸入，然后中間還設(shè)計了八個神經(jīng)網(wǎng)絡(luò)的結(jié)點，輸出的判斷就是 0101。所以人設(shè)計的東西規(guī)整性很好，也很好理解。但是，假定不靠設(shè)計神經(jīng)網(wǎng)絡(luò)，而用人工演化的方式。讓其自己演化出一個人工神經(jīng)網(wǎng)絡(luò)，結(jié)果和人工設(shè)計出來的結(jié)果有什么一樣和不一樣的地方呢?這個演化的結(jié)果是九個輸入，而不是八個輸入，跟之前的結(jié)果不太一樣，因為層次不是特別的明確，沒有直接的連接。

　　通過演化計算發(fā)現(xiàn)，一個神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)和人算出來的網(wǎng)絡(luò)結(jié)構(gòu)實際上有很大的不同，可以總結(jié)成幾點：

　　第一點可以演化計算得到的網(wǎng)絡(luò)非常緊湊，即這個輸入不是真正的神經(jīng)源，真正的神經(jīng)源就用了四個，中間設(shè)計的神經(jīng)源個數(shù)總是要跟我輸入的個數(shù)一樣，所以這個神經(jīng)網(wǎng)絡(luò)特別大，這是真正演化發(fā)現(xiàn)出來的問題。

　　第二點事通過自動演化發(fā)現(xiàn)的神經(jīng)網(wǎng)絡(luò)，程序會比較多一點，而不像人工那么規(guī)整，除了中間這一層就沒有了。

　　第三點是這個結(jié)構(gòu)出來以后，有一點雜亂無章，所以左邊和右邊是不對稱的，不好理解，這里的問題就比較有意思了，人設(shè)計出來的所謂人工神經(jīng)網(wǎng)絡(luò)和真正演化出來的人工神經(jīng)網(wǎng)絡(luò)都解決同樣的難題，但結(jié)構(gòu)不一樣。這就帶來了一個新問題，假定很幼稚地看成所謂小大腦，這個小大腦完成了測算的問題，但是這里面沒有結(jié)構(gòu)，矛盾在哪里?這很奇怪，這里做研究就有趣了，怎么探討這個問題呢?可以看到，現(xiàn)在所謂人工智能或者是類腦計算、人工神經(jīng)網(wǎng)絡(luò)做的東西，可以下象棋或者是下圍棋，拿世界第一。過兩天又看到人工智能可以人工識別圖像，幾百萬的圖像也可以找到。這些事情跟人要做的事情是兩碼事，一個大腦負(fù)責(zé)處理所有事情，而目前的所有神經(jīng)網(wǎng)絡(luò)系統(tǒng)只專注一件事情。Alpha Go 只會下象棋，不能識別圖像。這個是非常奇妙的現(xiàn)象，大家都說要做智能，但是從人這里找到的靈感，一到人工智能這個世界就變了味道?，F(xiàn)在的人工智能系統(tǒng)或者是人工神經(jīng)網(wǎng)絡(luò)中，一個系統(tǒng)就做一件事，做的非常好，非常專。但是一個大腦要做多件事，所以如果一個系統(tǒng)要做多件事，結(jié)構(gòu)會有什么影響?這就和大腦模塊要干什么事情有關(guān)系，靜態(tài)環(huán)境還是動態(tài)環(huán)境又不一樣，這里又引到我想講的第二個問題了。

　　第二個問題——人工智能還是人工智能系統(tǒng)

　　很多研究者雖然對人工智能或者是類腦計算感興趣，但是很少考慮這個人工智能系統(tǒng)能干什么。光講人工智能，不講人工智能系統(tǒng)能干什么，是缺了某些東西的。人工智能和人工智能系統(tǒng)之間還是有區(qū)別的。

　　原來想講的一個細(xì)節(jié)跟第一個問題一樣，大家至少在學(xué)校里面先做個小實驗。建立起一個人工網(wǎng)絡(luò)的系統(tǒng)，就讓它學(xué)一件事情，可以是圖像識別或者是其他的。只讓它做這一件事，然后讓同樣的神經(jīng)網(wǎng)絡(luò)系統(tǒng)同時學(xué)兩件事，再觀察同樣的初始狀態(tài)，最后學(xué)出來神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)有什么不一樣，會有非常有趣的發(fā)現(xiàn)。這個實驗可以重復(fù)進(jìn)行，一個神經(jīng)網(wǎng)絡(luò)在完成多項工作后，模塊化結(jié)構(gòu)就會很明顯地顯示出來。無論是用什么標(biāo)準(zhǔn)去衡量模塊，如果你讓一個神經(jīng)網(wǎng)絡(luò)完成一項工作的話，某些模塊功能并沒有完全發(fā)揮出來。這就是說在構(gòu)造人工智能系統(tǒng)的時候不能光講系統(tǒng)，一定要講這個系統(tǒng)要干什么，以及干一件事還是兩件事，是在靜態(tài)環(huán)境里面還是在動態(tài)的環(huán)境里面。

　　第三個問題——人工智能的載體

　　這個實際上更簡單，就是身體的問題。這個問題也很特別，所有講人工智能的人，經(jīng)常不講人工智能系統(tǒng)最后放在什么地方。但是所有的大腦都是在身體上面的，所以身體實際上是蠻重要的。研究當(dāng)中，四肢和六肢對大腦是有影響的。為什么研究人工智能的時候往往只研究人腦，而不研究身體呢，主要是因為我們做人工智能的研究的時候的確需要特別發(fā)達(dá)的大腦。

　　我們做過一個人工實驗，就是人工造一個可以游泳的線蟲，這個線蟲是一節(jié)一節(jié)的，然后每一節(jié)的結(jié)構(gòu)也非常簡單，每個小圓圈就代表一個神經(jīng)源。這個神經(jīng)源有一些是來控制運動的，肌肉可以收縮可以伸展。然后線蟲會怎樣運動呢?可以想象線蟲像波浪型往前游，就是靠一邊肌肉收縮，一邊肌肉收縮。一個時間段后，收縮的地方就伸展，伸展的地方就收縮，慢慢往前游。然后讓這個人工系統(tǒng)直線游，從右邊游到左邊，游的越快越好，但是不是從人的思維角度去設(shè)計，就是把線蟲放在水里面自己去游，每一次游的快慢有一個反饋，記錄單位時間里面游了多少厘米。我想觀察的是我給這個線蟲不同的任務(wù)和不同的體態(tài)時，這個神經(jīng)網(wǎng)絡(luò)會怎么出現(xiàn)，所以給這個線蟲分配了兩個任務(wù)。

　　第一個任務(wù)就是讓這個線蟲沿直線從A游到B，游的越快越好。設(shè)計神經(jīng)網(wǎng)絡(luò)控制器時，要使這個線蟲游得越快越好，實際上的控制器非常簡單。畫出來的幾個小圓圈相當(dāng)于神經(jīng)源，神經(jīng)源的位置是可以調(diào)的。神經(jīng)源的位置調(diào)的不一樣，每一次收縮和伸展的力量也不一樣。我們研究神經(jīng)的結(jié)構(gòu)是什么樣的，這只是其中一節(jié)，右上角好像一個小數(shù)字，0、10、200、300 到 1190，這是我表示用這個算法來演化人工神經(jīng)網(wǎng)絡(luò)的時候多少代，第 0 代表示初始化，初始化不知道怎么設(shè)計，所以所有神經(jīng)源的位置在這個圖上面都是隨便放的。到了第 10 代的時候，結(jié)構(gòu)開始有點出現(xiàn)了，因為發(fā)現(xiàn)神經(jīng)源的連接會發(fā)展兩大體，左邊的神經(jīng)源也有連接，右邊的神經(jīng)源也有連接。到了 30 代、200 代、300 代的時候，你就發(fā)現(xiàn)有一定的規(guī)律出來，神經(jīng)源之間，左邊會連起來，右邊連起來，這之間沒有直接的聯(lián)系。這個不是人想出來的，是人研發(fā)出來的，到了 1190 代的時候，非常規(guī)整對稱的結(jié)構(gòu)就出來了，就是這兩邊的小距離幾乎是一樣的，這也不是人設(shè)計出來的，而是發(fā)現(xiàn)出來的。所以這蠻有趣的，剛開始沒有給演化算法任何的指示，只是給定了這樣的線蟲結(jié)構(gòu)，最后出現(xiàn)的神經(jīng)網(wǎng)絡(luò)卻是非常對稱的一個神經(jīng)網(wǎng)絡(luò)。

　　第二個任務(wù)是想研究這種情況下，神經(jīng)網(wǎng)絡(luò)和體態(tài)的關(guān)系。把線蟲的體態(tài)限制住，但任務(wù)還是要直著往上面走，從A到B。大家就可以想像，平常要這樣子波浪形往前走的話，在這種體態(tài)下是做不到的。因為這樣走就走右邊去了，不會往前走。但是我做實驗的時候，不告訴它這個算法，只告訴它這是現(xiàn)在的身體結(jié)構(gòu)有個地方被限制了。身體要往一邊歪的話，短的一面收縮，長的一面伸長，肯定不是對稱的。如果是對稱的，就不會順著頭的方向往前走。這是很明顯的一個小例子，說明設(shè)計一個人工神經(jīng)網(wǎng)絡(luò)或者是一般性探索智能系統(tǒng)，實際上是跟物理的體態(tài)有密切關(guān)系。

　　最根本的一點就是研究人工神經(jīng)網(wǎng)絡(luò)的時候，一定要考慮最后這個神經(jīng)網(wǎng)絡(luò)是放到什么樣的物理系統(tǒng)。比如說，你要研究這個機(jī)器人本身，同時又要設(shè)計控制這個機(jī)器人的系統(tǒng)，那么這個機(jī)器人的體態(tài)跟控制是有密切關(guān)系的，不能分開考慮。

　　總結(jié)

　　這三個問題總結(jié)起來就是三句話：

　　一是所有生物界的大腦都是演化而來的，不是上帝造出來的?，F(xiàn)在要設(shè)計人工大腦的時候，是不是應(yīng)該多考慮一點演化的過程，從演化的過程中應(yīng)該可以學(xué)到一點東西。

　　二是至少在自然界里面，人腦要能夠完成多項工作，而且這是在動態(tài)環(huán)境或者是不確定性環(huán)境里面進(jìn)行的。而現(xiàn)在做的很多的人工智能系統(tǒng)都是把定義定在非常窄、非常具體的某個功能上，比如識別圖像或者是下棋之類的，這兩者實際上對將來真正設(shè)計的人工智能系統(tǒng)有著非常不一樣的影響，這個問題值得我們好好考慮。

　　三是所有的大腦在生物界都有一個載體，那就是身體，不存在光有大腦沒有身體的東西。這對于我們將來構(gòu)造智能又提出一個新的挑戰(zhàn)，就是在設(shè)計人工智能系統(tǒng)的時候要把載體考慮進(jìn)去。