Kevin Kelly解讀人工智能狂熱：破解超人類人工智能的五個假設(shè)

我聽說未來的計算機人工智能會變得比我們還要聰明得多，它們將奪走我們所有的工作和資源，而人類將會滅絕。這是真的嗎?

這是我每次談?wù)?a class="contentlabel" href="http://www.ex-cimer.com/news/listbylabel/label/人工智能">人工智能時最常碰見的問題。提問者是認真的;他們的擔(dān)心部分源自于一些會問自己同樣問題的專家。這些人都是當(dāng)今世上中最聰明的一部分群體，比如史蒂芬·霍金、埃隆·馬斯克、馬克思?泰格馬克(譯注：Max Tegmark，MIT 物理學(xué)家，著有《平行世界，平行生命》)、薩姆·哈里斯(譯注：Sam Harris，《自由意志》一書作者、神經(jīng)科學(xué)家、哲學(xué)家)和比爾·蓋茨，而他們認為這種情況很可能是真的。最近，在一個有關(guān)人工智能問題的討論會上，一組由九位最知名的人工智能大師組成的專家小組一致認為，這種超人類智能是不可避免的并且離我們并不遙遠，可在這里查看他們的討論：

然而，超人類人工智能接管人類的情況是有五個假設(shè)作為前提的，如果一一對其進行檢查的話會發(fā)現(xiàn)它們并不基于任何證據(jù)。這些說法在未來可能是真的，但到目前為止還沒有證據(jù)作為依托。即將成真的超人類智能背后的這些假設(shè)是：

如果對一個超人類人工智能接管人類的預(yù)期是建立在五個沒有證據(jù)基礎(chǔ)的關(guān)鍵假設(shè)之上，那么這個想法更類似于一個宗教信仰——一個神話(myth)。在下面的段落中，我分別擴展了對這五個反假設(shè)的證據(jù)，并舉例說明，事實上一個超人類人工智能就是一種神話。

一

關(guān)于人工智能最常見的誤解始于對自然智能的普遍誤解。這種誤解認為智能是單一維度的。大多數(shù)技術(shù)人員往往以 Nick Bostrom 在他的書《超級智能(Superintelligence)》中所使用的方法——作為表示幅度增加的一個逐字的單維線性圖——來描繪智能。其中一端是低智能，比如某種小動物;另一端是高智能，比如一個天才——就好像智能是一個以分貝來表示的聲音大小等級。當(dāng)然，之后就很容易進行延伸想象，智能的響度繼續(xù)增長，最終超過我們自己的高智能，成為一個超越人類的超級響亮的智能方式——一聲咆哮!——甚至可能越出圖表的范圍。

這種模型的拓撲結(jié)構(gòu)相當(dāng)于一個梯子，因而智能的每一個梯級就是一層層地遞增。劣等動物位于我們下面的較低層，而更高級別的智能(也即人工智能)將不可避免地超越我們而登上更高的階梯。這種情況發(fā)生的時間尺度并不重要;重要的是排名——這是智能增加的指標。

這個模型的問題在于其本身是虛構(gòu)的，就像進化的階梯。在達爾文之前人們假定自然世界有一架生物存在(being)階梯，其中低等動物居于人類下面的階梯上。即使在達爾文之后，一個非常普遍的概念是進化階梯，其中魚類進化成爬行動物，然后進入哺乳動物階段，繼而進化為靈長類動物，最后進入人類階段，每一次進化都比之前更加高級(當(dāng)然也更加聰明)。所以智能的階梯與存在的階梯是平行的。但這兩種模式都提供了一個完全不科學(xué)的觀點。

一張更精確的物種自然進化圖是一個向外輻射的圓盤，就像由德克薩斯大學(xué)的 David Hillis 首次設(shè)計的這張圖(上圖)那樣，它是基于 DNA 的。這個深度宗譜曼陀羅以最原始的生命形式從中間開始，然后在一段時間之后向外分支。時間向外移動，使得居于該星球上最近期的生命物種構(gòu)成了此圈圓周的周長。這幅畫著重強調(diào)了一個難以理解的進化方面的基本事實：現(xiàn)世存在的每一個物種的進化程度都是相等的。人類與蟑螂、蛤、蕨類植物、狐貍和細菌一起存在于這個外環(huán)上。其中的每一個物種都經(jīng)歷了一個跨度三十億年的成功繁殖的完整鏈條，這意味著現(xiàn)在的細菌和蟑螂與人類的進化程度是同等高級的。并不存在階梯。

同樣，也不存在智能階梯。智能不是單一維度的。它是多種類型和認知方式的綜合體，每個都是一個連續(xù)體。讓我們做一個非常簡單的任務(wù)：測量動物的智能。如果智能是單一維度的話，我們應(yīng)該就能將一只鸚鵡、一只海豚、一匹馬、一只松鼠、一只章魚、一只藍鯨、一只貓和一只大猩猩的智能按照正確的升序位置排列成一行。而我們目前還沒有支持該排序結(jié)果的科學(xué)證據(jù)。其中一個原因可能是：動物智能之間沒有區(qū)別，但我們也無法證明這點。動物的思考方式差異顯著。但也許它們有著同樣相關(guān)的通用智能(general intelligence)?可能是這樣，但我們沒法測量，也沒有衡量該智能的單一指標。相反，我們針對許多不同類型的認知類型有著許多不同的指標。

一個更準確的智能模型是要繪制出它的可能性空間(possibility space)，而不是一條單一的分貝線，如上圖中由 Richard Dawkins 寫的算法所創(chuàng)造的可能形式的渲染。智能是一個組合的連續(xù)體。多個節(jié)點，每個節(jié)點都是一個連續(xù)體，創(chuàng)建高度多樣性的高維復(fù)合體。有些智能可能很復(fù)雜，有許多思維的子節(jié)點。其它的可能更簡單，但也更加極端，處于空間的某個偏遠角落。這些我們稱之為智能的復(fù)合體可以被認為是包含多種樂器類型的交響樂。不僅在響度方面，它們在音高、旋律、音色、節(jié)奏等方面也有差異。我們可以把它們看作生態(tài)系統(tǒng)。從這個意義上說，思維的不同組成節(jié)點是相互依存并且是被共同創(chuàng)造的。

用 Marvin Minsky 的話來說，人類的心智就是心智社會(society of minds)。我們運行在思維的生態(tài)系統(tǒng)之上。我們包含多種類型的認知，這些認知做著許多類型的思考：演繹、歸納、符號推理、情緒智能、空間邏輯、短期記憶和長期記憶。人類內(nèi)臟之中的整個神經(jīng)系統(tǒng)也是一種類型的大腦，有其自己的認知模式。我們并不是真的僅僅用腦子思考;而是用全身進行思考。

各個個體與物種之間的這套認知體系各不相同。一只松鼠能記得幾年前存放幾千粒橡子的確切位置，這是人類思維難以辦到的。所以在那一種認知中，松鼠是超過人類的。那種超能力包含了一些與人類能力相比并不顯著的其它模式，從而會產(chǎn)生一只松鼠的思維。在動物王國中，還有許多比人類優(yōu)越的其它認知專長，再次被包含進不同的系統(tǒng)中。

人工智能領(lǐng)域也是如此。人造心智在某些維度上已經(jīng)超過人類。你的計算器是數(shù)學(xué)方面的天才，谷歌的記憶在某一維度上已經(jīng)超出了人類自己的記憶能力。我們正使人工智能在某些特定模式中被設(shè)計為最佳。其中的一些模式是我們?nèi)祟惥涂梢酝瓿傻模撬鼈冞€可以被設(shè)計得更好，比如概率或數(shù)學(xué)方面。其它還有一些我們?nèi)祟惛緹o法辦到的思維類型——記住六十億張網(wǎng)頁上的每一個詞，這是任何搜索引擎都擁有的技能。在未來，我們將發(fā)明一種全新的認知模式，這種模式不存在于人類身上，也不存在于任何生物學(xué)領(lǐng)域。當(dāng)我們發(fā)明人造飛行機時，我們受到了生物飛行方式的啟發(fā)，主要就是拍動翅膀。但是我們發(fā)明的這個飛行機——-螺旋槳固定在一個固定寬翼上——是一個新的飛行模式，它在我們的生物世界中是未知的。這是截然不同的飛行方式。同樣，我們也會發(fā)明自然界中不存在的全新的思維模式。在許多情況下，它們都會是針對具體工作的那些新而狹窄的小型具體模式)——或許某種類型的只在統(tǒng)計學(xué)和概率論中有用的推理。

在其它情況下，新的心智將會是復(fù)雜類型的認知，我們可以用它來解決單憑人類智能所不能解決的問題。商業(yè)和科學(xué)中的一些最困難的問題可能需要一個兩步解決方案。第一步是：創(chuàng)造一種新的思維模式與人類心智一起工作。第二步：結(jié)合二者以解決問題。由于我們正在解決的是之前所無法解決的問題，因此我們想要將其稱為比我們聰明的認知，但實際上它與我們是不同的。思維的差異是人工智能的主要好處。我認為一個有用的人工智能模型就是把它看作是外星智能(或人造外星人)。它的異質(zhì)性將成為其主要資產(chǎn)。

同時，我們會將這些不同的認知模式整合到更加紛繁復(fù)雜的心智社會中。其中一些復(fù)合體會比我們?nèi)祟惛訌?fù)雜，而由于它們能夠解決我們不能解決的問題，因此有些人會想稱其為超人類。但我們不會把谷歌稱作是一個超人類的人工智能，即使它的記憶能力在我們之上，因為在很多事情上我們可以做得比它更好。這些人工智能復(fù)合體肯定會在許多方面超越我們，但沒有一個實體會擁有全盤的勝算。這類似于人類的體能。工業(yè)革命已經(jīng)持續(xù)了 200 年，而當(dāng)所有機器作為一個可以擊敗單個人的體能成就(跑步速度、舉重、精密切割等)的類別時，卻沒有一臺機器可以打敗一個普通人所做的一切事情。

即使某個人工智能中的心智社會變得更加復(fù)雜，這種復(fù)雜性在目前還很難被科學(xué)地度量。我們沒有良好的復(fù)雜性操作指標能夠用以判斷黃瓜是否比波音 747 更復(fù)雜，或者它們的復(fù)雜性可能會有所不同。這也是我們沒有智能度方面的良好指標的原因之一。要確定心智 A 是否比心智 B 更加復(fù)雜是一件非常困難的事情，智能度的比較同理。我們很快就會達到那個明顯的認知上來：「智能度」不是單一維度的，而我們真正關(guān)心的是智能運轉(zhuǎn)的許多其它方式——我們尚未發(fā)現(xiàn)的所有其它認知節(jié)點。

二

有關(guān)人類智能的第二個誤解是我們對于通用智能的信念。這種反復(fù)的信念影響了人工智能研究者的一個常見的既定目標，即創(chuàng)造一個通用人工智能(AGI)。然而，如果我們認為智能提供了一個很大的可能性空間，那么就不會存在通用狀態(tài)。人類智能并非處于某個中心位置且周圍有其它的特殊智能繞其旋轉(zhuǎn)。相反，人類智能是一種非常特定類型的智能，已經(jīng)演變了數(shù)百萬年，使我們的物種生存在這個星球上。在所有可能的智能空間映射中，人類智能類型將被困在某個角落，就像我們的世界被困在廣闊的星系邊緣一樣。

我們當(dāng)然可以想象甚至發(fā)明出一個瑞士軍刀類型的思維。它可能在許多事情上都能表現(xiàn)得不錯，但沒有一個會特別好。人工智能將遵循同樣的工程學(xué)準則，這也是所有事物被發(fā)明和創(chuàng)造所必須遵循的準則：你不能優(yōu)化每一個維度。你只能權(quán)衡。你不能讓一個通用的多功能單元去優(yōu)于那些特定的功能。一種每件事都做的大心智不能在每一件事上都做到和那些專用代理一樣好。由于我們認為我們?nèi)祟惖男闹鞘峭ㄓ玫?，因此我們往往認為認知不符合工程師的權(quán)衡，那么就有可能建立一個最大限度提高所有思維模式的智能。但我對此沒看到任何證據(jù)。我們只是沒有發(fā)明足夠的心智類型來觀察整個空間而已(并且到目前為止，我們已經(jīng)傾向于把動物的心智作為單一維度上一種幅度可變的單一類型來看待。

三

這種最大化通用思想的一部分信念來自于通用計算的概念。后者在 1950 年被正式描述為丘奇-圖靈假設(shè)(Church-Turing hypothesis)，該猜想認為，滿足一定閾值的所有計算都是等價的。因此，所有計算都擁有一個普遍的核心，無論它是發(fā)生在一臺擁有眾多快速或緩慢運轉(zhuǎn)的部件的機器之上，或甚至于是發(fā)生在一個生物腦中，它們都遵循相同的邏輯過程。這意味著你應(yīng)該能夠在可以做通用計算的任何機器上模擬任何的計算過程(思維)。奇點論者對于制造硅腦來持有人類思想的期望就是依靠這一原則，他們相信我們能夠造出像人類一樣思考的人工心智，只是后者更加聰明。我們應(yīng)該對這種希望持懷疑態(tài)度，因為它依賴于對丘奇-圖靈假設(shè)的誤解。

該理論的出發(fā)點是：「給定無限的磁盤空間(內(nèi)存)和時間，所有計算都是等價的?！箚栴}是在現(xiàn)實中，計算機并沒有無限的內(nèi)存或時間。當(dāng)它在現(xiàn)實世界中運行時會產(chǎn)生巨大的實時差，這通常是生與死的時差。是的，如果你忽略時間，所有的思維都是等價的。是的，你可以在任何你想要的矩陣中模擬人類類型的思維，只要你忽略時間或現(xiàn)實生活中的存儲和記憶約束。然而如果你納入時間因素，那么你就得以一種重要的方式對該原則進行重申：在差距很大的平臺上運行著的兩個計算系統(tǒng)不會是實時等值的。還可以這樣說：獲得相同思維模式的唯一方法是讓計算機運行于相同的平臺基底之上。運行計算的物理物質(zhì)——特別是當(dāng)它變得更加復(fù)雜時——會極大地影響實時情況下能夠被實現(xiàn)得很好的認知類型。

我將更進一步并斷言：獲得一個極其類人的思維過程的唯一途徑，是將計算運行在類似人體那樣的濕組織之上。這也意味著，運行在干燥芯片之上的極其龐大而復(fù)雜的人工智能會產(chǎn)生大而復(fù)雜的非人類思想。如果能用人工生長的神經(jīng)元來構(gòu)建人造濕腦，我預(yù)測它們的思想與我們的會更加相似。這樣一個潮濕大腦的好處正比于基底與人腦的相似度。創(chuàng)建濕件的代價是巨大的，而該組織與人類腦組織越接近，那在成本效益上就越不如直接制造一個人類。畢竟，制造一個人類是我們在九個月之內(nèi)可以做到的事情。

此外如上所述，我們是用自己的整個身體進行思考，而不只是使用頭腦。我們有大量的數(shù)據(jù)顯示出我們的內(nèi)臟神經(jīng)系統(tǒng)如何指導(dǎo)我們的理性決策過程，并能夠預(yù)測和學(xué)習(xí)。我們越多地模擬整個人體系統(tǒng)，我們就越能夠復(fù)制它。運行在一個十分不同的身體(干燥的硅片而非潮濕的碳基)之中的智能，其思考方式也不一樣。

我不認為這是一個 bug，而是把它看做一項特性。正如我在第二點中談到的，與人類不同的思維方式是人工智能的主要資產(chǎn)。這也是為什么我認為稱它比人類聰明是一種誤導(dǎo)的另一個原因。

四

超人類智能(superhuman intelligence )的核心——特別是智能將自主改進這個觀點——是智能不存在發(fā)展極限的根本信念。不過我沒有找到任何支撐該論斷的證據(jù)。再次，將智力誤解為評判的唯一尺度助長了上述信念，不過我們也僅需要將其理解為一個信念即可。就目前科學(xué)所知，宇宙中不存在無限的物理尺度。溫度的高低不是無限的——低溫和高溫都是有限的。同理，時間、空間、速度都非無限。或許數(shù)字是無限的，但是其它所有的物理屬性都是有限的。按理說人類理性自身也是有限的。于是問題就成了：智能的極限在哪里?我們傾向于相信這個極限遠非我們所及，這種距離就猶如我們與一只螞蟻的差距一般。拋開一直反復(fù)出現(xiàn)的「唯一尺度」問題，我們有什么證據(jù)來證明這個極限就不是我們呢?為何我們就不能作為這個最大極值呢?亦或是這個極限距我們不遠?為何我們要相信智能就是可以永遠擴展下去的呢?

一個思考這個問題更有效的方式是，將我們?nèi)祟惖闹悄芤曌靼偃f種可能智能的一員。所以，雖然每種認知能力和計算能力都存在一個極限，但是，如果存在成百上千種，那么便會有數(shù)不清的繁多的思維存在——它們其中沒有一個在任何層面上是無限的。當(dāng)我們構(gòu)建或是遭遇這些思維的時候，我們或許會很自然地認為它們其中一部分已經(jīng)超越了我們。在我最近初版的《必然(The Inevitable)》一書中，我勾勒出了這一部分在某種層面比我們高級的思維存在。以下是一份不完整的表單：

一種類似于人類心智的心智，只是回答速度更快(可以想到的最簡單的人工智能心智)

一種非常慢的心智，主要由巨量存儲和記憶構(gòu)成

由數(shù)百萬單個較為蠢笨的心智聯(lián)合構(gòu)成的全局超級心智

由許多非常聰明的心智構(gòu)成的蜂巢心智(hive mind)，但并不知道它/它們自己是一個蜂巢

一種半有機半機械(borg)的超級心智，由許多非常聰明的心智構(gòu)成，這些心智也清楚自己自己構(gòu)成了一個聯(lián)合體

一種被訓(xùn)練用來專用于增強你的個人心智的心智，但對其他人沒什么用處

一種能夠想象更好的心智的心智，但不能創(chuàng)造它

一種能夠創(chuàng)造更好的心智的心智，但對自己還不夠了解，所以無法想象它

一種能夠創(chuàng)造出更好的心智的心智，只能創(chuàng)造一次

一種能夠創(chuàng)造出更好的心智，且該心智還能繼續(xù)創(chuàng)造更好的心智的心智

當(dāng)下有些人會想將這每一種思維存在都稱為超人工智能。但是這些心智的如此這般的多樣性與差異性將會帶領(lǐng)我們找到關(guān)于智能和智慧新的概念和洞見。

第二，相信超人工智能的人們會假設(shè)智能將指數(shù)式地增長(在一些未知的單一衡量標準上面)。這大約是因為他們也假設(shè)認為智能已經(jīng)在指數(shù)式地增長了。然而，目前為止，沒有證據(jù)顯示(無論你怎么測量它)智能正在如此增長。我所謂的指數(shù)式增長是說，人工智能在一定的時間間隔里發(fā)生冪函數(shù)式的翻倍。我根本不能找到這個說法的證據(jù)。如果沒有這樣的證據(jù)，那么為何我們還要假設(shè)它將在不久之后發(fā)生呢?唯一會呈現(xiàn)指數(shù)曲線增長的只有人工智能的輸入，也即那些被用于生成智慧或智能的資源。但是輸出性能并不會按照摩爾定律增長，人工智能不會每3年或10年就聰明一倍。

我詢問了很多人工智能專家以求得到人工智能性能在以指數(shù)式增加的證據(jù)，但是他們所有人都同意我們并沒有衡量智能的標準，此外，(即便在特定領(lǐng)域)智能也不是以指數(shù)式增長的。當(dāng)我問到雷·庫茲韋爾，他提出的指數(shù)增長這一概念，人工智能指數(shù)增長趨勢的證據(jù)在哪里，他回復(fù)我說，人工智能不以指數(shù)式增長，但是其發(fā)展水平(level)是在以指數(shù)式增長。他說：「計算性和算法復(fù)雜度層面共同發(fā)生的指數(shù)式進步會在整個發(fā)展過程中不斷為其添加上新的進展層級(level)……于是我們就能夠期待去線性地添加這些層級。因為要進一步添加新的層級就需要更大的指數(shù)復(fù)雜度。實際上，我們的能力在不斷指數(shù)式地前進?！刮覀兙嚯x可與自己一教高下的所謂新皮層(neocortex)層級并不遙遠，因此，于我而言，我所預(yù)計的2029年這個節(jié)點(注：庫茲韋爾預(yù)計2029年為其所謂的奇點元年，即人工智能超越人類智能的時間)依然適用。

庫茲韋爾的意思似乎不是說人工智能的力量在指數(shù)爆炸，雖然人工智能的輸出在一定時間里僅僅會上升一個層級，但是那種創(chuàng)造這種智能的努力在指數(shù)式的爆炸。這幾乎站在了智能正在爆炸這個觀點的反面。未來說不準，不過就現(xiàn)在而言，很顯然人工智能沒有指數(shù)式地增長。

因此，當(dāng)我們設(shè)想一個智能爆炸的場景時，我們應(yīng)該想象它是新品種的落英繽紛，而非如注的暴雨傾盆;一個寒武紀式的生命爆發(fā)，而非核武器式的鏈式爆炸。加速的技術(shù)帶來的結(jié)果將不太可能是超人類(super-human)，而是非人類(extra-human)。它們外在于我們的經(jīng)驗，但不一定超越我們。

五

關(guān)于超級人工智能，還有另一個未批判就被人接受的信念，它沒有任何證據(jù)支撐，這個觀點即：一個超級的、幾乎無限的智能可以快速解決我們那些主要的未被解決的問題。

很多擁護智能爆炸的觀點都期盼它也將促發(fā)進步的爆炸。我稱此為神話般的信念，即意淫主義(thinkism)。未來進步的水平僅由缺乏思想的力量或是智力所阻礙，這個想法是存在謬誤的。(我也或許注意到了這樣一個現(xiàn)象，那種認為思想是可以治愈一切的靈丹妙藥的觀點被很多喜愛思考的人持有。)

我們以治愈癌癥或延長壽命為例，這些問題不是單單靠思考就可以解決的。任何一個意淫主義者都不會發(fā)現(xiàn)細胞的衰老，或是端粒的脫落。沒有一個智能，無論它多么厲害，可以僅憑閱讀現(xiàn)今世界上所有已知的科學(xué)文獻，然后就對其產(chǎn)生深思。沒有一個超級人工智能可以簡單地思考所有現(xiàn)今和過去的核裂變實驗，然后就能在一天之內(nèi)想出可工作的核聚變方案。在事物工作方式的未知層面和已知層面之間還需要除思考之外的很多東西。在真實的世界中存在著無數(shù)的實驗，它們其中的每一個都會產(chǎn)生出更多的矛盾的數(shù)據(jù)，這些數(shù)據(jù)需要進一步的能夠形成正確的可工作的假設(shè)的實驗來研究。僅僅是對潛在數(shù)據(jù)的思考將不會產(chǎn)生正確的數(shù)據(jù)。

思考(智力)僅僅是科學(xué)的一部分，甚至或許是一小部分。例如，我們沒有足夠恰當(dāng)?shù)臄?shù)據(jù)去接近如何解決死亡的問題。大部分活體有機體的實驗都需要花很長時間。一個細胞的緩慢新陳代謝不會加速。它們會花數(shù)年、數(shù)月或至少數(shù)天才能給出結(jié)果。如果我們想知道在亞原子層面發(fā)生了什么，那我們不能單靠思考去把握它。我們必須建造非常巨大、復(fù)雜且精妙的物理結(jié)構(gòu)才能找出結(jié)果。即便那些最聰明的物理學(xué)家比他們現(xiàn)在還要聰明1000倍，沒有粒子對撞機，他們也不會知道任何新的東西。

毫無疑問，一個超級人工智能會加速科學(xué)的進程。我們可以在計算機上模擬原子或細胞，并且我們可以通過引入很多因素來讓它們持續(xù)加速。但是在立即獲得進展的過程中，有兩個問題限制了模擬的可用性。首先，模擬和模型只會比它們的本體更快，因為它們遺漏了一些因素。這是一個模型或模擬的本質(zhì)。也值得注意。這些模型的測試、檢查和證明也必須花和其本體一樣長的時間才可以說它們和其本體是匹配的。對自然真理的測試不能被加速。

這些模擬當(dāng)中的簡化版本可以有效地篩選出最有前景的可能道路，因此，它們可以加速進程。但是現(xiàn)實世界中沒有多余;現(xiàn)實的一切都具有某種程度的獨特性，這是現(xiàn)實的定義之一。當(dāng)模型和模擬被越來越多的細節(jié)所加強之后，它們會遭遇如下限制：現(xiàn)實會比一個100%對其模擬的模型來得更快。這是對現(xiàn)實的另一個定義：當(dāng)前自由所有細節(jié)和程度的最快的可能性版本。如果你能夠模擬一個細胞中所有分子以及人體里的所有細胞，那么這個模擬就不會和人體過程一樣快。無論你思考了多少東西，你任然需要花時間去做實驗，不管是在真實系統(tǒng)中或是在模擬系統(tǒng)中。

人工智能必須在現(xiàn)實世界中發(fā)揮作用才能體現(xiàn)其價值，而這個世界也會反過來制衡其創(chuàng)新節(jié)奏。從試驗到原型到失敗再到實踐，如果沒有這些，人工智能僅僅是一種理論而毫無實際價值。如果沒有每一分鐘、每一小時、每一天或者每一年的創(chuàng)新發(fā)現(xiàn)，也不會出現(xiàn)比人還聰明的人工智能，而人工智能的發(fā)展無疑會顯著加快其自身的進步速度，部分原因是由于外星人般的人工智能會問出人類不會問及的問題;但是人工智能的強大(相比于人類)并不意味著會立即帶來進步。解決問題所需要的遠不止是智能。

單靠智能不僅解決不了癌癥和壽命延長問題，應(yīng)用到智能自身也如此。奇點鼓吹者慣用的一個說法是，一旦你造出了一個比人類聰明的人工智能，那么它立即就會努力開發(fā)，造出一個比它自己還要聰明的人工智能，然后以此類推，直到產(chǎn)生指數(shù)爆炸，智能體幾乎會變成類似上帝一般的存在。我們沒有證據(jù)表明僅靠對智能的思考就可以創(chuàng)造出更高級的智能。這種意淫主義只是一種信念罷了。我們有很多證據(jù)表明，這項工作除了需要大量的智能外，還需要實驗的支持、數(shù)據(jù)、嘗試、錯誤和不尋常的質(zhì)疑等等一切超越智慧的東西來創(chuàng)造成功的新一代智能。

我的結(jié)論是，我的這些觀點可能是錯的。我們還處在早期。我們有可能發(fā)現(xiàn)一種智能的通用標準，有可能發(fā)現(xiàn)它在任何方向上都是無限的。因為我們對智能是什么的了解是如此之少(更不用說意識為何物)，所以人工智能奇點的出現(xiàn)概率還是比0大。我認為雖然所有的證據(jù)都顯示，這樣的場景非常不可能發(fā)生，但是它依然有可能發(fā)生(可能性大于零)。

所以，盡管我不同意奇點主義的觀點，但是我依然同意 OpenAI 的更大目標，擔(dān)心超人類人工智能的聰明人們認為我們應(yīng)該開發(fā)對人類友善的人工智能并且向其灌輸可自主復(fù)制的符合我們?nèi)祟惖膬r值觀。盡管我認為一個超人類人工智能是一個存在于遙遠未來的可能隱患(它值得我們?nèi)タ紤])，但是其可能性微乎其微，(基于我們目前擁有的證據(jù))不應(yīng)該來指導(dǎo)我們的科學(xué)、政策和發(fā)展。一顆砸到地球上小行星會引發(fā)大災(zāi)難，這的確有可能(所以我們應(yīng)該支持B612基金會。注：這是一個致力于星球防御的非營利性組織。)但是我們不應(yīng)該讓這種可能性去支配我們在，比如說，氣候變化、太空旅行甚至城市規(guī)劃上作出的努力。

同樣，目前為止證據(jù)顯示人工智能很可能無法發(fā)展為超人類人工智能，但它的確會成為人類之外成百上千的會思靠的新物種;新物種與人類大有不同，它們只能從事具體工作，也不會立即成為可以秒速解決大問題的上帝。相反，將會有如星辰般豐富且有限的智能，它們在不同的超出我們想象的領(lǐng)域里工作，和我們一道及時解決現(xiàn)有的問題，并發(fā)現(xiàn)新的問題。

我理解一個超人類人工智能上帝帶來的巨大吸引力，就像新的超人一般，但也正像超人，它是一個神話角色。在宇宙中的某處或許存在超人，但是這種可能性微乎其微。然而神話是有用的，一旦它們被發(fā)明出來，它們將不會消逝。關(guān)于超人的想法不會消逝，超人類人工智能奇點的想法，既然已經(jīng)被提出，也將不會消逝。但是我們應(yīng)該認識到，在當(dāng)下這是一個類似宗教而非科學(xué)的概念。如果我們考察我們目前所有的關(guān)于智能、人工和自然的證據(jù)，我們只能總結(jié)說，我們關(guān)于一個超人類人工智能的猜測僅僅是：神話。

二戰(zhàn)中，島群之中的很多孤島第一次與外界發(fā)生聯(lián)系。不為所知的神一般的存在乘坐著轟轟作響的鐵鳥劃過島民頭頂?shù)奶炜?，把食物和物品空投在島上，一去不復(fù)返。島上的宗教信徒跳起舞來，祈禱神再次歸來，并空降更多的物資。即使是五十年后的今天，依然有很多島民祈禱著鐵鳥再次歸來，空投物資。超人類人工智能有可能被證明是另一種「物資崇拜」。一個世紀之后的人類也許會回首現(xiàn)在，那時的我們無時無刻不期盼著出現(xiàn)超人類人工智能，帶來超乎想象的價值。數(shù)十年來人們一直等待著超人類人工智能的出現(xiàn)，并相信它會帶著「物資」，很快到來。

然而非超人類人工智能已經(jīng)實際存在。我們試圖重新定義、限制它以在未來掌控它，但是從智能的宏觀意義上來講——其范圍涵蓋不同種類的機靈、智能、認知、理性、學(xué)習(xí)和意識——人工智能已遍布整個地球，并會持續(xù)地傳播、深化、多樣化和強大化。以前從不存在像人工智能這樣可以改變?nèi)祟愂澜绲陌l(fā)明。在本世紀末，人工智能將無所不及并革新人類的一切;但是，超人類人工智能的神話——人類獲得超級能力或者淪為超級奴隸(或者兩者兼而有之)——很可能一直存在，這種可能性對人類來說是如此迷魅以至于太難舍棄。