美專家：機(jī)器人與人類是伙伴 中國(guó)落后美國(guó)5年

　　二、人與機(jī)器關(guān)系的思考

　　1、懸而未決的倫理困境

　　縱觀人類歷史,技術(shù)雖然已經(jīng)取代了人類勞動(dòng)力,火車頭和拖拉機(jī)仍然不會(huì)作出人類級(jí)別的決策,但在以后,隨著技術(shù)的進(jìn)步,“會(huì)思考的機(jī)器”可以。它還可以了解到技術(shù)與人性共同進(jìn)化的過程,這一過程同樣又會(huì)提出同樣的問題:誰將處于主導(dǎo)地位?在硅谷,慶祝機(jī)器的崛起已成為時(shí)尚,可以從奇點(diǎn)研究中心(Singularity Institute)這類公司的崛起和凱文·凱利 2010 年的《科技想要什么》(What Technology Wants)這類書籍中清晰地看出這一點(diǎn)。早在 1994 年的《失控》(Out of Control)中,凱利就已堅(jiān)定地站在了機(jī)器一邊。他在書中描述了人工智能先驅(qū)馬文·明斯基和道格拉斯·恩格爾巴特兩人間的一次會(huì)談。

　　20 世紀(jì) 50 年代,當(dāng)這兩個(gè)家伙在麻省理工學(xué)院見面后,人們認(rèn)為他們之間進(jìn)行了如下對(duì)話。

　　明斯基:我們要讓機(jī)器變得智能,我們要讓它們擁有意識(shí)。恩格爾巴特:你要為機(jī)器做這些事?那你又打算為人類做些什么呢?

　　通常,那些致力于讓計(jì)算機(jī)變得更友好、更人性化、更以人為本的工程師們會(huì)講這個(gè)故事,但是,我直接站在了明斯基一邊——站在了機(jī)器一邊。人們會(huì)存活下來,我們會(huì)訓(xùn)練我們的機(jī)器來服務(wù)我們。但是,我們又將為機(jī)器做些什么呢?

　　凱利指出,明斯基和恩格爾巴特分別持有不同的立場(chǎng),這一點(diǎn)毋庸置疑。但是,認(rèn)為“人類會(huì)存活下來”的觀點(diǎn)顯然輕視了它們的影響。他基本上是在復(fù)述明斯基對(duì)人工智能到來的意義的回答:“如果我們夠幸運(yùn),或許它們會(huì)把我們當(dāng)寵物養(yǎng)。”

　　明斯基的觀點(diǎn)反映了 AI 和 IA 之間的鴻溝。到目前為止,人工智能圈子在絕大多數(shù)時(shí)候都選擇忽視他們認(rèn)為只是強(qiáng)大工具的系統(tǒng)帶來的影響,規(guī)避了對(duì)道德問題的討論。當(dāng)我詢問自動(dòng)化對(duì)人類影響的話題時(shí),一位正在打造新一代機(jī)器人的工程師告訴我:“你不能這樣想。你只需決定你將盡己所能,為全人類改善世界。”

　　在已經(jīng)過去的 50 年中,麥卡錫和恩格爾巴特的理論仍然各自為政,他們最為核心的沖突仍然懸而未決。一種方法要用日益強(qiáng)大的計(jì)算機(jī)硬件和軟件組合取代人類;另一種方法則要使用相同的工具,在腦力、經(jīng)濟(jì)、社會(huì)等方面??發(fā)展人類的能力。盡管鮮有人注意這些方法之間的鴻溝,這場(chǎng)新技術(shù)浪潮的爆炸 (一個(gè)正在影響現(xiàn)代生活方方面面的技術(shù)浪潮)將極力壓縮這種分化,并防止反彈的發(fā)生。

　　機(jī)器是會(huì)取代人類工人還是增強(qiáng)他們的能力?在某種層面上,這兩種結(jié)果都會(huì)實(shí)現(xiàn),但需要再次注意的是,這個(gè)問題本身就存在問題,它只會(huì)讓我們得到偏頗的答案。軟件和硬件機(jī)器人都已足夠靈活,它們最終都會(huì)變成我們?cè)诔绦蛑袨樗鼈冊(cè)O(shè)計(jì)的模樣。在我們當(dāng)前的經(jīng)濟(jì)體系中,機(jī)器人(包括機(jī)器和智能系統(tǒng)) 被如何設(shè)計(jì)、怎樣使用,都完全是由成本和收益確定的,而且成本正在以不斷加快的速度下降。在我們的社會(huì)中,經(jīng)濟(jì)學(xué)理論指出,如果一項(xiàng)工作能夠由機(jī)器(硬件或軟件)完成,并且成本更低,那么在大多數(shù)情況下,人們會(huì)選擇讓機(jī)器來完成這項(xiàng)工作。只不過是時(shí)間早晚的問題。

　　該在這場(chǎng)爭(zhēng)論中站怎樣的立場(chǎng)實(shí)在很難抉擇,因?yàn)闆]有顯而易見的正確答案。盡管無人駕駛汽車將取代數(shù)以百萬計(jì)的崗位,但它們也將拯救更多的生命。今天,在大多數(shù)情況下,人們會(huì)以收益和效率為根據(jù)決定實(shí)現(xiàn)哪些技術(shù), 但也明顯需要新的道德演繹。然而,決定成敗的不只有細(xì)節(jié)。就像核武器和核動(dòng)力一樣,人工智能、基因工程和機(jī)器人學(xué)將在未來 10 年內(nèi)產(chǎn)生人們意料之中和意料之外的廣泛的社會(huì)影響。

　　2、手推車難題,是否選擇“更小的惡魔”

　　所謂的“手推車難題”通常是這樣的:一輛失控的手推車正一路向下狂奔,如果它繼續(xù)前進(jìn)的話,將有 5 個(gè)人會(huì)被殺死。你可以讓這輛手推車轉(zhuǎn)向另一個(gè)不同的方向,從而拯救這 5 個(gè)人的生命,在那個(gè)方向上只有 1 個(gè)人,而這個(gè)人將被手推車撞死。掉轉(zhuǎn)手推車,以犧牲 1 個(gè)人的代價(jià)來避免 5 個(gè)人的死亡,道德會(huì)允許嗎? 1967 年,英國(guó)哲學(xué)家菲利帕·富特(Philippa Foot)在一篇論述流產(chǎn)倫理問題的論文中首先提出了這個(gè)難題,最終引發(fā)了針對(duì)選擇“更小的惡魔”這一概念的無止境的哲學(xué)辯論。最近,它又演變成“機(jī)器人汽車是否應(yīng)該為了躲避跑到路中央的 5 個(gè)孩子而選擇開到人行道上撞死 1 個(gè)成年人”的議題。

　　通常,人們可以設(shè)計(jì)讓軟件選擇那個(gè)“較小的惡魔”,但問題的框架似乎在其他層面上存在錯(cuò)誤。因?yàn)?90% 的交通事故是由駕駛員錯(cuò)誤導(dǎo)致的,似乎自動(dòng)駕駛汽車能夠令傷亡總數(shù)出現(xiàn)顯著下降,所以,盡管仍然有少數(shù)事故純粹是技術(shù)失敗導(dǎo)致的,但更好的產(chǎn)品應(yīng)該服務(wù)人類。從某種程度上說,汽車產(chǎn)業(yè)已經(jīng)贊同了這一邏輯,例如,緊急氣囊拯救的生命遠(yuǎn)比問題氣囊包導(dǎo)致的傷亡要多。

　　對(duì)這一問題狹隘的關(guān)注也忽視了自動(dòng)駕駛汽車在未來可能的運(yùn)行方式。很有可能到那個(gè)時(shí)候,路上的工人、警察、緊急車輛、汽車、行人和騎行者都會(huì)以電子化形式告知其他人自己的存在,甚至沒有完全自動(dòng)化的功能都能顯著提高安全性。一項(xiàng)名為“V2X”的技術(shù)正在全球范圍內(nèi)接受測(cè)試,它能夠讓附近汽車的位置進(jìn)行共享。在未來,甚至正在上小學(xué)的孩子們也會(huì)拿上傳感器, 向汽車警告自己的存在,降低事故發(fā)生的可能性。

　　令人困惑的是,哲學(xué)家們通常不會(huì)從更宏觀的角度探究手推車難題,而只是將其當(dāng)作獨(dú)立事件的一個(gè)縮影。誠(chéng)然,如果技術(shù)失敗,這將成為一出獨(dú)立的悲劇。改善運(yùn)輸整體安全性的系統(tǒng)似乎十分必要,盡管它們并不完美。將人類排除出駕駛所帶來的哲學(xué)問題遠(yuǎn)比它對(duì)經(jīng)濟(jì)學(xué)、社會(huì)學(xué)甚至文化產(chǎn)生的影響更有趣。2013 年,美國(guó)有 3.4 萬人死于交通事故,236 萬人受傷。2012 年,全美有 380 萬人以駕駛維生。對(duì)比一下這些數(shù)字。如果無人駕駛汽車在未來 20 年內(nèi)出現(xiàn),它們很有可能取代很多人的工作。

　　3、人與機(jī)器，是伙伴不是敵人

　　微軟公司的園區(qū)不規(guī)則地分布著環(huán)環(huán)相扣的人行道、建筑物、運(yùn)動(dòng)場(chǎng)、食堂和有冷杉點(diǎn)綴的停車場(chǎng)。這兒看起來與硅谷的 GooglePlex 園區(qū)有些不同, 沒有色彩鮮艷的自行車。但相同點(diǎn)是年輕的技術(shù)工人可以輕松地進(jìn)入社區(qū)大學(xué), 甚至高中生也可以在園區(qū)里漫步。

　　當(dāng)你靠近 99 樓(微軟研究實(shí)驗(yàn)室的所在地)大廳的電梯時(shí),電梯大門會(huì)感應(yīng)到你的存在,然后自動(dòng)開啟。這有些像《星際迷航》里的場(chǎng)景,柯克船長(zhǎng)也從來沒有按過一個(gè)按鈕。這臺(tái)智能電梯是微軟高級(jí)研究員、雷蒙德研究中心主管埃里克·霍維茨的杰作。在眾多使用統(tǒng)計(jì)技術(shù)改善人工智能應(yīng)用性能的第一代計(jì)算機(jī)科學(xué)家中,霍維茨算得上是知名度較高的人工智能研究人員。

　　霍維茨和許多人一樣,也是因?yàn)閷?duì)理解人類思維如何工作產(chǎn)生了濃厚興趣,開始了自己的學(xué)習(xí)。20 世紀(jì) 80 年代,他從斯坦福大學(xué)獲得醫(yī)學(xué)學(xué)位,馬上又開始了神經(jīng)生物學(xué)的碩士研究。

　　一天夜里,他獨(dú)自一人待在實(shí)驗(yàn)室,把探針插入老鼠大腦中的一個(gè)神經(jīng)元中?；艟S茨興奮不已。屋子里很黑,有一臺(tái)示波器和一個(gè)音頻揚(yáng)聲器。當(dāng)聽到神經(jīng)元發(fā)出的聲音時(shí),他對(duì)自己說:“我終于進(jìn)來了,我進(jìn)到了一個(gè)脊椎動(dòng)物的思想里。”與此同時(shí),他也意識(shí)到,自己并不明白這次沖擊在這個(gè)小動(dòng)物的思維過程中到底意味著什么?；艟S茨看了一眼自己的實(shí)驗(yàn)臺(tái),注意到一臺(tái)最近拿來的蘋果 IIe 型計(jì)算機(jī)的蓋布滑落到了一邊。他的心一沉,意識(shí)到自己正在運(yùn)用一種完全錯(cuò)誤的方法。他正在做的事情無異于隨機(jī)將一只探針塞進(jìn)計(jì)算機(jī)里,試圖理解計(jì)算機(jī)軟件。

　　霍維茨離開了醫(yī)學(xué)領(lǐng)域,轉(zhuǎn)而開始研究認(rèn)知心理學(xué)和計(jì)算機(jī)科學(xué)。他選擇了卡內(nèi)基·梅隆大學(xué)的認(rèn)知科學(xué)家、人工智能先驅(qū)赫伯特·西蒙作為自己的遠(yuǎn)程導(dǎo)師,也開始接觸加州大學(xué)洛杉磯分校計(jì)算機(jī)科學(xué)教授朱迪亞·珀?duì)?(Judea Pearl)。珀?duì)栭_創(chuàng)了人工智能研究的新方法,這種方法與早期的邏輯和基于規(guī)則的方法具有明顯區(qū)別,專注于建立嵌套式的概率網(wǎng)絡(luò)來識(shí)別模式。從概念上來講,這與 20 世紀(jì) 60 年代遭到明斯基和珀?duì)柼嘏u(píng)的神經(jīng)網(wǎng)絡(luò)的思路相距不遠(yuǎn)。

　　因此,20 世紀(jì) 80 年代,霍維茨在斯坦福大學(xué)遠(yuǎn)離了計(jì)算機(jī)科學(xué)研究的主流。許多主流人工智能研究者認(rèn)為,他對(duì)概率論的興趣是過時(shí)的,回到了過去的“控制論”方法。

　　1993 年,霍維茨來到微軟研究院,他的任務(wù)是打造一個(gè)團(tuán)隊(duì),研發(fā)可以改善公司商業(yè)產(chǎn)品的人工智能技術(shù)。微軟的 Office 助手(即“Clippy”)1997 年問世,主要是為了幫助用戶掌握不易使用的軟件,它在很大程度上就是霍維茨團(tuán)隊(duì)在微軟研究院的研究成果。得更加容易,如今市面上已經(jīng)出現(xiàn)了幾種這一類型的增強(qiáng)產(chǎn)品。例如,早在 2005 年,兩位象棋愛好者使用一個(gè)下棋程序贏了一位象棋大師,以及其他下棋程序。

　　霍維茨仍在研究如何通過人類智能讓機(jī)器學(xué)習(xí)和計(jì)算機(jī)決策結(jié)合起來, 以此深化人機(jī)交互。舉例來說,他的研究人員與引導(dǎo)全民科學(xué)的工具 Galaxy Zoo的設(shè)計(jì)者們密切合作,利用人類網(wǎng)絡(luò)沖浪者的力量對(duì)銀河系圖片進(jìn)行分類。

　　眾籌勞動(dòng)力正在科學(xué)研究中變成十分重要的資源:專業(yè)科學(xué)家可以指導(dǎo)業(yè)余愛好者,而業(yè)余愛好者要做的,只是玩一些利用人類認(rèn)知的精密游戲,來幫助科學(xué)家解決像繪制蛋白質(zhì)結(jié)構(gòu)一樣棘手的問題。

　　在很多情況下,人類專家團(tuán)隊(duì)已經(jīng)超過了某些最強(qiáng)大的超級(jí)計(jì)算機(jī)的能力。在評(píng)估完人類和機(jī)器的組合后,通過給每一個(gè)組分配一個(gè)特定的研究任務(wù), 科學(xué)家能夠創(chuàng)造一支強(qiáng)大的混合科研團(tuán)隊(duì)。

　　計(jì)算機(jī)擁有驚人的圖像識(shí)別能力,它們可以創(chuàng)建數(shù)百個(gè)視覺表格,分析目前望遠(yuǎn)鏡能夠觀測(cè)到的所有星系。這種做法并不昂貴,但也沒能產(chǎn)生最好的結(jié)果。在這個(gè)程序的新版本 Galaxy Zoo 2 中,擁有機(jī)器學(xué)習(xí)模型的計(jì)算機(jī)能夠解釋星系圖片,以便為人類分類員提供準(zhǔn)確的樣本,使之可以比之前更容易地為星系進(jìn)行登記。

　　在另一個(gè)改進(jìn)中,這個(gè)系統(tǒng)增加了識(shí)別不同參與者的特定技能的功能, 并能夠恰當(dāng)?shù)赜枰云胶?。Galaxy Zoo 2能夠自動(dòng)對(duì)遇到的問題進(jìn)行分類,并且知道哪些人可以更有效地解決這個(gè)問題。

　　在 2013 年的一場(chǎng) TED 演講中,霍維茨向觀眾展示了一名微軟實(shí)習(xí)生第一次遇到迎賓機(jī)器人時(shí)的反應(yīng)?；艟S茨展示了一小段視頻,里面記錄了從系統(tǒng)的視角來看這次互動(dòng)的過程,尤其是記錄了這名女性實(shí)習(xí)生的臉部。這位年輕的女性靠近系統(tǒng),系統(tǒng)告訴她,霍維茨正在辦公室里與某人交談,并且提出可以為她安排會(huì)面時(shí)間,她猶豫了一下,??絕了計(jì)算機(jī)的提議。

　　“哇,這太驚人了。”這位年輕的女性低聲說。然后,為了結(jié)束這次對(duì)話, 她急匆匆地說了一句:“很高興認(rèn)識(shí)你!”霍維茨總結(jié)道,這是一個(gè)好的跡象。他認(rèn)為,這種類型的互動(dòng)展現(xiàn)了人類和機(jī)器人成為伙伴的世界。

　　也許,與機(jī)器人交互的那種自由、放松之感,正是因?yàn)樵谶B的另一邊并不是一個(gè)令人難以捉摸的人類。也許,這根本與人際關(guān)系無關(guān),更多的在于是取得控制成為主人還是成為奴隸。

　　4、選擇，一切與機(jī)器無關(guān)

　　在人工智能和機(jī)器人技術(shù)之間,未來既可能是烏托邦,也可能是地獄,還有可能是介于兩者之間的某種世界。如果生活和自由的標(biāo)準(zhǔn)有機(jī)會(huì)得到提高,但是否值得以犧牲自由和隱私為代價(jià)呢?是否存在能夠設(shè)計(jì)出這種系統(tǒng)的正途或是歧路?我堅(jiān)信,答案就在這些設(shè)計(jì)師身上。

　　一組設(shè)計(jì)師設(shè)計(jì)出強(qiáng)大的機(jī)器人,讓人們可以完成此前無法想象的任務(wù),比如用于空間探索的編程機(jī)器人;而另一組人則研究用機(jī)器取代人類,比如設(shè)計(jì)出人工智能軟件,讓機(jī)器人可以為醫(yī)生和律師的工作“代班”。有必要讓這兩個(gè)陣營(yíng)找到互相交流的途徑。我們?nèi)绾卧O(shè)計(jì)這些日益智能的機(jī)器、如何與它們互動(dòng), 將決定未來社會(huì)和經(jīng)濟(jì)的本質(zhì)。這將不斷影響現(xiàn)代世界的方方面面,從我們是否生活在一個(gè)階層更加分明(或更加模糊)的世界, 到身為人類究竟意味著什么。

　　對(duì)于當(dāng)今人工智能技術(shù)狀況的討論已經(jīng)突然轉(zhuǎn)向科幻小說或宗教領(lǐng)域。不過,機(jī)器自治的現(xiàn)實(shí)不僅屬于哲學(xué)范疇,也不是純粹的假設(shè)性問題了。我們已經(jīng)進(jìn)入了新時(shí)期,機(jī)器能夠執(zhí)行很多需要智慧與體力的人類工作:它們可以勝任工廠的工作、駕駛無人駕駛汽車,將人類排除在外汽車、診斷疾病,也能以人類律師的眼光閱讀文件,它們當(dāng)然也能控制武器,以極高的精準(zhǔn)度展開屠殺。

　　無論是機(jī)器設(shè)備,還是讓它們運(yùn)轉(zhuǎn)的軟件,實(shí)際上都是由人類設(shè)計(jì)的。馬歇爾·麥克盧漢(Marshall McLuhan)對(duì)這一過程的描述最為清晰:“我們塑造了工具,而之后,這些工具又塑造了我們。”

　　現(xiàn)實(shí)情況是,人類將繼續(xù)決定機(jī)器的能力。那些創(chuàng)造了日益強(qiáng)大、自動(dòng)化的機(jī)器人和人工智能軟件的工程師們,將決定這些發(fā)明將要增強(qiáng)人類、控制人類還是完全去除人類的存在。

　　同樣可以確定的是,人類與機(jī)器的關(guān)系在每一種文化中都呈現(xiàn)了各自的特征。長(zhǎng)久以來,日本人都對(duì)機(jī)器人情有獨(dú)鐘,而在美國(guó),人們?cè)诔缇礄C(jī)器的同時(shí),又多了幾分懷疑和惶恐。

　　這些都不是什么新問題。在計(jì)算時(shí)代的黎明期,應(yīng)用數(shù)學(xué)家、控制論創(chuàng)始人諾伯特·維納(Norbert Wiener)就曾明確指出,智能機(jī)器時(shí)代的到來,帶來了一些清晰的選擇。不過到目前為止,大多數(shù)可選方案仍然僅限于推理與猜測(cè)。如今,隨著機(jī)器變得自動(dòng)、敏捷、能夠四處移動(dòng),工程師、科學(xué)家、程序員以及老百姓所作出的每一個(gè)決定,都會(huì)即刻發(fā)生作用。今天,機(jī)器人學(xué)和人工智能軟件都在不斷喚起人們對(duì)個(gè)人計(jì)算時(shí)代早期的回憶。正如業(yè)余愛好者們締造了個(gè)人計(jì)算機(jī)產(chǎn)業(yè),人工智能設(shè)計(jì)師和機(jī)器人學(xué)家對(duì)技術(shù)進(jìn)步、新產(chǎn)品和它們身后的科技公司都抱有極大的熱情。與此同時(shí), 多數(shù)軟件設(shè)計(jì)師和機(jī)器人工程師在被問到自己的發(fā)明會(huì)帶來什么潛在影響時(shí)都會(huì)感到不快,只能頻繁地以幽默來轉(zhuǎn)移話題,化解尷尬,但是,問題仍然是必要的。機(jī)器人發(fā)展中可沒有“盲眼鐘表匠”(blind watchmaker)。無論是增強(qiáng)還是自動(dòng)化,都是由一個(gè)個(gè)人類設(shè)計(jì)師作出的設(shè)計(jì)決定。