李飛飛離職谷歌背后：AI還很稚嫩 作為科學(xué)家很卑微

　　正如李飛飛所說(shuō)，深層學(xué)習(xí)系統(tǒng)“可獲得偏見(jiàn)，輸出偏見(jiàn)?！崩铒w飛認(rèn)識(shí)到，雖然驅(qū)動(dòng)人工智能的算法可能貌似是中性的，但影響這些算法結(jié)果的數(shù)據(jù)和應(yīng)用卻不是。重要的是創(chuàng)建它的人，以及創(chuàng)建的目的。那天，李飛飛在國(guó)會(huì)山指出，如果沒(méi)有一群背景多樣的工程師，我們可能會(huì)創(chuàng)建出一套有偏見(jiàn)的算法，做出不公平的貸款申請(qǐng)決策，或者只在白人臉上訓(xùn)練神經(jīng)網(wǎng)絡(luò)，從而創(chuàng)建出一種在黑人臉上表現(xiàn)不佳的模型。“我認(rèn)為，如果我們20年后覺(jué)醒，發(fā)現(xiàn)我們的技術(shù)、領(lǐng)導(dǎo)者和從業(yè)者缺乏多樣性，那將是我的末日?qǐng)D景，”她說(shuō)。

　　李飛飛開(kāi)始相信，關(guān)鍵任務(wù)是把人工智能的發(fā)展重點(diǎn)放在幫助人類體驗(yàn)上。她在斯坦福大學(xué)所從事的一個(gè)項(xiàng)目是與醫(yī)學(xué)院合作，將人工智能帶到ICU，努力減少諸如醫(yī)院獲得性感染之類的問(wèn)題。它涉及到開(kāi)發(fā)一個(gè)攝像頭系統(tǒng)，可監(jiān)控洗手站，并在醫(yī)院工作人員忘記正確擦洗量給出提示。這種類型的跨學(xué)科合作是不尋常的。斯坦福大學(xué)臨床卓越研究中心主任、醫(yī)學(xué)教授阿諾德·米爾斯坦(Arnold Milstein)說(shuō)：“沒(méi)有其他來(lái)自計(jì)算機(jī)科學(xué)領(lǐng)域的人向我伸出援助之手。”

　　AI應(yīng)當(dāng)如何進(jìn)化?這項(xiàng)工作讓李飛飛看到了希望。AI可以用來(lái)補(bǔ)充人們的技能，而不是簡(jiǎn)單地替換之。如果其他學(xué)科的人(甚至是現(xiàn)實(shí)世界中的人)加入這一工程，他們就可以制造出一些工具來(lái)擴(kuò)展人類能力，比如實(shí)現(xiàn)耗時(shí)工作自動(dòng)化，讓ICU護(hù)士有更多時(shí)間陪伴病人，而不是建立人工智能使某人的購(gòu)物體驗(yàn)自動(dòng)化，并讓出納員下崗。

　　考慮到AI正在飛速發(fā)展，李飛飛認(rèn)為她的團(tuán)隊(duì)需要調(diào)整人員——越快越好。

　　幫助女性進(jìn)入計(jì)算機(jī)領(lǐng)域

　　李飛飛在斯坦福大學(xué)人工智能實(shí)驗(yàn)室

　　李飛飛對(duì)數(shù)學(xué)相當(dāng)很癡迷，她深知要讓女性或者其它有色人種進(jìn)入計(jì)算機(jī)領(lǐng)域，需要付出巨大努力。根據(jù)國(guó)家科學(xué)基金會(huì)(National Science Foundation)的統(tǒng)計(jì)，2000年，女性拿到的計(jì)算機(jī)學(xué)士學(xué)位只占全年總量的28%，2015年更是降到18%。在李飛飛自己的實(shí)驗(yàn)室內(nèi)，也很難聘請(qǐng)到足夠多的有色人種和女性研究員。李飛飛說(shuō)，雖然她的實(shí)驗(yàn)室比典型AI實(shí)驗(yàn)室更加多樣化，但是男性仍然占主導(dǎo)。她還說(shuō)：“女性不夠多，少數(shù)民族更是不夠多，實(shí)驗(yàn)室儲(chǔ)備人才也存在這樣的問(wèn)題。學(xué)生參加AI會(huì)議，會(huì)看到90%的與會(huì)者都是同性，非裔美國(guó)人的數(shù)量也遠(yuǎn)沒(méi)有白人男性多?！?/p>

　　當(dāng)李飛飛成為奧爾加·魯薩科沃斯基(Olga Russakovsky)的導(dǎo)師時(shí)，她幾乎快要退出行業(yè)。魯薩科沃斯基當(dāng)時(shí)已經(jīng)是一名計(jì)算機(jī)科學(xué)家，拿到了數(shù)學(xué)學(xué)士學(xué)位和計(jì)算機(jī)碩士學(xué)位，都是在斯坦福拿到的，但是她在論文方面落后了。魯薩科沃斯基是實(shí)驗(yàn)室唯一的女性，她覺(jué)得自己與同行脫節(jié)了。后來(lái)李飛飛來(lái)到斯坦福，情況有了變化。李飛飛幫助魯薩科沃斯基學(xué)會(huì)一些研究技能，魯薩科沃斯基還說(shuō)，李飛飛讓她有了自信?，F(xiàn)在魯薩科沃斯基是普林斯頓大學(xué)計(jì)算機(jī)系的助理教授。

　　4年前，魯薩科沃斯基念完博士，她希望李飛飛能幫助自己建一個(gè)夏令營(yíng)，讓那些對(duì)AI有興趣的女士參與進(jìn)來(lái)。李飛飛同意了，她們馬上召集志愿者，給高中二年級(jí)學(xué)生打電話。雖然只有24個(gè)名額，但是一個(gè)月之內(nèi)卻收到200份申請(qǐng)。2年后，他們擴(kuò)大了項(xiàng)目，設(shè)立非盈利組織AI4All，將年輕人帶到斯坦福、加州大學(xué)伯克利分校，包括女孩、有色人種、經(jīng)濟(jì)狀況不佳的人。

　　在加州奧克蘭市區(qū)，AI4All有一個(gè)狹小的共享辦公室，由于組織的成長(zhǎng)，現(xiàn)在它即將搬出?，F(xiàn)在AI4All在6所大學(xué)設(shè)立夏令營(yíng)。去年她們?cè)诳突仿〈髮W(xué)舉辦夏令營(yíng)，為20個(gè)名額招募成員，收到900份申請(qǐng)。有一名AI4All學(xué)生想用計(jì)算機(jī)視覺(jué)技術(shù)偵測(cè)眼病，還有一人用AI編寫程序，給911呼叫按緊急程度排序，由于救護(hù)車未能及時(shí)抵達(dá)，這名學(xué)員的祖母不幸離開(kāi)人世。很明顯，個(gè)人視角會(huì)給未來(lái)AI工具帶來(lái)巨大影響。

　　谷歌旅程

　　斯坦福大學(xué)AI實(shí)驗(yàn)室內(nèi)，裝豐田Human Support機(jī)器人的箱子

　　在斯坦福管理實(shí)驗(yàn)室近3年后，李飛飛于2016年離開(kāi)，加盟谷歌，擔(dān)任谷歌云(Google Cloud)首席科學(xué)家，谷歌云是公司的企業(yè)計(jì)算業(yè)務(wù)部門。李飛飛想知道行業(yè)是如何運(yùn)作的，如果能根據(jù)客戶的關(guān)注點(diǎn)部署新工具，也許可以擴(kuò)大自己的研究范圍。Facebook、谷歌、微軟等企業(yè)也投入巨資，研究AI，希望AI能幫助業(yè)務(wù)快速發(fā)展。與大學(xué)相比，企業(yè)擁有更多更好的數(shù)據(jù)。對(duì)于AI研究人員來(lái)說(shuō)，數(shù)據(jù)就是燃料。

　　最開(kāi)始時(shí)，李飛飛充滿激情與活力。她與企業(yè)會(huì)談，將科學(xué)研究應(yīng)用于現(xiàn)實(shí)。在她的領(lǐng)導(dǎo)下，部門推出面向公眾的AI工具，有了這套工具，任何人不需要寫一行代碼就能開(kāi)發(fā)機(jī)器學(xué)習(xí)算法。她在中國(guó)設(shè)立實(shí)驗(yàn)室，優(yōu)化AI工具，用于醫(yī)療健康領(lǐng)域。她在達(dá)沃斯世界經(jīng)濟(jì)論壇發(fā)表演講，與國(guó)家元首、流行藝人交流。

　　然而，在私營(yíng)企業(yè)工作帶來(lái)新的壓力，這種壓力往往讓人不舒服。去年春天，由于谷歌與美國(guó)國(guó)防部簽署Project Maven合同，李飛飛招來(lái)非議。從本質(zhì)上講，項(xiàng)目就是要用AI工具分析視頻圖像，政府可能會(huì)用該技術(shù)控制無(wú)人機(jī)襲擊目標(biāo)，按照谷歌的描述，它們可以用AI識(shí)別低分辨率目標(biāo)，拯救生命才是首要使命。許多員工反對(duì)公司將自己開(kāi)發(fā)的技術(shù)應(yīng)用于軍事無(wú)人機(jī)。當(dāng)時(shí)4000名員工請(qǐng)?jiān)?，要求公司發(fā)表聲明，承諾谷歌與合同承包商不會(huì)開(kāi)發(fā)戰(zhàn)爭(zhēng)技術(shù)。還有幾人辭職抗議。

　　雖然李飛飛沒(méi)有直接參與交易，不過(guò)負(fù)責(zé)Maven項(xiàng)目的正是她所工作的部門。李飛飛寫過(guò)一封郵件，希望公司不要陷入尷尬境地，這封郵件被《紐約時(shí)報(bào)》拿到，媒體報(bào)道將李飛飛推向風(fēng)口浪尖。看起來(lái)讓人困惑，因?yàn)樵谡麄€(gè)行業(yè)李飛飛如同倫理道德的化身。事實(shí)上，在公眾抗議之前，李飛飛認(rèn)為這門技術(shù)是無(wú)害的，她從未想過(guò)員工會(huì)反感。

　　為什么會(huì)出現(xiàn)這樣的問(wèn)題?李飛飛還是知道的，她說(shuō)：“問(wèn)題的關(guān)鍵不在于事件本身，而在于時(shí)間點(diǎn)，企業(yè)的責(zé)任感、AI崛起、硅谷應(yīng)該參與對(duì)話，所有這些因素交織在一起，Maven項(xiàng)目成為了交匯點(diǎn)?！彪m然谷歌說(shuō)自己“不做惡”，立場(chǎng)還不夠鮮明。

　　迫于壓力，谷歌沒(méi)有續(xù)簽Maven合同，爭(zhēng)議慢慢平復(fù)。一些谷歌科學(xué)家和高管組成團(tuán)隊(duì)，李飛飛也是其中一員，他們編寫公開(kāi)指南，承諾谷歌會(huì)用AI技術(shù)造福社會(huì)，避免工具出現(xiàn)偏見(jiàn)，不讓工具傷害人類。一直以來(lái)，李飛飛都在為重返斯坦福做準(zhǔn)備，不過(guò)她覺(jué)得自己有必要親眼看到指南通過(guò)。李飛飛說(shuō)：“每個(gè)機(jī)構(gòu)都必須設(shè)立一套行事原則，評(píng)估流程時(shí)必須負(fù)責(zé)，我覺(jué)得這點(diǎn)相當(dāng)重要。本杰明·富蘭克林曾經(jīng)說(shuō)過(guò)，當(dāng)憲法出臺(tái)時(shí)，它可能不是完美的，但它的確是當(dāng)時(shí)最好的。大家會(huì)有不同的意見(jiàn)，不同的派別可以繼續(xù)對(duì)話?！崩铒w飛說(shuō)，指南發(fā)表的幾天是她當(dāng)年最快樂(lè)的幾天。李飛飛還說(shuō)：“能夠參與，能夠做點(diǎn)貢獻(xiàn)，對(duì)我而言相當(dāng)重要?！?/p>

　　AI倫理

　　6月份，我前往李飛飛的家中拜訪她，李飛飛的家在斯坦福校園。那時(shí)剛好晚上8點(diǎn)多一些，當(dāng)我們交流時(shí)，她的丈夫?qū)⑿鹤雍团畠核偷綐巧纤X(jué)，父母在姻親的單元樓過(guò)夜。餐廳變成了游戲室，所以我們坐在客廳聊天。到處都是家人的照片，架子上放著一臺(tái)1930年代的老式壞電話。當(dāng)我問(wèn)她時(shí)，她說(shuō)父母是移民過(guò)來(lái)的，李飛飛的父親喜歡去跳蚤市場(chǎng)出售舊東西。

　　一邊交流，信息在手機(jī)上跳了出來(lái)。醫(yī)生給李飛飛的母親開(kāi)了藥，父母讓她將說(shuō)明翻譯給自己聽(tīng)。李飛飛可能會(huì)在Googleplex開(kāi)會(huì)，或者在世界經(jīng)濟(jì)論壇演講，也可能正在參加國(guó)會(huì)聽(tīng)證會(huì)，如果父母需要幫助，會(huì)發(fā)短信給她。她馬上回應(yīng)，沒(méi)有打斷思路。

　　在生活的大部分時(shí)間里，李飛飛往往需要同時(shí)關(guān)注兩件不同的事。她是一名科學(xué)家，對(duì)藝術(shù)也有著深刻的見(jiàn)解。她既是美國(guó)人，又是中國(guó)人。她對(duì)人很感興趣，也對(duì)機(jī)器人感興趣。

　　7月末，李飛飛打電話給我，當(dāng)時(shí)她們家正在為旅行做準(zhǔn)備，她在給女兒洗手。李飛飛問(wèn)我：“你看到沙倫·沃拉爾(Shannon Vallor)發(fā)表的聲明了嗎?” 沃拉爾是圣塔克拉拉大學(xué)的哲學(xué)家，專門研究新興科學(xué)技術(shù)存在的哲學(xué)與倫理問(wèn)題，她說(shuō)自己要到谷歌云工作，擔(dān)任倫理顧問(wèn)。

　　為了這件事，李飛飛做了許多努力，在華盛頓證詞中，她曾經(jīng)引用沃拉爾的話說(shuō)：“沒(méi)有真正獨(dú)立的機(jī)器價(jià)值，機(jī)器價(jià)值就是人類價(jià)值?！惫雀枞蚊窡o(wú)前例。其它企業(yè)也行動(dòng)起來(lái)，圍繞AI軟件的使用、誰(shuí)能使用設(shè)置圍欄。2016年，微軟設(shè)立內(nèi)部倫理委員會(huì)，微軟還說(shuō)，由于倫理委員會(huì)存在倫理?yè)?dān)憂，它已經(jīng)拒絕與某些潛在客戶合作。如何使用AI技術(shù)?微軟也開(kāi)始設(shè)限，比如封殺某些面部識(shí)別應(yīng)用。

　　7月份我們交談時(shí)，李飛飛知道自己即將離開(kāi)谷歌，2年的休假快要結(jié)束了。當(dāng)時(shí)有許多人猜測(cè)說(shuō)，李飛飛會(huì)因?yàn)镻roject Maven爭(zhēng)議離開(kāi)。不過(guò)李飛飛卻說(shuō)，她之所以回到斯坦福，主要是因?yàn)椴幌敕艞墝W(xué)術(shù)職位，而且她也有些累了。李飛飛還說(shuō)，在谷歌度過(guò)動(dòng)蕩的夏天之后，倫理指南就像是隧道盡頭的一線光。

　　李飛飛渴望能在斯坦福設(shè)立新項(xiàng)目。秋天，李飛飛與約翰·艾切曼第(John Etchemendy，前斯坦福大學(xué)教務(wù)長(zhǎng))宣布說(shuō)要設(shè)立一個(gè)學(xué)術(shù)中心，將AI與人類研究融合在一起，匯聚硬科學(xué)、設(shè)計(jì)研究、多學(xué)科研究。李飛飛認(rèn)為：“作為一門新興科學(xué)，AI從沒(méi)有真正傾盡全力吸引人文主義者和社會(huì)科學(xué)家參與進(jìn)來(lái)?！痹S久以來(lái)，大家都認(rèn)為這些領(lǐng)域?qū)I來(lái)說(shuō)無(wú)關(guān)緊要，但李飛飛卻認(rèn)為它相當(dāng)關(guān)鍵。

　　從本質(zhì)上講，李飛飛是一名樂(lè)觀主義者。6月參加聽(tīng)證之后，她曾告訴立法者：“我深入思考那些對(duì)人類既危險(xiǎn)又有危害的工作，比如救火、自然災(zāi)害搜救。”她相信，技術(shù)可以幫助人類盡可能避開(kāi)危險(xiǎn)。

　　想讓單個(gè)機(jī)構(gòu)的單個(gè)程序改變整個(gè)行業(yè)的確有些難，受到諸多限制。盡管如此，李飛飛還是認(rèn)為要竭盡所能訓(xùn)練研究人員，讓他們像倫理學(xué)家一樣思考，研究人員用原則而非利潤(rùn)指導(dǎo)自己行事，背景多種多樣。

　　在電話中，我問(wèn)李飛飛，她有沒(méi)有想過(guò)AI也許可以用完全不同的方式發(fā)展，避開(kāi)至今我們所看到的問(wèn)題。她回答說(shuō)：“很難想象?！崩铒w飛還說(shuō)：“科學(xué)進(jìn)步和創(chuàng)新來(lái)自于幾代人的乏味工作，要不斷糾錯(cuò)試錯(cuò)。我們花了一段時(shí)間才認(rèn)清偏見(jiàn)。我工作了6年，然后才意識(shí)到：‘天啊，我們陷入了危機(jī)?！?/p>

　　在美國(guó)國(guó)會(huì)山參加聽(tīng)證時(shí)，李飛飛曾說(shuō)：“AI科學(xué)還很稚嫩，作為一名科學(xué)家，我感受到自己的卑微。這門科學(xué)誕生只有60年。一些經(jīng)典科學(xué)存在已久，比如物理、化學(xué)、生物學(xué)，這些科學(xué)每天都在進(jìn)步，讓人類生活變得更好，與它們相比，AI還要走漫長(zhǎng)的路才能認(rèn)清自己，知道自己有哪些可以幫助人類的潛能。用適當(dāng)?shù)闹改弦龑?dǎo)AI發(fā)展，可以讓生活變得更美好。如果沒(méi)有指南，技術(shù)會(huì)讓貧富分化變得更嚴(yán)重，讓排斥力變得更強(qiáng)大，進(jìn)一步強(qiáng)化偏見(jiàn)，幾個(gè)世代以來(lái)，我們一直在努力克服這種偏見(jiàn)?！崩铒w飛試圖讓我們相信，現(xiàn)在的時(shí)代已經(jīng)是一個(gè)介于發(fā)明和影響(指發(fā)明帶來(lái)的影響)之間的時(shí)代。