李飛飛離職谷歌背后:AI還很稚嫩 作為科學家很卑微
正如李飛飛所說,深層學習系統(tǒng)“可獲得偏見,輸出偏見?!崩铒w飛認識到,雖然驅動人工智能的算法可能貌似是中性的,但影響這些算法結果的數(shù)據(jù)和應用卻不是。重要的是創(chuàng)建它的人,以及創(chuàng)建的目的。那天,李飛飛在國會山指出,如果沒有一群背景多樣的工程師,我們可能會創(chuàng)建出一套有偏見的算法,做出不公平的貸款申請決策,或者只在白人臉上訓練神經網絡,從而創(chuàng)建出一種在黑人臉上表現(xiàn)不佳的模型。“我認為,如果我們20年后覺醒,發(fā)現(xiàn)我們的技術、領導者和從業(yè)者缺乏多樣性,那將是我的末日圖景,”她說。
本文引用地址:http://www.ex-cimer.com/article/201811/394572.htm李飛飛開始相信,關鍵任務是把人工智能的發(fā)展重點放在幫助人類體驗上。她在斯坦福大學所從事的一個項目是與醫(yī)學院合作,將人工智能帶到ICU,努力減少諸如醫(yī)院獲得性感染之類的問題。它涉及到開發(fā)一個攝像頭系統(tǒng),可監(jiān)控洗手站,并在醫(yī)院工作人員忘記正確擦洗量給出提示。這種類型的跨學科合作是不尋常的。斯坦福大學臨床卓越研究中心主任、醫(yī)學教授阿諾德·米爾斯坦(Arnold Milstein)說:“沒有其他來自計算機科學領域的人向我伸出援助之手。”
AI應當如何進化?這項工作讓李飛飛看到了希望。AI可以用來補充人們的技能,而不是簡單地替換之。如果其他學科的人(甚至是現(xiàn)實世界中的人)加入這一工程,他們就可以制造出一些工具來擴展人類能力,比如實現(xiàn)耗時工作自動化,讓ICU護士有更多時間陪伴病人,而不是建立人工智能使某人的購物體驗自動化,并讓出納員下崗。
考慮到AI正在飛速發(fā)展,李飛飛認為她的團隊需要調整人員——越快越好。
幫助女性進入計算機領域
李飛飛在斯坦福大學人工智能實驗室
李飛飛對數(shù)學相當很癡迷,她深知要讓女性或者其它有色人種進入計算機領域,需要付出巨大努力。根據(jù)國家科學基金會(National Science Foundation)的統(tǒng)計,2000年,女性拿到的計算機學士學位只占全年總量的28%,2015年更是降到18%。在李飛飛自己的實驗室內,也很難聘請到足夠多的有色人種和女性研究員。李飛飛說,雖然她的實驗室比典型AI實驗室更加多樣化,但是男性仍然占主導。她還說:“女性不夠多,少數(shù)民族更是不夠多,實驗室儲備人才也存在這樣的問題。學生參加AI會議,會看到90%的與會者都是同性,非裔美國人的數(shù)量也遠沒有白人男性多?!?/p>
當李飛飛成為奧爾加·魯薩科沃斯基(Olga Russakovsky)的導師時,她幾乎快要退出行業(yè)。魯薩科沃斯基當時已經是一名計算機科學家,拿到了數(shù)學學士學位和計算機碩士學位,都是在斯坦福拿到的,但是她在論文方面落后了。魯薩科沃斯基是實驗室唯一的女性,她覺得自己與同行脫節(jié)了。后來李飛飛來到斯坦福,情況有了變化。李飛飛幫助魯薩科沃斯基學會一些研究技能,魯薩科沃斯基還說,李飛飛讓她有了自信?,F(xiàn)在魯薩科沃斯基是普林斯頓大學計算機系的助理教授。
4年前,魯薩科沃斯基念完博士,她希望李飛飛能幫助自己建一個夏令營,讓那些對AI有興趣的女士參與進來。李飛飛同意了,她們馬上召集志愿者,給高中二年級學生打電話。雖然只有24個名額,但是一個月之內卻收到200份申請。2年后,他們擴大了項目,設立非盈利組織AI4All,將年輕人帶到斯坦福、加州大學伯克利分校,包括女孩、有色人種、經濟狀況不佳的人。
在加州奧克蘭市區(qū),AI4All有一個狹小的共享辦公室,由于組織的成長,現(xiàn)在它即將搬出?,F(xiàn)在AI4All在6所大學設立夏令營。去年她們在卡耐基梅隆大學舉辦夏令營,為20個名額招募成員,收到900份申請。有一名AI4All學生想用計算機視覺技術偵測眼病,還有一人用AI編寫程序,給911呼叫按緊急程度排序,由于救護車未能及時抵達,這名學員的祖母不幸離開人世。很明顯,個人視角會給未來AI工具帶來巨大影響。
谷歌旅程
斯坦福大學AI實驗室內,裝豐田Human Support機器人的箱子
在斯坦福管理實驗室近3年后,李飛飛于2016年離開,加盟谷歌,擔任谷歌云(Google Cloud)首席科學家,谷歌云是公司的企業(yè)計算業(yè)務部門。李飛飛想知道行業(yè)是如何運作的,如果能根據(jù)客戶的關注點部署新工具,也許可以擴大自己的研究范圍。Facebook、谷歌、微軟等企業(yè)也投入巨資,研究AI,希望AI能幫助業(yè)務快速發(fā)展。與大學相比,企業(yè)擁有更多更好的數(shù)據(jù)。對于AI研究人員來說,數(shù)據(jù)就是燃料。
最開始時,李飛飛充滿激情與活力。她與企業(yè)會談,將科學研究應用于現(xiàn)實。在她的領導下,部門推出面向公眾的AI工具,有了這套工具,任何人不需要寫一行代碼就能開發(fā)機器學習算法。她在中國設立實驗室,優(yōu)化AI工具,用于醫(yī)療健康領域。她在達沃斯世界經濟論壇發(fā)表演講,與國家元首、流行藝人交流。
然而,在私營企業(yè)工作帶來新的壓力,這種壓力往往讓人不舒服。去年春天,由于谷歌與美國國防部簽署Project Maven合同,李飛飛招來非議。從本質上講,項目就是要用AI工具分析視頻圖像,政府可能會用該技術控制無人機襲擊目標,按照谷歌的描述,它們可以用AI識別低分辨率目標,拯救生命才是首要使命。許多員工反對公司將自己開發(fā)的技術應用于軍事無人機。當時4000名員工請愿,要求公司發(fā)表聲明,承諾谷歌與合同承包商不會開發(fā)戰(zhàn)爭技術。還有幾人辭職抗議。
雖然李飛飛沒有直接參與交易,不過負責Maven項目的正是她所工作的部門。李飛飛寫過一封郵件,希望公司不要陷入尷尬境地,這封郵件被《紐約時報》拿到,媒體報道將李飛飛推向風口浪尖??雌饋碜屓死Щ螅驗樵谡麄€行業(yè)李飛飛如同倫理道德的化身。事實上,在公眾抗議之前,李飛飛認為這門技術是無害的,她從未想過員工會反感。
為什么會出現(xiàn)這樣的問題?李飛飛還是知道的,她說:“問題的關鍵不在于事件本身,而在于時間點,企業(yè)的責任感、AI崛起、硅谷應該參與對話,所有這些因素交織在一起,Maven項目成為了交匯點。”雖然谷歌說自己“不做惡”,立場還不夠鮮明。
迫于壓力,谷歌沒有續(xù)簽Maven合同,爭議慢慢平復。一些谷歌科學家和高管組成團隊,李飛飛也是其中一員,他們編寫公開指南,承諾谷歌會用AI技術造福社會,避免工具出現(xiàn)偏見,不讓工具傷害人類。一直以來,李飛飛都在為重返斯坦福做準備,不過她覺得自己有必要親眼看到指南通過。李飛飛說:“每個機構都必須設立一套行事原則,評估流程時必須負責,我覺得這點相當重要。本杰明·富蘭克林曾經說過,當憲法出臺時,它可能不是完美的,但它的確是當時最好的。大家會有不同的意見,不同的派別可以繼續(xù)對話?!崩铒w飛說,指南發(fā)表的幾天是她當年最快樂的幾天。李飛飛還說:“能夠參與,能夠做點貢獻,對我而言相當重要。”
AI倫理
6月份,我前往李飛飛的家中拜訪她,李飛飛的家在斯坦福校園。那時剛好晚上8點多一些,當我們交流時,她的丈夫將小兒子和女兒送到樓上睡覺,父母在姻親的單元樓過夜。餐廳變成了游戲室,所以我們坐在客廳聊天。到處都是家人的照片,架子上放著一臺1930年代的老式壞電話。當我問她時,她說父母是移民過來的,李飛飛的父親喜歡去跳蚤市場出售舊東西。
一邊交流,信息在手機上跳了出來。醫(yī)生給李飛飛的母親開了藥,父母讓她將說明翻譯給自己聽。李飛飛可能會在Googleplex開會,或者在世界經濟論壇演講,也可能正在參加國會聽證會,如果父母需要幫助,會發(fā)短信給她。她馬上回應,沒有打斷思路。
在生活的大部分時間里,李飛飛往往需要同時關注兩件不同的事。她是一名科學家,對藝術也有著深刻的見解。她既是美國人,又是中國人。她對人很感興趣,也對機器人感興趣。
7月末,李飛飛打電話給我,當時她們家正在為旅行做準備,她在給女兒洗手。李飛飛問我:“你看到沙倫·沃拉爾(Shannon Vallor)發(fā)表的聲明了嗎?” 沃拉爾是圣塔克拉拉大學的哲學家,專門研究新興科學技術存在的哲學與倫理問題,她說自己要到谷歌云工作,擔任倫理顧問。
為了這件事,李飛飛做了許多努力,在華盛頓證詞中,她曾經引用沃拉爾的話說:“沒有真正獨立的機器價值,機器價值就是人類價值。”谷歌任命史無前例。其它企業(yè)也行動起來,圍繞AI軟件的使用、誰能使用設置圍欄。2016年,微軟設立內部倫理委員會,微軟還說,由于倫理委員會存在倫理擔憂,它已經拒絕與某些潛在客戶合作。如何使用AI技術?微軟也開始設限,比如封殺某些面部識別應用。
7月份我們交談時,李飛飛知道自己即將離開谷歌,2年的休假快要結束了。當時有許多人猜測說,李飛飛會因為Project Maven爭議離開。不過李飛飛卻說,她之所以回到斯坦福,主要是因為不想放棄學術職位,而且她也有些累了。李飛飛還說,在谷歌度過動蕩的夏天之后,倫理指南就像是隧道盡頭的一線光。
李飛飛渴望能在斯坦福設立新項目。秋天,李飛飛與約翰·艾切曼第(John Etchemendy,前斯坦福大學教務長)宣布說要設立一個學術中心,將AI與人類研究融合在一起,匯聚硬科學、設計研究、多學科研究。李飛飛認為:“作為一門新興科學,AI從沒有真正傾盡全力吸引人文主義者和社會科學家參與進來?!痹S久以來,大家都認為這些領域對AI來說無關緊要,但李飛飛卻認為它相當關鍵。
從本質上講,李飛飛是一名樂觀主義者。6月參加聽證之后,她曾告訴立法者:“我深入思考那些對人類既危險又有危害的工作,比如救火、自然災害搜救?!彼嘈?,技術可以幫助人類盡可能避開危險。
想讓單個機構的單個程序改變整個行業(yè)的確有些難,受到諸多限制。盡管如此,李飛飛還是認為要竭盡所能訓練研究人員,讓他們像倫理學家一樣思考,研究人員用原則而非利潤指導自己行事,背景多種多樣。
在電話中,我問李飛飛,她有沒有想過AI也許可以用完全不同的方式發(fā)展,避開至今我們所看到的問題。她回答說:“很難想象?!崩铒w飛還說:“科學進步和創(chuàng)新來自于幾代人的乏味工作,要不斷糾錯試錯。我們花了一段時間才認清偏見。我工作了6年,然后才意識到:‘天啊,我們陷入了危機。’”
在美國國會山參加聽證時,李飛飛曾說:“AI科學還很稚嫩,作為一名科學家,我感受到自己的卑微。這門科學誕生只有60年。一些經典科學存在已久,比如物理、化學、生物學,這些科學每天都在進步,讓人類生活變得更好,與它們相比,AI還要走漫長的路才能認清自己,知道自己有哪些可以幫助人類的潛能。用適當?shù)闹改弦龑I發(fā)展,可以讓生活變得更美好。如果沒有指南,技術會讓貧富分化變得更嚴重,讓排斥力變得更強大,進一步強化偏見,幾個世代以來,我們一直在努力克服這種偏見?!崩铒w飛試圖讓我們相信,現(xiàn)在的時代已經是一個介于發(fā)明和影響(指發(fā)明帶來的影響)之間的時代。
評論