波音空難背后：人類應(yīng)該在何種程度上信任AI？

　　隨便舉個(gè)例子。比如判定一個(gè)人是不是禿頂，這個(gè)標(biāo)準(zhǔn)其實(shí)就很模糊。假如他確實(shí)一根頭發(fā)都沒(méi)有，那么事情就清楚明白了，無(wú)論是AI還是普通人，都會(huì)認(rèn)為他就是禿頂。但假如他只有一根頭發(fā)呢?在AI看來(lái)，哪怕它只有一根頭發(fā)，他也已經(jīng)不是禿頂了，但在普通人的習(xí)慣性認(rèn)知里，他依然是個(gè)禿頂。那么，如果要給AI設(shè)計(jì)一個(gè)程序，到底這個(gè)量級(jí)應(yīng)該設(shè)置在多少呢?一根頭發(fā)?兩根頭發(fā)?還是一萬(wàn)根頭發(fā)?這是一個(gè)界限很模糊的事情，在AI的認(rèn)知中極難判定，但在人類的認(rèn)知中這幾乎不是什么難題。

　　AI是有漏洞的，它處理問(wèn)題過(guò)于剛性，有時(shí)候會(huì)釀出慘禍。因此在西方科學(xué)界，很多大咖都提醒人類，對(duì)待AI要慎重，這是一把雙刃劍，它的副作用必須引起警示。

　　自動(dòng)駕駛技術(shù)也是這樣。在飛機(jī)上，當(dāng)然應(yīng)該裝自動(dòng)駕駛系統(tǒng)，但是在最后決定權(quán)的歸屬上，一般默認(rèn)人類應(yīng)該有超越AI的權(quán)限。

　　為什么在最終抉擇時(shí)，人類選擇相信自己呢?這也是一個(gè)頗有爭(zhēng)議性的話題。

　　眾所周知的事實(shí)是，人類存在一大堆弱點(diǎn)。人類自身的計(jì)算能力遠(yuǎn)沒(méi)有機(jī)器精準(zhǔn)，軀體遠(yuǎn)沒(méi)有機(jī)械強(qiáng)悍，在保持客觀理性的判斷力上，人類也乏善可陳，很多時(shí)候人類都是憑情感來(lái)做選擇的。

　　那么，人類憑什么這么自信呢?

　　這也許只是源于人類的盲目自信，甚至是自大，但可能更大的原因在于，人類知道純粹的剛性思維往往會(huì)帶來(lái)極其嚴(yán)重的社會(huì)后果，比如算法歧視、規(guī)則排他性等等。一旦AI掌握游戲規(guī)則的最終裁定權(quán)，很可能會(huì)產(chǎn)生一個(gè)讓人類絕望的AI暴政時(shí)代。設(shè)想一下，假如AI計(jì)算后認(rèn)為，只有某類人才有生存的價(jià)值，那么一場(chǎng)大屠殺就要開(kāi)始了，那可能比納粹更離譜。

　　AI不會(huì)自我修正，但人類可以，反省精神可能是人類優(yōu)于AI的一個(gè)方面。

　　已故科學(xué)巨匠霍金一直對(duì)AI保持警惕的態(tài)度。

　　2016年10月19日，霍金劍橋大學(xué)發(fā)表演講。他在演講中批評(píng)了人工智能的無(wú)節(jié)制發(fā)展，他認(rèn)為，人工智能技術(shù)的確有希望帶來(lái)巨大的福利，比如根除疾病和貧困，但是它同樣也可能帶來(lái)危險(xiǎn)，比如強(qiáng)大的自主式武器，或者幫助少數(shù)人壓迫多數(shù)人。

　　2017年3月，霍金在接受《泰晤士報(bào)》采訪時(shí)再次發(fā)出警告，“人類需要控制以人工智能為代表的新興科技，以防止它們?cè)谖磥?lái)可能對(duì)人類生存帶來(lái)的毀滅性威脅。”他還說(shuō)，“自從人類文明開(kāi)始以來(lái)，侵略便一直存在，往往出現(xiàn)在相對(duì)具有生存能力優(yōu)勢(shì)的不同群體之間，而未來(lái)人工智能進(jìn)一步發(fā)展便可能具備這種‘優(yōu)勢(shì)’。他們本身也是生根于達(dá)爾文的進(jìn)化論之中。因此人類需要利用邏輯和理性去控制未來(lái)可能發(fā)生的威脅。”

　　在歐美國(guó)家，對(duì)于人工智能的立場(chǎng)分為截然不同的很多派別。不過(guò)即便是最樂(lè)觀的派系，也遠(yuǎn)不及我們身邊的大多數(shù)人對(duì)于AI技術(shù)的樂(lè)觀。

　　目前我所能查到的國(guó)內(nèi)有關(guān)民航無(wú)人駕駛系統(tǒng)應(yīng)用的論文，對(duì)于AI技術(shù)的態(tài)度都是持高度肯定和樂(lè)觀態(tài)度的，甚至很多文章通篇洋溢著浪漫主義的情懷。至于媒體的報(bào)道則更是如此，比如前幾年關(guān)于波音、空客民航大客機(jī)做飛行表演時(shí)的報(bào)道，很多媒體對(duì)于AI控制系統(tǒng)成為飛機(jī)的實(shí)際控制者的消息歡欣鼓舞。在大多數(shù)人看來(lái)，AI技術(shù)只要做好防范黑客攻擊這一道關(guān)，其他方面都不是問(wèn)題。

　　其他領(lǐng)域也是一樣，比如關(guān)于機(jī)器換人的新聞，基本上都持高度肯定及贊賞的態(tài)度，金融資本圈對(duì)于AI技術(shù)、大數(shù)據(jù)技術(shù)的追捧同樣是大家有目共睹的。

　　但是，AI技術(shù)對(duì)于現(xiàn)實(shí)生活的反噬其實(shí)已經(jīng)開(kāi)始顯現(xiàn)。比如，AI技術(shù)的基礎(chǔ)建立于大數(shù)據(jù)之上，而大數(shù)據(jù)非法采集及信息泄露問(wèn)題，現(xiàn)在層出不窮。但遺憾的是，盡管這個(gè)問(wèn)題已經(jīng)泛濫了好幾年，現(xiàn)在卻依然沒(méi)有看到局面改變的跡象，甚至愈演愈烈。

　　算法的歧視問(wèn)題也越來(lái)越嚴(yán)重。比如去年IG奪冠，王思聰微博抽獎(jiǎng)，113名獲獎(jiǎng)?wù)咧兄挥?名男性，隨即有人發(fā)現(xiàn)，幾乎所有的微博抽獎(jiǎng)都是女性獲獎(jiǎng)，而有人更是深挖出背后的計(jì)算邏輯，即系統(tǒng)并不考慮性別，但如果用戶對(duì)化妝品之類的商品敏感度高、購(gòu)買力強(qiáng)，則不會(huì)被標(biāo)注為“垃圾用戶”。今年更曝出猛料，如果某女性在某電商平臺(tái)上買了幾條低于128元的裙子，基本上她已經(jīng)失去了被人追求的價(jià)值。

　　更令人細(xì)思極恐的是，在隱私權(quán)被無(wú)視之后，大數(shù)據(jù)和AI技術(shù)實(shí)際上是可以獲得你的一切信息的，包括你的容貌、身份信息、指紋、密碼、生活習(xí)慣，你在網(wǎng)絡(luò)上留下的任何痕跡都會(huì)面臨潛在的非法使用風(fēng)險(xiǎn)。那么如果有一天，AI創(chuàng)造了另外一個(gè)你，那么你該如何證明自己才是真實(shí)的本主呢?

　　結(jié)語(yǔ)

　　當(dāng)下我們所處的時(shí)代還只是一個(gè)初級(jí)AI時(shí)代，不過(guò)阿爾法狗已經(jīng)向人類證明了AI強(qiáng)大的自我學(xué)習(xí)能力，假以時(shí)日，強(qiáng)人工智能時(shí)代終將來(lái)臨。

　　考慮到硬件的快速發(fā)展和軟件的創(chuàng)新是同時(shí)發(fā)生的，強(qiáng)人工智能時(shí)代可能比我們預(yù)期的更早降臨，因?yàn)橹笖?shù)級(jí)增長(zhǎng)的開(kāi)端可能像蝸牛漫步，但是后期會(huì)跑的非常快。

　　以當(dāng)下我們身邊很多人對(duì)AI技術(shù)的樂(lè)觀態(tài)度，未來(lái)人類會(huì)和與人類智能相當(dāng)?shù)膹?qiáng)人工智能電腦平等快樂(lè)地生活在一起?；蛘吒硐胍稽c(diǎn)，一群智能遠(yuǎn)超人類的機(jī)器人甘愿為人類的幸福默默地奉獻(xiàn)一切。我不知道這種設(shè)想是否正確，但我希望它是真的，畢竟誰(shuí)不希望未來(lái)會(huì)更加美好呢?

　　但這個(gè)星球上依然有很多人對(duì)于AI心存警惕。比如當(dāng)獅航空難和埃航空難發(fā)生之后，仍然有很多人認(rèn)為，對(duì)于關(guān)乎人類性命的事情，最后的裁決權(quán)依然應(yīng)該交給人類，而不能交給冰冷的AI，即便它無(wú)比強(qiáng)大。