自動駕駛深陷泥沼 Uber如何擺脫困境？

　　最近優(yōu)步汽車(Uber)導(dǎo)致一位自行車騎行者因車禍遇難的事件引發(fā)了多方關(guān)注。很多人認(rèn)為，系統(tǒng)能力低下的責(zé)任應(yīng)由優(yōu)步公司承擔(dān)，但也有些人認(rèn)為，事故本身并不值得大做文章。在筆者看來，此類事故確實可以通過技術(shù)方式加以避免。然而，為什么這個問題對于自動駕駛系統(tǒng)而言相對更難以解決?那么首先，讓我們回答這樣一個問題——“為何優(yōu)步?jīng)]有在自己的汽車上，使用奔馳配備的夜視系統(tǒng)?”

　　首先需要強(qiáng)調(diào)，我并不清楚造成此次事故的具體原因，也不會將其認(rèn)定為無法避免的狀況。此外，我也不打算在本文當(dāng)中對任何人加以指責(zé)，或者對任何肇事原因作出證明。換言之，我只是在單純討論為什么這個問題對于人工智能類系統(tǒng)而言，要比常規(guī)駕駛情況下更難以解決。

　　在幾乎所有新型車輛上，我們都能找到常規(guī)的碰撞回避(“collision avoidance”，簡稱CA)系統(tǒng)。這套系統(tǒng)的作用非常單一，或者說只有一項目標(biāo)——在車輛即將發(fā)生碰撞時剎車。這種“確定性”意味著其會在檢測到某種特定信號時，采取與之對應(yīng)的動作(即制動)。對于同一種信號，其總是會產(chǎn)生同樣的反應(yīng)。此外，還有一些碰撞回避系統(tǒng)會根據(jù)環(huán)境采取一些基于概率的判斷，但總體來講，碰撞回避系統(tǒng)通常非常簡單：當(dāng)車輛以不合理的速度接近某個位置時，其會觸發(fā)剎車。您可以在程序代碼當(dāng)中使用簡單的IF語句來實現(xiàn)這項功能。

　　那么，為什么人工智能型系統(tǒng)就做不到這一點?人工智能是系統(tǒng)展示其認(rèn)知技能的一種能力，例如學(xué)習(xí)以及解決問題。換言之，人工智能并非依靠預(yù)編程方式來監(jiān)測來自傳感器的已知輸入信號，從而采取預(yù)定義的行動。這意味著，不同于以往對已知情況進(jìn)行預(yù)定義的處理方式，如今我們需要為算法提供大量數(shù)據(jù)以實現(xiàn)人工智能訓(xùn)練，并借此引導(dǎo)其學(xué)會如何操作——這就是機(jī)器學(xué)習(xí)的基本原理。如果我們利用機(jī)器學(xué)習(xí)技術(shù)建立一套碰撞回避系統(tǒng)，其完全能夠達(dá)到近乎完美的效果——但這也意味著其仍然屬于單一目的系統(tǒng)。它可以剎車，但卻學(xué)不會導(dǎo)航。

　　導(dǎo)航功能由感知并解釋環(huán)境、作出決策并采取行動這幾個部分組成。環(huán)境感知則包括路徑規(guī)劃(駛向何處)、障礙物檢測以及軌跡估算(探測到的物體如何移動)。除此之外還有很多?，F(xiàn)在可以看到，避免碰撞只是其需要完成的眾多任務(wù)當(dāng)中的一項。系統(tǒng)同時面對著很多問題：我要去哪里在、我看到了什么、如何解釋這些景象、是否有物體在移動、其移動速度有多快、我的軌跡是否會與他人的路線發(fā)生交叉等等。

　　這種自主導(dǎo)航問題太過復(fù)雜，無法簡單在程序代碼中使用IF-ELSE語句(IF-ELSE statements)并配合傳感器信號讀取加以解決。為什么?因為要獲取完成這項任務(wù)所需要的一切數(shù)據(jù)，車輛當(dāng)中必須包含數(shù)十個不同的傳感器。其目標(biāo)，在于建立一套全面的視野，同時彌補(bǔ)單一傳感器所存在的不足。如果我們現(xiàn)在對這些傳感器所能產(chǎn)生的測量值組合數(shù)字進(jìn)行估算，就會發(fā)現(xiàn)這套自動駕駛系統(tǒng)有多么復(fù)雜。很明顯，模擬其中每一種可能的輸入組合已經(jīng)遠(yuǎn)遠(yuǎn)超過人類大腦的處理能力。

　　此外，這種自我學(xué)習(xí)系統(tǒng)很可能以概率作為指導(dǎo)基礎(chǔ)。如果其在路上注意到某些事物，其會考慮所有的潛在選項并為其附加對應(yīng)概率。舉例來說，物體為狗的概率為5%，物體為卡車的概率為95.7%，那么其會將對方判斷為卡車。但是，如果傳感器給出的輸入內(nèi)容存在矛盾，又該怎么辦?

　　這種情況其實相當(dāng)常見。舉例來說，普通的攝像機(jī)能夠清晰拍攝到近距離物體，但只能以二維方式呈現(xiàn)。激光雷達(dá)屬于一種激光發(fā)射器，其能夠在三維空間中看到同一個物體，但觀察結(jié)果卻缺乏細(xì)節(jié)——特別是色彩信息(詳見下圖)。因此，我們可以利用多臺攝像機(jī)從多個角度拍攝以重建三維場景，并將其與雷達(dá)“圖像”進(jìn)行比較。如此得出的綜合結(jié)果顯然更為可靠。然而，攝像機(jī)對光照條件非常敏感——即使是少量陰影也可能干擾場景中的某些部分并導(dǎo)致輸出質(zhì)量低下。作為一套出色的識別系統(tǒng)，其應(yīng)該能夠在這種情況下更多依賴于雷達(dá)系統(tǒng)的輸入。而在其它情況下，則更多依賴于攝像機(jī)系統(tǒng)。而兩類傳感器得出共識性結(jié)論的部分，則屬于可信度最高的判斷。

　　圖：我坐在辦公室的椅子上(位于圖像中心位置)揮舞著Velodyne VLP-16雷達(dá)。自動駕駛汽車所使用的激光雷達(dá)擁有更高的分辨率，但仍然無法與攝像機(jī)相媲美。請注意，此圖像來自單一雷達(dá)掃描，我們可以進(jìn)行多次雷達(dá)掃描以進(jìn)一步提升圖像分辨率。

　　那么，如果攝像機(jī)將目標(biāo)識別為一輛卡車，但雷達(dá)認(rèn)為這是一只狗，且兩種結(jié)論的可信度對等，結(jié)果又將如何?這實際上是一種最為困難，且可能無法解決的狀況?，F(xiàn)代碰撞回避系統(tǒng)會使用記憶機(jī)制，其中包含車輛曾經(jīng)看到過的地圖與寄存內(nèi)容。其會追蹤圖像之間的記錄信息。如果兩秒鐘之間兩套傳感器(更準(zhǔn)確地說，兩種解釋傳感器計數(shù)的算法)皆認(rèn)為目標(biāo)為卡車，而稍后其中一套認(rèn)為其是狗，那么目標(biāo)仍會被視為卡車——直到出現(xiàn)更強(qiáng)有力的證據(jù)。請記住這個例子，我們將在稍后探討優(yōu)步事件時再次提到。

　　這里咱們回顧一下。之前我們已經(jīng)講述了人工智能必須處理來自眾多不同傳感器的輸入內(nèi)容，評估傳感器輸入內(nèi)容的質(zhì)量并構(gòu)建場景認(rèn)知結(jié)論。有時不同傳感器會給出不同的預(yù)測結(jié)果，而且并非所有傳感器在任意時間段內(nèi)皆可提供信息。因此，該系統(tǒng)會建立一套影響判斷過程的記憶機(jī)制，這一點與人類一樣。此后，其需要將這些信息加以融合，從而對當(dāng)前狀況作出一致的判斷進(jìn)而驅(qū)動汽車行進(jìn)。

　　聽起來不錯，那么我們能否信任這樣的AI系統(tǒng)?系統(tǒng)的質(zhì)量取決于其整體架構(gòu)的組合水平(使用哪些傳感器、如何處理傳感器信息、如何融合信息、使用哪些算法以及如何評估決策等等)以及實際使用及訓(xùn)練所用數(shù)據(jù)的性質(zhì)與數(shù)量。即使架構(gòu)完美，如果我們提供的數(shù)據(jù)量太少，其也有可能犯下嚴(yán)重錯誤。這就像是委派缺少經(jīng)驗的工作人員執(zhí)行一項艱巨的任務(wù)。數(shù)據(jù)總量越大，意味著系統(tǒng)將擁有更多學(xué)習(xí)機(jī)會并作出更好的決策。與人類不同，人工智能可以匯集數(shù)百年來積累的經(jīng)驗，并最終提供比任何個人都更為出色的駕駛能力。

　　那么，這樣的系統(tǒng)為何還會引發(fā)傷亡事故?在接下來的文章中，我們將提到很多可能的情況，而其中錯誤的評估結(jié)論就有可能導(dǎo)致事故。我們還會探討哪些情況下，人工智能系統(tǒng)更有可能作出錯誤判斷。

　　· 首先，如果系統(tǒng)未能看到充足的類似數(shù)據(jù)，則可能無法正確理解當(dāng)前情況。

　　· 第二，如果當(dāng)前環(huán)境難以感知，且傳感器輸入內(nèi)容的可信度不高或者信號混雜，則可能引發(fā)錯誤判斷。

　　· 第三，如果對傳感器輸入內(nèi)容的理解與基于系統(tǒng)記憶的理解相矛盾(例如在前一個時間步幅內(nèi)將對象認(rèn)定為卡車，但后一個步幅內(nèi)傳感器將其判斷為狗)，則可能引發(fā)錯誤判斷。

　　· 最后，我們無法排除存在其它故障因素的可能性。

　　沒錯，任何擁有合理設(shè)計的系統(tǒng)都能夠單獨(dú)處理其中的一類問題，然而：

　　· 解決矛盾需要時間;

　　· 多項因素的共同作用可能導(dǎo)致錯誤的決策及行為。

　　在進(jìn)一步研究具體情況之前，我們首先簡單介紹一下現(xiàn)代傳感器能做到什么、又不能做到什么。

　　理解傳感器技術(shù)

　　很多人表示，如今的技術(shù)已經(jīng)如此先進(jìn)，因此優(yōu)步汽車應(yīng)該能夠明確識別出正在過路的行人，包括那些因為走錯了路而繞轉(zhuǎn)回來、或者突然從暗處沖入照明區(qū)域的行人。那么，傳感器能夠測量到哪些情況，又無法應(yīng)對哪些場景?這里，我談的單純只是測量，而非理解測量內(nèi)容的能力。

　　· 攝像機(jī)無法觀察到暗處的事物。攝像機(jī)是一種被動式傳感器，其只能記錄照明環(huán)境下的事物。我將這一條列在最前面，是因為目前已經(jīng)有不少強(qiáng)大的攝像機(jī)能夠在黑暗環(huán)境中正常拍攝(例如HDR攝像機(jī))。然而，這類設(shè)備所能適應(yīng)的其實是弱光而非無光環(huán)境。而對于無光環(huán)境，雖然紅外及紅外輔助攝像機(jī)能夠切實解決問題，但自動駕駛汽車上采用雷達(dá)代替這類設(shè)備。因此大多數(shù)用于自動駕駛汽車的攝像機(jī)仍然無法“看”清暗處的事物。

　　· 雷達(dá)能夠輕松檢測到移動的對象。其利用無線電波自物體處反射回來時，運(yùn)動目標(biāo)造成的反射波在多普勒頻移效應(yīng)下出現(xiàn)的波長差異。然而，常規(guī)雷達(dá)很難測量體積較小、移動緩慢或者靜止的物體——因為從靜止物體反射回來的波，與從地面反射回來的波之間只存在極小的差別。

　　· 激光雷達(dá)的工作原理與普通雷達(dá)相似，只是發(fā)射激光從而輕松在三維空間內(nèi)繪制任何表面。為了增大三維成像范圍，大多數(shù)激光雷達(dá)會不斷旋轉(zhuǎn)，像復(fù)印機(jī)掃描紙張那樣持續(xù)掃描周邊環(huán)境。其不依賴于外部照明，在黑暗條件下也能夠準(zhǔn)確發(fā)現(xiàn)目標(biāo)。然而，雖然高端激光雷達(dá)擁有出色的分辨率水平，但其需要配合強(qiáng)大的計算機(jī)以重建三維圖像。因此如果有廠商聲稱其激光雷達(dá)能夠以10 Hz(即每秒進(jìn)行10次三維掃描)的速率進(jìn)行工作，記得問問他們能不能提供10 Hz的數(shù)據(jù)處理能力。雖然市場上幾乎所有自動駕駛系統(tǒng)皆使用激光雷達(dá)，但ElonMusk認(rèn)為激光雷達(dá)僅具有短期意義，因此特斯拉公司并沒有使用這項技術(shù)。

　　· 紅外線能夠通過溫度區(qū)分物體，因此其對溫度顯然非常敏感。如果陽光照下，其可能無法區(qū)分不同物體間的差別，因為紅外線在自動駕駛系統(tǒng)中作用有限。

　　· 超聲波傳感器在低速條件下非常適合用于碰撞回避系統(tǒng)。大多數(shù)停車傳感器都使用超聲波技術(shù)，但其工作范圍很小，因此如果利用其進(jìn)行碰撞回避，往往會導(dǎo)致在發(fā)現(xiàn)目標(biāo)時已經(jīng)來不及制動。正因為如此，特斯拉等希望將解決方案引入高速公路行駛環(huán)境的廠商更傾向于選擇雷達(dá)。

　　這套系統(tǒng)可能出現(xiàn)什么問題?

　　1、我們首先來看看這張照片，大家在其中注意到了什么?

　　圖：在摩天大樓高聳入云的市區(qū)內(nèi)，人們正在穿越人行橫道。

　　你有沒有注意到騎自行車的行人?他顯然并不打算跟汽車搶路，而是停下來靜等汽車通過后再繼續(xù)前進(jìn)?！?/p>

　　圖：來自上圖中的部分內(nèi)容，騎自行車的行人。

　　因此第一種可能的解釋是，該算法看到很多騎自行車的人都會等待汽車經(jīng)過后再繼續(xù)前進(jìn)。很明顯，如果某套人工智能系統(tǒng)只要遇到騎行者就選擇剎車，那么其質(zhì)量水平絕對堪憂。那么，其是否會認(rèn)定某位陌生的騎行者有可能搶行——即不同于大部分等待汽車通過的騎行者?雖然這個假設(shè)非常重要，但卻沒有足夠的數(shù)據(jù)就這種狀況提醒AI系統(tǒng)。雖然Waymo曾經(jīng)于兩年前(當(dāng)時還被稱為谷歌汽車)宣布其能夠準(zhǔn)確識別騎行者甚至其手勢，但騎行者探測與預(yù)測仍是一個懸而未決的難題。

　　2、理解缺失?？纯聪旅孢@張照片：

　　假設(shè)我們的系統(tǒng)能夠區(qū)分出讓路的騎行者與不讓路的騎行者，那么優(yōu)步事故中的騎行者無疑處于二者之間的盲區(qū)當(dāng)中。這意味著只有激光雷達(dá)能夠及時檢測到其是否停車。也許當(dāng)時雷達(dá)確實檢測到了正確結(jié)果，但從三維點云當(dāng)中正確識別出騎行者仍要比從拍攝圖像中將其檢測出來困難得多。系統(tǒng)是否將其識別為騎行者，或者其它朝著汽車移動而來的物體?也許沒有，因為參照另一條車道上的正常物體，系統(tǒng)決定繼續(xù)行駛。同樣，如果我就是圖中的行人，而且不太清楚駛過來的是什么樣的汽車，那么我有可能選擇繼續(xù)前進(jìn)。當(dāng)然，如果車輛繼續(xù)朝我沖來，很有可能引發(fā)事故。但根據(jù)生活經(jīng)驗，在99.99%的情況下，這樣的假設(shè)并不合理。

　　照明之后發(fā)生了什么?

　　關(guān)于系統(tǒng)為何沒有做好充分的碰撞回避準(zhǔn)備，我們還可以提出更多合情合理的解釋。然而，為什么系統(tǒng)沒有在騎行者進(jìn)入光照環(huán)境后剎車?對此，我們難以找到簡單的答案。在某些情況下，確定性系統(tǒng)會進(jìn)行剎車(雖然未必能夠徹底避免碰撞)。如果我在常規(guī)街道上進(jìn)行車輛測試，我可能會額外準(zhǔn)備一套確定性系統(tǒng)作為補(bǔ)充。但現(xiàn)在，讓我們專注于AI系統(tǒng)的表現(xiàn)。

　　正如我之前所提到，現(xiàn)代自動駕駛系統(tǒng)都擁有記憶功能，并且要根據(jù)環(huán)境的不同而對各傳感器采取不同的采集標(biāo)準(zhǔn)。暗處是一類極具挑戰(zhàn)的條件，因為光照不足，因此其無法實時操作攝像機(jī)并對結(jié)果抱有足夠的信心。因此，AI系統(tǒng)在夜間環(huán)境下很可能更傾向于使用激光雷達(dá)。正如前文所述，激光雷達(dá)的感測輸出每秒進(jìn)行10次，但處理能力則取決于具體系統(tǒng)——且一般達(dá)不到掃描的實際頻度。因此，比較強(qiáng)大的筆記本電腦可能每秒會處理一次掃描結(jié)果(包括將原始輸入內(nèi)容轉(zhuǎn)換為三維圖像，再從圖像中查找對象并理解其含義)。利用特定硬件將能夠提升這一速度，但仍然不太可能達(dá)到10 Hz水平——至少在不影響分辨率的前提下不太可能。

　　現(xiàn)在，讓我們假定人工智能知識在暗處存在某個物體，并更傾向于相信激光雷達(dá)提供的數(shù)據(jù)。當(dāng)騎行者行進(jìn)至車前時，攝像機(jī)會及其它傳感器會識別到這一對象。而一旦信號解釋完成，確定性系統(tǒng)就會剎車。但在人工智能系統(tǒng)看來，這些信息可能還包括以下含義：

　　不明飛行物?大氣光暈?我們需要將其與自動駕駛AI進(jìn)行比較。(1)一方面，該系統(tǒng)擁有值得依賴的傳感器，即激光雷達(dá)，其告知系統(tǒng)汽車前方?jīng)]有任何物體(由于處理速度較慢，其并未及時發(fā)現(xiàn)騎行者的行動)。(2)其有可能調(diào)用傳感器的測量歷史記錄，其中沒有任何信息表明將有物體可能與汽車相撞。(3)最后，一部分傳感器提到汽車前方存在障礙物。(4)也許算法能夠?qū)υ撜系K物進(jìn)行分類?，F(xiàn)在，決定權(quán)就在AI手上。

　　我們必須考慮到，人工智能系統(tǒng)是以概率作為判斷基礎(chǔ)的。這意境豐每個傳感器都存在一些錯誤率，畢竟測量結(jié)果不可能100%準(zhǔn)確。此外，來自傳感器數(shù)據(jù)的對應(yīng)預(yù)測結(jié)論也存在錯誤。為什么會出錯?如果攝像機(jī)與激光雷達(dá)給出的判斷不一致(或者尚未能匹配圖像)，那么系統(tǒng)將無法獲得精確的三維數(shù)據(jù)圖像，因此只能從攝像機(jī)二維圖像中進(jìn)行重建。下面，讓我們看看優(yōu)步事故當(dāng)中騎行者的形象：

　　圖：亞利桑那州警方發(fā)布的視頻截圖。

　　由于缺少三維信息，該系統(tǒng)只能依賴機(jī)器學(xué)習(xí)模型檢測當(dāng)前目標(biāo)——而且不清楚自身與目標(biāo)間的距離。為什么無法識別出騎行者?下面我們提出幾種假設(shè)：

　　· 此人身著黑色夾克(參見黃色區(qū)域)，與夜間環(huán)境融為一體。很多人認(rèn)為現(xiàn)代攝像機(jī)完全能夠?qū)⒑谏珚A克與黑夜背景區(qū)分開來——沒錯，但大多數(shù)機(jī)器學(xué)習(xí)算法都無法使用200到300萬像素的圖像進(jìn)行實時模型訓(xùn)練。為了縮短處理過程，大多數(shù)模型所使用的圖像分辨率僅為1000 x 1000像素，甚至更低。盡管部分建模者表示能夠處理200萬x 100萬像素的圖像，但其仍然無法在夜間檢測到騎行者。這是因為大多數(shù)情況下，相關(guān)模型仍會使用分辨率較低的圖像，或者在某一區(qū)域內(nèi)對像素值進(jìn)行平均以構(gòu)成超像素。因此，實際上這類圖像中只有部分物體能夠被準(zhǔn)確識別出來。

　　· 如果沒有合適的三維信息(提供距離數(shù)據(jù))，自行車可能會被錯誤分類——請參閱上圖中的綠色與粉紅色標(biāo)記注釋。當(dāng)我們?nèi)祟惪吹秸w圖像時，會立即注意到這個人。因為自行車框架(用粉紅色圓點標(biāo)記)非常近似于汽車尾燈(同樣用粉紅色標(biāo)記)?；氐礁怕史矫娴挠懻摗谝归g行駛時，算法認(rèn)為在車前遇到汽車尾燈或者自行車車架的具體可能性，分別是多少?其很可能曾經(jīng)看到過多種不同形狀的尾燈，但卻很少見到自行車車架橫在車前。因此，其傾向于將目標(biāo)判斷為尾燈。

　　· 最后，我在路燈下標(biāo)記了一個橙色的點，你可以從圖片中找到與之相同的顏色及形狀。

　　所以，如果攝像機(jī)的錯誤率太高，自動駕駛系統(tǒng)可能不會對其輸入內(nèi)容予以采信。也許系統(tǒng)將粉色區(qū)域判定為70%可能性為自行車，77%可能性為尾燈——考慮到實際情況，這樣的猜測其實相當(dāng)合理。

　　說到這里，我已經(jīng)基本理清了思路：建立一套擁有自動駕駛能力的人工智能系統(tǒng)絕對是一項非常艱巨且具有挑戰(zhàn)性的任務(wù)，特別是考慮到復(fù)雜性極高、可用數(shù)量較少且極易出錯的訓(xùn)練數(shù)據(jù)集。此外，其中某些功能如果使用確定性算法來實現(xiàn)，難度將大大降低。為早期自動駕駛汽車配備一些確定性備用系統(tǒng)以實現(xiàn)碰撞回避應(yīng)該是個好主意。另外，可以完全肯定的是，沒人能夠純粹利用確定性方法建立自動駕駛汽車。

　　最后，我要再次重申，我并不清楚導(dǎo)致此次事故的具體原因，也許實際情況跟我的猜測完全不是一回事。但至少在閱讀本文之后，相信大家不會再被社交媒體上那些號稱在1、2、5甚至10年前就存在的事故預(yù)防技術(shù)比現(xiàn)有自動駕駛系統(tǒng)更出色的說法給忽悠。而且雖然我承認(rèn)這樣的事實很難接受，但實際情況證明能夠避免此類事故的技術(shù)確實存在，只是人工智能系統(tǒng)還無法對其充分加以利用。換言之，在此次事故之后，已經(jīng)有研究項目為人工智能制定了超過900種其必須有能力解釋的危害場景。

　　那么，如果我為優(yōu)步汽車編程，能夠拯救這位騎行者的生命?

　　答案是，沒人知道?，F(xiàn)代人工智能系統(tǒng)的內(nèi)部結(jié)構(gòu)過于復(fù)雜，因此無法對優(yōu)步汽車的數(shù)據(jù)處理機(jī)制進(jìn)行評估。實際上，無論人工智能系統(tǒng)來自我、你、Waymo或者特斯拉，其同樣會基于概率作出判斷——否則這就不能算是一套人工智能系統(tǒng)。從另一個角度講，每套智能系統(tǒng)都將不可避免地犯下錯誤，并從中學(xué)習(xí)經(jīng)驗。

　　最后，請務(wù)必將碰撞回避系統(tǒng)作為備份方案納入自動駕駛汽車!目前的智能方案還遠(yuǎn)遠(yuǎn)稱不上完美，千萬不要操之過急!