波音空難背后：人類應該在何種程度上信任AI？

　　3月10日，埃塞俄比亞航空公司一架波音737MAX8客機在起飛6分鐘之后墜毀，機上搭乘的149名乘客和8名機組成員全部遇難，其中包括8名中國乘客。

　　這是近五個月來第二架波音737MAX8客機墜毀。

　　該機型的上一次空難發(fā)生在2018年10月29日，當時印尼獅航的一架載有189人的波音737MAX8客機在起飛13分鐘后墜海，機上人員全部遇難。

　　短期內連續(xù)兩場空難，346條鮮活的生命瞬間消逝，這樣的慘劇已經引起了全球輿論震動，而兩次空難背后的留下的思考已經超越空難本身。對于金融投資領域來說，人們關心的是今晚的波音公司股價波動，但是我們更應該關心的是，人類到底應該在何種程度上信任AI技術。

　　目前尚無證據表明這兩起空難之間存在聯系，但波音737MAX8是一款新機型，兩年前才完成首飛，埃航墜毀的這架飛機才僅僅使用了4個月，而去年獅航墜毀的那架飛機機齡才77天，二者都不存在機械老化問題。這種情況意味著，這款新機型有可能存在設計隱患。

　　航空制造業(yè)對于這類隱患一直都是零容忍的。飛機屬于高端制造業(yè)，自有飛機以來，安全問題就備受關注，人們可能無法記錄這世上的每一起車禍，但每一起空難的經過都有案可查。假如波音737MAX8真的有設計隱患，那波音公司可就攤上大事兒了，隨之而來巨額索賠可能會讓它遭受致命打擊。CNN航空分析師、美國運輸部前監(jiān)察長瑪麗·夏沃昨日對埃航事件發(fā)表評論時說：“新款飛機，一年內兩次墜毀，這種情況根本不應該發(fā)生。”

　　對于波音來說，目前的形勢非常糟糕，因為兩起空難之間存在著不少相似之處。

　　比如獅航空難是起飛后13分鐘就墜毀，埃航這次空難是起飛6分鐘后墜毀，都屬于起飛后不久即出現問題。另外，獅航那次空難前幾秒鐘，飛機高度出現劇烈波動，而埃航這次出事前，飛機的高度確實是下降了，然后在墜毀前恢復了高度。

　　埃航空難原因目前仍不明朗，但去年10月發(fā)生的獅航空難中，有一種比較主流的觀點認為，事故的根源在于波音737MAX8安裝的那套全新的安全系統(tǒng)。

　　獅航空難一周后，波音公司曾向全球737MAX用戶發(fā)出了通告，要求所有的737MAX機組注意，在事故調查過程中發(fā)現，飛機AOA迎角傳感器錯誤數據，會導致飛機的尾翼配平系統(tǒng)啟動自動保護功能，在未經飛行員操縱的情況下，自動讓機頭向下。

　　據稱，這個隱藏很深的自動保護功能可以在AOA迎角傳感器數據錯誤導致的自動駕駛斷開后，在飛行員手動飛行情況下，自動觸發(fā)的飛機水平尾翼配平“子程序”。但這一點事先并沒有寫進飛行手冊里，飛行員并不知道有這個設計。如果知道這個設計，那么還是有方法可以控制飛機的。

　　這個子程序只有在飛機遇到某種特定故障時候，才會自動觸發(fā)啟動保護功能。它只干一件事：壓低機頭，讓飛機進入俯沖狀態(tài)。

　　那么是不是這個子程序本身存在的致命問題呢?這個事其實也不好說。觸發(fā)該子程序的條件是，飛行控制系統(tǒng)通過機身傳感器獲知機頭上揚的角度不斷增大，將要進入失速狀態(tài)，如果不立刻壓低機頭，飛機就會有墜毀的風險。由此看來，該子程序設計的初衷是沒有問題的。

　　但是，有不少專業(yè)人士認為，為了達到省油的目的，MAX加大了發(fā)動機尺寸，無奈起落架太短，只好把發(fā)動機在機翼上的位置上移，但會造成更大的抬頭力矩而容易失速。波音給MAX設計了一個自動低頭的配平系統(tǒng)MCAS，但這個系統(tǒng)只要收到錯誤的信號，就會自動讓飛機低頭。

　　這個失速保護的子程序非常強勢，它能在手動模式下自動開啟失速保護，也就是說，它可以在特殊情況下，對飛行員的操作行使“一票否決權”。這套AI系統(tǒng)超級自信，它有極高的權限，它可以否定飛行員的判斷，堅持按照自己的程序邏輯一條道走到黑，哪怕前方等待著人們的是死亡，它也不會有絲毫猶豫。

　　根據這種程序邏輯，在某些特殊情況下，當飛行員還不知道發(fā)生了什么事情的時候，該子程序可能會自行啟動“拯救”飛機的操作，直接控制水平尾翼，讓飛機低頭俯沖。而當機組人員發(fā)現時，通常會首先啟動手動模式。所謂手動模式，一般來說，就是飛行員取回飛行掌控權，自控系統(tǒng)必須聽命于飛行員的指揮，但是該子程序可能在手動模式下自動開啟失速保護，也就是說，在飛行員認為完全掌控飛機的時候，它仍然在悄悄地爭奪控制權。這種人機大戰(zhàn)模式相當危險，在空難發(fā)生前的短時間內很可能就決定了上百人的生死。

　　波音考慮過“人機大戰(zhàn)”的可能性，所以控制系統(tǒng)內是有命令該子程序徹底停止運行的方法的，但是它隱藏得太深，加上這種情況本身就是極小概率事件，因此很多飛行員不熟悉關閉方法。

　　在去年的獅航事故中，波音公司辯稱，飛行員本應確認該系統(tǒng)正在運行，并將其關閉。但是波音自己心里是清楚的，這個指責多少有點牽強，所以在獅航事故之后，波音立刻發(fā)布緊急通告，要求所有航空公司確保他們對飛行員進行了關機程序的培訓。

　　埃航事故原因是否和獅航事故原因一致，目前尚未有結論，但埃航事故發(fā)生之后，中國民航總局已經通知國內航空公司立刻停止波音737MAX客機的運行，改由其他機型執(zhí)行航線運行任務。

　　近年來，汽車的無人駕駛技術進入了大眾視野，很多人在暢想未來無人駕駛汽車普及之后的社會場景。在當前的設想場景里，安裝了無人駕駛系統(tǒng)的汽車首先應有一個全方位的雷達感應器，它可以感知車身一定距離之外的全景環(huán)境，并通過計算機技術實現精算，再作出即時反應，這就是無人駕駛。這種技術聽起來似乎很玄妙，但實際上并不高深，它比飛機的自動駕駛系統(tǒng)要簡單得多。

　　那么，既然技術上沒有大的障礙，無人駕駛汽車是不是很快就會到來呢?考慮到很多社會配套體系尚未完備，無人駕駛汽車時代可能還要等上一些年頭。

　　飛機為什么要有自動駕駛系統(tǒng)呢?

　　軍事無人機是為了最大限度降低降低己方飛行員戰(zhàn)損數量，而民用飛機的自動駕駛系統(tǒng)主要是出于駕駛安全本身的考量。人類會疲勞，而駕駛飛機需要飛行員精神高度集中，這種狀態(tài)會讓飛行員更加容易疲勞，但是自動駕駛系統(tǒng)不存在這個問題。

　　幾十年前人類就發(fā)明了自動駕駛儀，由機載計算機控制飛機自動飛行。那個時代的自動駕駛儀比較簡單，由高度表、陀螺儀、加速度計、簡單的電路和檢測飛機狀態(tài)信息的設備構成，由于儀表精度不高，最終校正飛行狀態(tài)的工作還是需要飛行員去完成，但自動駕駛儀已經在很大程度上減少了飛行員的工作量。

　　現代的自動駕駛系統(tǒng)則已經有了極大的變化，儀器越來越精密，精準度早已超越了人工所能達到的極限，飛機在自動控制狀態(tài)下飛行時，任何一點點狀態(tài)的改變系統(tǒng)都可以察覺出來。飛機在飛行中利用計算機產生精確的信號與地勤保持聯系，飛機航線無需飛行員人工干預，校正工作則由衛(wèi)星定位系統(tǒng)完成。

　　如此看來，似乎飛行員這個職業(yè)已經可以退出歷史舞臺了，但是實際上并非如此。

　　由于歷史原因，大多數東方人對于科學的認知總是處于極端狀態(tài)，人們時而視科學如洪水猛獸，時而又視科學如無所不能的神跡。這兩種認知都有很大的問題，相對而言，西方人對于科學技術的態(tài)度比東方人更加謹慎。

　　科技的進步有時候是存在重大bug的，而這種bug有時候隱藏得很深。精準的檢測、精細的算法、完美的運算過程，這一切看起來都沒有問題，但它們并不總是帶來正確的結果。AI技術的難點在于，它實在是過于精準了，以致于做出的判斷都是非常剛性的，它們習慣于對事物采取一刀切的處理方式，而遺憾的是，世間事有許多并無明晰的界定，甚至那些看似明晰的界定本身也是在不斷變化不斷修正中的。