研究顯示：警車、救護車閃爍車燈會引發(fā)智能駕駛“數(shù)字癲癇”

11 月 27 日消息，汽車制造商宣稱，他們?nèi)找鎻?fù)雜的自動駕駛系統(tǒng)能夠提升駕駛安全性并減輕駕駛員的壓力，因為這些系統(tǒng)能夠識別即將發(fā)生的碰撞并采取措施避免。然而，最新研究表明，某些系統(tǒng)可能會在關(guān)鍵時刻產(chǎn)生適得其反的效果。

以色列內(nèi)蓋夫本-古里安大學(xué)和日本科技公司富士通集團的研究人員聯(lián)合發(fā)表了一篇論文，指出某些基于攝像頭的自動駕駛系統(tǒng)在遇到應(yīng)急車輛閃爍燈光時，可能無法準確識別道路上的物體。研究人員將這一現(xiàn)象形象地稱為“數(shù)字癲癇發(fā)作”（Digital Epileptic Seizure），簡稱“epilepticar”。這些系統(tǒng)雖然經(jīng)過人工智能訓(xùn)練，可以區(qū)分不同的道路物體圖像，但在應(yīng)急車輛燈光閃爍的影響下，其識別效果會顯著下降，尤其是在黑暗環(huán)境中更為明顯。

換句話說，應(yīng)急車輛的燈光可能讓自動駕駛系統(tǒng)對前方形似汽車的物體產(chǎn)生疑慮，難以準確判斷。研究人員在論文中指出，這一漏洞存在重大風(fēng)險，可能導(dǎo)致開啟自動駕駛系統(tǒng)的車輛在應(yīng)急車輛附近發(fā)生碰撞，甚至可能被惡意利用來制造事故。

盡管這一研究結(jié)果引發(fā)了擔(dān)憂，但研究人員也提出了幾點說明。首先，他們尚未在具體的駕駛系統(tǒng)上驗證該理論，例如特斯拉的 Autopilot 系統(tǒng)。而是選擇了五款嵌入市售行車記錄儀的現(xiàn)成自動駕駛系統(tǒng)進行實驗，這些記錄儀均通過亞馬遜購買。雖然這些產(chǎn)品被宣傳為具有一定的碰撞檢測功能，但在本研究中僅作為攝像頭使用。

研究人員將這些系統(tǒng)捕獲的圖像通過四個開源對象檢測器進行處理，這些檢測器通過圖像訓(xùn)練來區(qū)分不同的物體。然而，研究人員尚不確定是否有汽車制造商使用了這些對象檢測器。這可能是因為大多數(shù)系統(tǒng)已經(jīng)針對應(yīng)急車輛燈光漏洞進行了改進。

內(nèi)蓋夫本-古里安大學(xué)的網(wǎng)絡(luò)安全與機器學(xué)習(xí)研究員本?納西（Ben Nassi）表示，這項研究受到 2018 年至 2021 年間特斯拉 Autopilot 系統(tǒng)與約 16 輛靜止應(yīng)急車輛發(fā)生碰撞事故的啟發(fā)。他指出：“我們一開始就懷疑，這些碰撞可能與應(yīng)急車輛的閃爍燈光有關(guān)。無論是救護車、警車還是消防車，它們的形狀和大小各不相同，因此導(dǎo)致問題的并不是車輛本身，而是燈光?！?/p>

美國國家公路交通安全管理局（NHTSA）對上述事故進行了長達三年的調(diào)查，最終促使特斯拉召回了 Autopilot 軟件。該系統(tǒng)旨在無需駕駛員干預(yù)的情況下完成轉(zhuǎn)向、加速、制動和變道等任務(wù)。然而，NHTSA 調(diào)查顯示，Autopilot 未能確保駕駛員在系統(tǒng)啟用時保持足夠的注意力并控制車輛。

其他汽車制造商的高級駕駛輔助系統(tǒng)（如通用汽車的 Super Cruise 和福特的 BlueCruise）也能完成部分駕駛?cè)蝿?wù)，但要求駕駛員在駕駛過程中保持專注，并且這些系統(tǒng)僅能在地圖繪制好的特定區(qū)域內(nèi)運行，這與 Autopilot 有所不同。

NHTSA 發(fā)言人露西婭?桑切斯（Lucia Sanchez）在一份聲明中表示，應(yīng)急車輛燈光確實可能對某些先進駕駛輔助系統(tǒng)的性能產(chǎn)生影響?！霸谀承┣闆r下，當(dāng)應(yīng)急車輛出現(xiàn)在車道上時，我們發(fā)現(xiàn)部分高級駕駛輔助系統(tǒng)未能對其閃爍燈光做出適當(dāng)反應(yīng)，”她指出。

特斯拉在 2021 年解散了公關(guān)團隊，因此未對相關(guān)置評請求作出回應(yīng)。研究人員在測試中使用的攝像系統(tǒng)來自 HP、Pelsee、Azdome、Imagebon 和 Rexing，這些公司同樣未回應(yīng)置評請求。

研究人員強調(diào)，他們無法斷言特斯拉的 Autopilot 與應(yīng)急車輛燈光之間的具體關(guān)聯(lián)。納西表示：“我并未聲稱了解特斯拉車輛為何與應(yīng)急車輛發(fā)生碰撞，也不確定這種情況是否仍然是一個漏洞?！?/p>

研究人員的實驗主要集中在基于圖像的物體檢測技術(shù)上。然而，許多汽車制造商還使用雷達和激光雷達等其他傳感器來檢測道路障礙物。特斯拉等少數(shù)技術(shù)開發(fā)者主張，通過復(fù)雜的人工智能訓(xùn)練增強的圖像系統(tǒng)不僅能支持駕駛輔助，還能實現(xiàn)完全自動駕駛。特斯拉首席執(zhí)行官埃隆?馬斯克（Elon Musk）上個月表示，該公司計劃明年利用基于視覺的系統(tǒng)實現(xiàn)自動駕駛。

自動駕駛系統(tǒng)如何應(yīng)對應(yīng)急車輛燈光，取決于汽車制造商的設(shè)計思路。有些制造商選擇調(diào)整技術(shù)，對不完全確定是障礙物的物體做出反應(yīng)。然而，這種策略可能導(dǎo)致“誤報”，例如誤將一個形似兒童的紙箱當(dāng)成真實障礙物，從而緊急剎車。其他制造商則可能選擇僅對高度確信是障礙物的物體做出反應(yīng)。這種策略在極端情況下可能導(dǎo)致車輛未能及時剎車，與另一輛車發(fā)生碰撞，因為系統(tǒng)未能正確識別該車輛。

為了解決這一問題，本-古里安大學(xué)和富士通集團的研究人員開發(fā)了一款名為“Caracetamol”的軟件修復(fù)程序。這一名稱結(jié)合了“car”（汽車）和“Paracetamol”（撲熱息痛）。該程序通過專門訓(xùn)練識別帶有應(yīng)急燈光的車輛，顯著提升物體檢測的準確性。

加州大學(xué)圣地亞哥分校計算機科學(xué)與工程助理教授勞倫斯?費爾南德斯（Earlence Fernandes）評價該研究“合理且有意義”。他指出：“就像人類可能因應(yīng)急燈光的閃爍而短暫‘致盲’，高級駕駛輔助系統(tǒng)的攝像頭也可能短暫‘失明’?！?/p>

麻省理工學(xué)院 AGE 實驗室研究車輛自動化與安全的研究員布萊恩?雷默（Bryan Reimer）認為，這項研究揭示了基于人工智能的駕駛系統(tǒng)存在的更廣泛局限性。他強調(diào)，汽車制造商需要開展“可重復(fù)、可靠的驗證”來識別盲點，如對應(yīng)急燈光的敏感性。他擔(dān)憂部分汽車制造商“技術(shù)發(fā)展速度已超過其測試能力”。