11月27日訊息，汽車製造商宣稱，他們日益複雜的自動駕駛系統能夠提升駕駛安全性並減輕駕駛員的壓力，因為這些系統能夠識別即將發生的碰撞並採取措施避免。然而，最新研究表明，某些系統可能會在關鍵時刻產生適得其反的效果。
以色列內蓋夫本-古裡安大學和日本科技公司富士通集團的研究人員聯合發表了一篇論文，指出某些基於攝像頭的自動駕駛系統在遇到應急車輛閃爍燈光時，可能無法準確識別道路上的物體。研究人員將這一現象形象地稱為“數字發作”（Digital Epileptic Seizure），簡稱“epilepticar”。這些系統雖然經過人工智慧訓練，可以區分不同的道路物體影象，但在應急車輛燈光閃爍的影響下，其識別效果會顯著下降，尤其是在黑暗環境中更為明顯。
換句話說，應急車輛的燈光可能讓自動駕駛系統對前方形似汽車的物體產生疑慮，難以準確判斷。研究人員在論文中指出，這一漏洞存在重大風險，可能導致開啟自動駕駛系統的車輛在應急車輛附近發生碰撞，甚至可能被惡意利用來製造事故。
儘管這一研究結果引發了擔憂，但研究人員也提出了幾點說明。首先，他們尚未在具體的駕駛系統上驗證該理論，例如的Autopilot系統。而是選擇了五款嵌入市售行車記錄儀的現成自動駕駛系統進行實驗，這些記錄儀均透過亞馬遜購買。雖然這些產品被宣傳為具有一定的碰撞檢測功能，但在本研究中僅作為攝像頭使用。
研究人員將這些系統捕獲的影象透過四個開源物件檢測器進行處理，這些檢測器透過影象訓練來區分不同的物體。然而，研究人員尚不確定是否有汽車製造商使用了這些物件檢測器。這可能是因為大多數系統已經針對應急車輛燈光漏洞進行了改進。
內蓋夫本-古裡安大學的網路安全與機器學習研究員本·納西（Ben Nassi）表示，這項研究受到2018年至2021年間特斯拉Autopilot系統與約16輛靜止應急車輛發生碰撞事故的啟發。他指出：“我們一開始就懷疑，這些碰撞可能與應急車輛的閃爍燈光有關。無論是救護車、警車還是消防車，它們的形狀和大小各不相同，因此導致問題的並不是車輛本身，而是燈光。”
美國國家公路交通安全管理局（NHTSA）對上述事故進行了長達三年的調查，最終促使特斯拉召回了Autopilot軟體。該系統旨在無需駕駛員干預的情況下完成轉向、加速、制動和變道等任務。然而，NHTSA調查顯示，Autopilot未能確保駕駛員在系統啟用時保持足夠的注意力並控制車輛。
其他汽車製造商的高階駕駛輔助系統（如通用汽車的Super Cruise和福特的BlueCruise）也能完成部分駕駛任務，但要求駕駛員在駕駛過程中保持專注，並且這些系統僅能在地圖繪製好的特定區域內執行，這與Autopilot有所不同。
NHTSA發言人露西婭·桑切斯（Lucia Sanchez）在一份宣告中表示，應急車輛燈光確實可能對某些先進駕駛輔助系統的效能產生影響。“在某些情況下，當應急車輛出現在車道上時，我們發現部分高階駕駛輔助系統未能對其閃爍燈光做出適當反應，”她指出。
特斯拉在2021年解散了公關團隊，因此未對相關置評請求作出回應。研究人員在測試中使用的攝像系統來自HP、Pelsee、Azdome、Imagebon和Rexing，這些公司同樣未回應置評請求。
研究人員強調，他們無法斷言特斯拉的Autopilot與應急車輛燈光之間的具體關聯。納西表示：“我並未聲稱瞭解特斯拉車輛為何與應急車輛發生碰撞，也不確定這種情況是否仍然是一個漏洞。”
研究人員的實驗主要集中在基於影象的物體檢測技術上。然而，許多汽車製造商還使用雷達和鐳射雷達等其他感測器來檢測道路障礙物。特斯拉等少數技術開發者主張，透過複雜的人工智慧訓練增強的影象系統不僅能支援駕駛輔助，還能實現完全自動駕駛。特斯拉執行長埃隆·馬斯克（Elon Musk）上個月表示，該公司計劃明年利用基於視覺的系統實現自動駕駛。
自動駕駛系統如何應對應急車輛燈光，取決於汽車製造商的設計思路。有些製造商選擇調整技術，對不完全確定是障礙物的物體做出反應。然而，這種策略可能導致“誤報”，例如誤將一個形似兒童的紙箱當成真實障礙物，從而緊急剎車。其他製造商則可能選擇僅對高度確信是障礙物的物體做出反應。這種策略在極端情況下可能導致車輛未能及時剎車，與另一輛車發生碰撞，因為系統未能正確識別該車輛。
為了解決這一問題，本-古裡安大學和富士通集團的研究人員開發了一款名為“Caracetamol”的軟體修復程式。這一名稱結合了“car”（汽車）和“Paracetamol”（撲熱息痛）。該程式透過專門訓練識別帶有應急燈光的車輛，顯著提升物體檢測的準確性。
加州大學聖地亞哥分校計算機科學與工程助理教授勞倫斯·費爾南德斯（Earlence Fernandes）評價該研究“合理且有意義”。他指出：“就像人類可能因應急燈光的閃爍而短暫‘致盲’，高階駕駛輔助系統的攝像頭也可能短暫‘失明’。”
麻省理工學院AGE實驗室研究車輛自動化與安全的研究員布萊恩·雷默（Bryan Reimer）認為，這項研究揭示了基於人工智慧的駕駛系統存在的更廣泛侷限性。他強調，汽車製造商需要開展“可重複、可靠的驗證”來識別盲點，如對應急燈光的敏感性。他擔憂部分汽車製造商“技術發展速度已超過其測試能力”。（小小）
