0
編者按：本文作者為深圳極視角科技有限公司聯合創(chuàng)始人，雷鋒網專欄作家，游走在計算機視覺業(yè)界與人工智能學術界的雙重深淵。
本文作者認為影響自動駕駛的安全問題其實可以歸結到兩大問題：網絡安全問題以及智能化水平是否足夠的問題。
今年5月，特斯拉自動駕駛汽車發(fā)生了一起致命意外，一時間無人駕駛的安全性被推到了風口浪尖。
一直以來，雖然各個自動駕駛開發(fā)企業(yè)都都在不斷的公開自動汽車的路測數據，但是自動駕駛的安全性問題一直是業(yè)內外認識爭論的關鍵點，也是自動駕駛汽車能否順利上路和順利獲得乘客、用戶使用的關鍵。
Uber Autonomous Car（圖來自yifan,攝于2016.8.25,美國）
自動駕駛的安全問題其實可以歸結到兩大問題：
一是網絡安全問題，和所有智能設備一樣，智能汽車也必然會存在被入侵，然后被操控的風險，并且一旦被入侵控制了，后果遠比任何一個目前的智能設備被入侵了要嚴重。
二是智能化水平是否足夠的問題，對道路的規(guī)劃、定位、目標的識別、判斷等等智能化水平是否足夠，一旦智能化水平不夠，該識別的行人識別錯了，該前進的路線規(guī)劃錯了等等，后果也是無法設想。
無人駕駛或者說自動駕駛汽車在網絡安全方便的問題可以說無可避免，就像所有的智能設備，只要設備擁有IP地址，通過IP可以入侵到汽車，從而控制汽車的引擎和剎車系統。
以這輛吉普（Jeep Cherokee）為例，車輛通過IP連接到克萊斯勒的網絡中心?？巳R斯勒在被黑客發(fā)現漏洞入侵之前發(fā)布了軟件補丁修補了系統的漏洞。主要的問題是，開發(fā)系統的軟件工程師大多沒有考慮安全性的問題。
還有另外一個真實的例子，克萊斯勒花了巨額把自動汽車返廠修復漏洞。因為一旦其中一輛汽車被入侵了，同樣的方法幾乎可以入侵所有的汽車，所以，相比起這樣的安全危機，花費的巨額也是必須的。
如果是一個智能電冰箱，那么冰箱被入侵了可能只是食物變質了，冰塊融化了，但是如果是汽車被入侵了，就會產生致命的交通事故。
在最新一次的國際黑客大會上，有黑客揚言，已具備足夠能力遠程控制裝置自動駕駛系統的熱門電動車型，讓車輛根據黑客自己的意愿進行操作（如轉向），以及改變雷達探測距離數值（等探測到都已撞上了）。
不想遇到網絡安全問題，最先想到的當然是隔離網絡，所以出于安全考慮，汽車的關鍵系統如引擎和剎車系統都最好與網絡隔絕，但是，實際情況中，因為考慮到成本問題，所以一些聯網的娛樂系統會和汽車的關鍵系統會連在同一臺分析電腦上，從而導致所有系統都是聯網的。
如果實在是要聯網的話，為了防止被惡意入侵控制，所以會限制必須通過有線連接才可以對系統做控制修改。
除此之外，為了確保系統的安全性，在網絡授權，代碼保護和使用第三方技術供應商的審核上都是需要嚴格把關的。舉個例子，一般第三方的技術提供方都會提供對應的測試代碼（Sample Code），而這些代碼都是沒有考慮任何安全問題的情況下使用的，所以，出于安全考慮，盡量不要直接使用測試代碼。再比如，不同的系統之間采用不同的網絡授權，也是目前常用的提高安全性的做法。
除了網絡安全的問題外，最引人注目的無人駕駛的安全性問題莫過于智能化判斷的準確度的問題，今年5月特斯拉自動駕駛汽車發(fā)生的致命意外，經過調查后發(fā)現其中一個原因是汽車把前面一個白色的車廂判斷為了是天空，如圖，這個在人工智能領域備受關注的“人工智能安全性”的問題，如何才能得出安全的人工智能，從而避免像類似的事故不在發(fā)生。
Tesla Car Accident
從軟件算法層面，目前全球范圍內，致力于實現安全的人工高智能（Safe AI）的組織中，最出名的莫過于OpenAI，他們致力于讓人工智能不要犯致命的錯誤。
在人類的眼里，可能圖像中一些細微的變化不糊影響我們去判斷一個事物，但是在機器的眼里，可能就會完全看作是兩個事物（fooling samples），從而做出不同的應對行為，這種情況特別容易出現在通過深度學習訓練目標以及在單目攝像頭下的視頻數據。
特斯拉的事故不僅暴露了自動駕駛技術目前在軟件算法上的短板，同時也暴露了在硬件技術的短板。
從硬件設備層面，像Model S采用的單目攝像頭對于立體及大面積平面物體的識別存在硬傷、毫米波雷達存在識別區(qū)間限制、以及在極端情況下對于綜合情景的取舍及冗余判斷等問題。
所以，事故對自動駕駛領域的硬件及算法產生促進，對于雙目/廣角攝像頭、毫米波雷達、激光雷達的綜合采用將可望迎來破冰。特別是對于之前成本較高的激光雷達+多攝像頭方案會帶來推動作用。另外，特斯拉的事故如果采取的是多探測器冗余判斷模式，完全可以避免。
所以，出于安全性考慮，NHTSA（美國高速公路安全管理局）也有可能會在硬件配置及系統要求上，敦促相關部門出臺較高門檻及規(guī)定，這對于行業(yè)而言，意味著單車附加值的提升。
雖然，自動駕駛安全隱患仍然存在著，也不可避免的存在的風險問題，但是，有一點可以確定的是，對比起目前94%的交通事故是人為原因造成的，自動駕駛的持續(xù)研究和發(fā)展必然是對人類的人身安全有著重要的意義。
相關閱讀：又一起悲劇，中國發(fā)生特斯拉自動駕駛致死事故
雷峰網原創(chuàng)文章，未經授權禁止轉載。詳情見轉載須知。
