路上放三枚小貼紙,特斯拉就拐進了反向車道:騰訊“騙”出AutoPilot三大缺陷
2019年04月01日13:08

如何欺騙一隻特斯拉?

只要在地上擺幾張小貼紙,像上面的紅點這樣排成一行。

輔助駕駛系統AutoPilot就會以為路歪了,把車拐到反向的車道上去:

就是這樣輕易地被騙了。

雖然,今天是愚人節,也請各位千萬不要模仿。

這是騰訊科恩實驗室,在特斯拉Model S身上做的自動駕駛安全性研究,軟件版本是2018.6.1。這也是科恩實驗室第一次在特斯拉量產車上做自動駕駛實驗。

研究報告已經發佈。包括誤認車道在內,騰訊指出了AutoPilot的三大缺陷。

三連騙

第一,不下雨也能騙它打開雨刷器。不要小看這一騙。

這項測試的場地是車庫,理論上不會下雨。

不過,只要在特斯拉眼前播放干擾畫面,展開對抗攻擊:

特斯拉便以為在下雨了。而且,從雨刷揮舞的頻率來看,還不是綿綿細雨。

有特殊紋理的圖像,是可以欺騙圖像識別系統的。

並且,只要偷偷加入定製的噪音 (下圖中間) ,便可以在人類沒有察覺的情況下,騙倒AI:

熊貓被認成了長臂猿;烏龜成了步槍,而且翻過來調過去都是步槍。

所以,騙開雨刷器有什麼危險?

特斯拉的圖像處理工具,都是身兼數職的:追蹤其他車,追蹤物體和車道,為周圍環境畫地圖,以及估計雨量……

並且,騰訊團隊驚訝地發現,剛才這些任務裡面,大多數都是只靠單一神經網絡來完成的。

這是不是說,一掛掛一片?

第二,就是開頭提到的,車道識別容易被幹擾。

也不需要定製對抗圖像,只要在地上有規律地擺上貼紙而已。從車里看是這樣:

Model S拐上了反向車道,打方向盤的時候,絲毫沒有猶豫。

即便,沒有人真的用這樣的方法破壞交通安全,路上如果出現了小小的異物 (比如鳥糞) ,不知道會怎麼樣。

第三,遊戲手柄能遠程操控。

把惡意代碼動態地插到Cantx服務裡面,鉤住 (hook) 裡面的方向盤函數。

這樣,騰訊團隊黑進了AutoPilot的控製系統。

後來,在手柄的支配下,汽車就開始左衝右突了。

特斯拉回應

關於騰訊提出的三大隱患,特斯拉一一回應。

第一,關於騙開雨刷器的方法,特斯拉說:

這是要在車前放一個屏幕,不是司機面臨的現實情況,也不是安全問題。而且,用戶手冊寫明了,雨刷器的控製目前處於測試階段,用戶可以隨時調整到手動控製模式。

第二,關於在路上貼貼紙,特斯拉說:

這是手動改變汽車所處的物理環境,才讓特斯拉的行為發生了變化。在現實情況下,人類駕駛員的操作可以覆蓋住AutoPilot的決策,駕駛員也應該隨時準備好,不管是控製方向盤還是刹車。所以這也不是問題 (測試視頻里,駕駛員沒有干預) 。

第三,關於遠程黑進系統,特斯拉說:

報告裡面提到的漏洞,特斯拉在2017年的安全更新中,已經修復了。2018年又更新了一次。兩次都是在這個報告發表之前。許多年來,也沒有一個用戶表示自己受到過這個問題的影響。

2016年,騰訊的科恩實驗室也曾經遠程黑進特斯拉的系統,發現了許多漏洞。特斯拉還公開對騰訊團隊表示了感謝。

後來,特斯拉便開始對AutoPilot進行一系列的安全更新。

不過,似乎並沒有阻止接連不斷的事故。

(聲明:本文僅代表作者觀點,不代表新浪網立場。)

關注我們Facebook專頁
    相關新聞
      更多瀏覽