先來(lái)說(shuō)說(shuō)特斯拉輔助駕駛(AutoPilot)。這個(gè)讓埃隆·馬斯克引以為傲的系統(tǒng)，已經(jīng)在全世界的特斯拉汽車上大規(guī)模應(yīng)用。這個(gè)系統(tǒng)可以實(shí)現(xiàn)自動(dòng)跟車，自動(dòng)轉(zhuǎn)向，甚至在堵車的時(shí)候，也可以自動(dòng)跟著前車反復(fù)啟停。

 

　　講真，輔助駕駛系統(tǒng)的可用性非常高。諸多特斯拉車主已經(jīng)嘗試過(guò)在早高峰把車開上北京的二環(huán)，打開輔助駕駛，閉目養(yǎng)身半小時(shí)之后再切換成手動(dòng)模式駛離主路。

 

然而，可用性和可靠性在某些特殊的時(shí)刻，并不那么協(xié)調(diào)。

 

因?yàn)檩o助駕駛導(dǎo)致嚴(yán)重事故的特斯拉　　這輛特斯拉生前的最后一刻，正是開啟了輔助駕駛模式，據(jù)說(shuō)，系統(tǒng)把橫在前方的純白色卡車識(shí)別為了遠(yuǎn)方的大樓或廣告牌。

 

 

特斯拉事故示意圖　　而就在前兩天，中國(guó)特斯拉自動(dòng)駕駛的“首撞”也發(fā)生在北京北五環(huán)上。

 

頻發(fā)的撞車事故至少說(shuō)明一點(diǎn)，那就是輔助駕駛系統(tǒng)還有諸多設(shè)計(jì)缺陷。而來(lái)自中國(guó)的黑客們，用實(shí)際的攻擊測(cè)試，證明了輔助駕駛系統(tǒng)遠(yuǎn)不是“偶爾失靈”這么簡(jiǎn)單。稍不留意，它就可能被人利用，有計(jì)劃地發(fā)起各種“慘烈”的攻擊。

 

閆琛(畫左)&劉健皓(畫右)　　劉健皓，360汽車信息安全團(tuán)隊(duì)負(fù)責(zé)人，中國(guó)特斯拉破解第一人;閆琛，浙江大學(xué)博士，智能系統(tǒng)安全實(shí)驗(yàn)室成員，著名的汽車黑客。正是他們帶領(lǐng)團(tuán)隊(duì)全球首次用實(shí)車實(shí)現(xiàn)攻擊特斯拉自動(dòng)駕駛系統(tǒng)。

 

劉健皓為雷鋒網(wǎng)詳細(xì)介紹了特斯拉輔助駕駛系統(tǒng)的工作原理。

 

　　汽車自動(dòng)駕駛系統(tǒng)所用到的所有傳感器，包括遠(yuǎn)距離雷達(dá)、超聲波傳感器、可見光傳感器、激光雷達(dá)。其測(cè)量范圍，精準(zhǔn)度和有效距離各有優(yōu)劣，一般組合使用。　　特斯拉的眼睛：各類傳感器

 

輔助駕駛實(shí)現(xiàn)的首要一點(diǎn)就是：認(rèn)清周圍的環(huán)境。

為了實(shí)現(xiàn)這一點(diǎn)，特斯拉選用了三種不同的“眼睛”：

 

毫米波雷達(dá)　　毫米波雷達(dá)：

 

特斯拉裝配的雷達(dá)，頻率高達(dá)77GHz，這個(gè)超高頻段的技術(shù)，曾經(jīng)作為美國(guó)軍方的保密技術(shù)，禁止對(duì)華出售。雷達(dá)被安裝在特斯拉的前部，用以探測(cè)遠(yuǎn)距離的障礙物，可以識(shí)別最遠(yuǎn)達(dá)到150米的障礙物。

 

超聲波傳感器和在車上的位置　　超聲波傳感器：

 

特斯拉周身布滿12玫超聲波傳感器，用以感知車身周圍大概五米范圍的障礙物。

 

高清攝像頭在特斯拉上的位置和顯示效果　　高清攝像頭：

 

這是特斯拉的諸多“眼睛”中唯一可以識(shí)別可見光的。攝像頭被放置在汽車前面，用以識(shí)別車道線和限速、禁行一類的道路標(biāo)志。

劉健皓說(shuō)，輔助駕駛系統(tǒng)就是根據(jù)這些傳感器采集的數(shù)據(jù)，通過(guò)自動(dòng)駕駛的算法，實(shí)現(xiàn)規(guī)劃路徑和自動(dòng)巡航等所有功能。

他和閆琛的攻擊思路非常清晰：只要黑掉這些傳感器，讓數(shù)據(jù)的錯(cuò)誤進(jìn)入系統(tǒng)，就一定會(huì)產(chǎn)生嚴(yán)重攻擊效果。

通俗來(lái)說(shuō)，他們要做的就是“催眠”特斯拉。讓這部世界上最先進(jìn)的自動(dòng)駕駛汽車看到不存在的東西，或者看不到存在的東西。由此進(jìn)入可怕的“夢(mèng)魘”狀態(tài)。

 

特斯拉 Model S車身上所有傳感器的位置(藍(lán)色為毫米波雷達(dá)，灰色為攝像頭，紅色為超聲波傳感器)　　干掉超聲波傳感器

 

由于超聲波傳感器主要分布在車身周圍，而且主要用來(lái)判斷近距離物體的信息。所以在實(shí)際應(yīng)用中，它們的主要作用是感知附近有沒(méi)有障礙物向自己靠攏，從而向相反方向進(jìn)行規(guī)避。

閆琛告訴雷鋒網(wǎng)：“經(jīng)過(guò)逆向研究，我們發(fā)現(xiàn)特斯拉使用的超聲波傳感器發(fā)射的波長(zhǎng)為 40Khz，而這種波長(zhǎng)的超聲波在現(xiàn)實(shí)世界里并不常見。例如搖動(dòng)鑰匙串或者大卡車制動(dòng)的時(shí)候，都會(huì)發(fā)出這樣的超聲波。但是由于現(xiàn)實(shí)世界中的 40Khz 超聲波不會(huì)長(zhǎng)時(shí)間持續(xù)，強(qiáng)度也沒(méi)有那么大，所以看樣子特斯拉并沒(méi)有認(rèn)真研究人造超聲波對(duì)輔助駕駛系統(tǒng)的影響。”

 

劉健皓&閆琛&他們的超聲波干擾器　　噪音攻擊

 

他們于是嘗試對(duì)特斯拉的超聲波傳感器實(shí)行一種噪音攻擊(Jamming)。簡(jiǎn)單來(lái)說(shuō)就是用更大的強(qiáng)度播放同樣波長(zhǎng)的噪音，這樣就會(huì)使得超聲波感應(yīng)器無(wú)法回收自己發(fā)出的信號(hào)，從而沒(méi)有辦法測(cè)量周圍物體的舉例。

讓人驚奇的是，在這種情況下，特斯拉并沒(méi)有選擇提示用戶切換回手動(dòng)模式，反而繼續(xù)按照原速運(yùn)動(dòng)。此時(shí)如果有物體靠近特斯拉，即使發(fā)生碰撞，它都不會(huì)有任何反應(yīng)動(dòng)作。

 

噪音攻擊超聲波傳感器的實(shí)驗(yàn)現(xiàn)場(chǎng)　　欺騙攻擊

 

通過(guò)信號(hào)分析儀進(jìn)一步破解超聲波信號(hào)，劉健皓和閆琛完全掌握了超聲波的結(jié)構(gòu)，于是他們嘗試用信號(hào)發(fā)射裝置欺騙傳感器。

“實(shí)誠(chéng)”的特斯拉果然上當(dāng)，會(huì)向決策系統(tǒng)傳遞虛假的信號(hào)。于是在空無(wú)一車的地下車庫(kù)，居然啟動(dòng)了自動(dòng)跟車模式;

而當(dāng)劉健皓向特斯拉發(fā)出了前方近距離有障礙物的虛擬信號(hào)后，特斯拉猛然來(lái)了一個(gè)剎車。

 

傳感器的數(shù)據(jù)最終會(huì)導(dǎo)致對(duì)汽車的剎車、方向盤、油門行為的控制　　“肉包子打狗”攻擊

 

黑客們找來(lái)了超聲波吸附材料。超聲波信號(hào)碰到這種海綿狀材料，可謂肉包子打狗——有去無(wú)回。在試驗(yàn)中，無(wú)論什么兇險(xiǎn)的障礙物，只要籠罩超聲波吸附材料，在特斯拉眼中一律是一馬平川，不撞南墻死不回頭。

當(dāng)然，劉健皓也覺得目前的吸波材料過(guò)于厚重，在現(xiàn)實(shí)中用來(lái)攻擊有點(diǎn)搞笑。不過(guò)他說(shuō)：“在未來(lái)如果實(shí)現(xiàn)材料的輕薄甚至透明，這種攻擊就會(huì)變得非常危險(xiǎn)了。”

 

在演示視頻中，閆琛躲在吸波材料里，傳感器并未感知　　干掉毫米波雷達(dá)

 

毫米波雷達(dá)是諸多特斯拉傳感器中，最為精密的一個(gè)了。77GHz 的超高頻率已經(jīng)超出一般儀器可以解析的范圍，

閆琛告訴雷鋒網(wǎng)，單單是借來(lái)研究毫米波雷達(dá)的設(shè)備，就可以買三輛特斯拉。劉健皓甚至開玩笑說(shuō)，借這臺(tái)設(shè)備是整個(gè)研究中的一個(gè)最大難點(diǎn)。

 

毫米波攻擊設(shè)備BCDE和特斯拉毫米波雷達(dá)的位置A　　然而，有了分析設(shè)備，只是萬(wàn)里長(zhǎng)征的第一步。對(duì) 77GHz 的超高頻信號(hào)進(jìn)行降頻之后的分析，也是一個(gè)非常艱難的過(guò)程。

 

對(duì)于毫米波雷達(dá)，同樣可以實(shí)現(xiàn)噪音攻擊和欺騙攻擊。也就是說(shuō)，可以讓特斯拉在高速行駛中，完全忽略前面的障礙物，也可以憑空讓特斯拉緊急制動(dòng)。

理論上來(lái)說(shuō)，這樣的攻擊可以在幾十米開外進(jìn)行。就像用手槍射擊標(biāo)靶。不過(guò)毫米波發(fā)射器的波束比較集中，在實(shí)際攻擊中，要完美擊中汽車的雷達(dá)，這需要非常好的精確度。“不過(guò)只要有足夠的資金購(gòu)買高級(jí)的設(shè)備，這些限制都不是問(wèn)題。”閆琛說(shuō)。

 

毫米波雷達(dá)被攻擊后，前車從儀表盤上瞬間消失，如果處于自動(dòng)駕駛狀態(tài)，后果不堪設(shè)想　　干掉光學(xué)傳感器(高清攝像頭)

 

也許對(duì)于攝像頭的攻擊是唯一一種普通人都可以玩轉(zhuǎn)的攻擊。你只需要一個(gè)大功率手電，猛烈照射攝像頭，就會(huì)造成它的短暫致盲，這個(gè)特性和所有的攝像頭，以及人眼的原理都是一致的。

文章開頭提到的特斯拉撞擊卡車的案例，就是因?yàn)榭ㄜ囓噹椎靡粔m不染，導(dǎo)致攝像頭犯了“雪盲癥”，既無(wú)法找到前方的車道線和標(biāo)志，也無(wú)法判斷這個(gè)物體的真實(shí)屬性。所以才釀成車禍。(你可能要問(wèn)先進(jìn)的毫米波雷達(dá)當(dāng)時(shí)在做神馬。沒(méi)錯(cuò)，卡車太高了以至于雷達(dá)信號(hào)從車底完美躲過(guò)。)

當(dāng)然，特斯拉的攝像頭也支持紅外夜視，所以用紅外線手電照射攝像頭，同樣會(huì)導(dǎo)致它“失明”。

 

使用 LED 燈或激光筆，對(duì)特斯拉的攻擊成本都在10美元左右　　特斯拉怎么說(shuō)

 

在此次 DEF CON 演講之前大約一個(gè)月，劉健皓和閆琛已經(jīng)把這組缺陷打包提交給了特斯拉。而特斯拉在兩周前專門和這個(gè)黑客團(tuán)隊(duì)進(jìn)行了一個(gè)小時(shí)的電話會(huì)議。

雖然最后的結(jié)論并不很振奮人心：特斯拉表示還要再花時(shí)間評(píng)估一下這些缺陷在實(shí)際情況中對(duì)于安全的威脅程度。

不過(guò)，劉健皓認(rèn)為這些缺陷非常值得引起注意：“從前的汽車傳感器只是作為人類駕駛的一個(gè)參考，并不直接影響駕駛的決策。而特斯拉的輔助駕駛系統(tǒng)讓傳感器直接接通了汽車的 CAN 總線，這意味著對(duì)于汽車的攻擊面從原來(lái)的總線攻擊和車聯(lián)網(wǎng)攻擊又?jǐn)U大到了傳感器攻擊。而從現(xiàn)在的趨勢(shì)上來(lái)看，機(jī)器人的一個(gè)重要分支就是帶有圖像識(shí)別和人工智能的“汽車人”，對(duì)于能力越來(lái)越大的“汽車人”來(lái)說(shuō)，這種攻擊所能造成的傷害會(huì)越來(lái)越大。”

 

劉健皓和閆琛在 DEF CON 24 演講臺(tái)上　　閆琛說(shuō)：“面對(duì)可能性越來(lái)越高的攻擊，輔助駕駛系統(tǒng)并沒(méi)有對(duì)信號(hào)的異常檢測(cè)機(jī)制，這是一個(gè)巨大的隱患。例如如果洗頭膏檢測(cè)到信號(hào)異常，首要的行動(dòng)應(yīng)該是保證汽車安全，而不是什么都不做。”

 

有一點(diǎn)事實(shí)不容置疑，那就是輔助駕駛已經(jīng)改變了人們的駕駛風(fēng)格。人們對(duì)于機(jī)器的依賴只能加深，從不后退。而這種被人類信賴以至于托付生命安全的技術(shù)，是難以承受諸多的缺陷的。

當(dāng)人躺在車?yán)锼笥X的時(shí)候，他的特斯拉也同樣進(jìn)入了“夢(mèng)鄉(xiāng)”。這恐怕是對(duì)人類智慧最大的嘲諷。

劉健皓和閆琛對(duì)于特斯拉的破解，其實(shí)更像一次警示。我們把自己的感官托付給機(jī)器的那一瞬間，就要開始奮力阻止《黑客帝國(guó)》中所描繪的可怕結(jié)局。