先來(lái)說(shuō)說(shuō)特斯拉輔助駕駛(AutoPilot)。這個(gè)讓埃隆·馬斯克引以為傲的系統(tǒng),已經(jīng)在全世界的特斯拉汽車上大規(guī)模應(yīng)用。這個(gè)系統(tǒng)可以實(shí)現(xiàn)自動(dòng)跟車,自動(dòng)轉(zhuǎn)向,甚至在堵車的時(shí)候,也可以自動(dòng)跟著前車反復(fù)啟停。
然而,可用性和可靠性在某些特殊的時(shí)刻,并不那么協(xié)調(diào)。
頻發(fā)的撞車事故至少說(shuō)明一點(diǎn),那就是輔助駕駛系統(tǒng)還有諸多設(shè)計(jì)缺陷。而來(lái)自中國(guó)的黑客們,用實(shí)際的攻擊測(cè)試,證明了輔助駕駛系統(tǒng)遠(yuǎn)不是“偶爾失靈”這么簡(jiǎn)單。稍不留意,它就可能被人利用,有計(jì)劃地發(fā)起各種“慘烈”的攻擊。
劉健皓為雷鋒網(wǎng)詳細(xì)介紹了特斯拉輔助駕駛系統(tǒng)的工作原理。
輔助駕駛實(shí)現(xiàn)的首要一點(diǎn)就是:認(rèn)清周圍的環(huán)境。
為了實(shí)現(xiàn)這一點(diǎn),特斯拉選用了三種不同的“眼睛”:
特斯拉裝配的雷達(dá),頻率高達(dá)77GHz,這個(gè)超高頻段的技術(shù),曾經(jīng)作為美國(guó)軍方的保密技術(shù),禁止對(duì)華出售。雷達(dá)被安裝在特斯拉的前部,用以探測(cè)遠(yuǎn)距離的障礙物,可以識(shí)別最遠(yuǎn)達(dá)到150米的障礙物。
特斯拉周身布滿12玫超聲波傳感器,用以感知車身周圍大概五米范圍的障礙物。
這是特斯拉的諸多“眼睛”中唯一可以識(shí)別可見光的。攝像頭被放置在汽車前面,用以識(shí)別車道線和限速、禁行一類的道路標(biāo)志。
劉健皓說(shuō),輔助駕駛系統(tǒng)就是根據(jù)這些傳感器采集的數(shù)據(jù),通過(guò)自動(dòng)駕駛的算法,實(shí)現(xiàn)規(guī)劃路徑和自動(dòng)巡航等所有功能。
他和閆琛的攻擊思路非常清晰:只要黑掉這些傳感器,讓數(shù)據(jù)的錯(cuò)誤進(jìn)入系統(tǒng),就一定會(huì)產(chǎn)生嚴(yán)重攻擊效果。
通俗來(lái)說(shuō),他們要做的就是“催眠”特斯拉。讓這部世界上最先進(jìn)的自動(dòng)駕駛汽車看到不存在的東西,或者看不到存在的東西。由此進(jìn)入可怕的“夢(mèng)魘”狀態(tài)。
由于超聲波傳感器主要分布在車身周圍,而且主要用來(lái)判斷近距離物體的信息。所以在實(shí)際應(yīng)用中,它們的主要作用是感知附近有沒(méi)有障礙物向自己靠攏,從而向相反方向進(jìn)行規(guī)避。
閆琛告訴雷鋒網(wǎng):“經(jīng)過(guò)逆向研究,我們發(fā)現(xiàn)特斯拉使用的超聲波傳感器發(fā)射的波長(zhǎng)為 40Khz,而這種波長(zhǎng)的超聲波在現(xiàn)實(shí)世界里并不常見。例如搖動(dòng)鑰匙串或者大卡車制動(dòng)的時(shí)候,都會(huì)發(fā)出這樣的超聲波。但是由于現(xiàn)實(shí)世界中的 40Khz 超聲波不會(huì)長(zhǎng)時(shí)間持續(xù),強(qiáng)度也沒(méi)有那么大,所以看樣子特斯拉并沒(méi)有認(rèn)真研究人造超聲波對(duì)輔助駕駛系統(tǒng)的影響。”
他們于是嘗試對(duì)特斯拉的超聲波傳感器實(shí)行一種噪音攻擊(Jamming)。簡(jiǎn)單來(lái)說(shuō)就是用更大的強(qiáng)度播放同樣波長(zhǎng)的噪音,這樣就會(huì)使得超聲波感應(yīng)器無(wú)法回收自己發(fā)出的信號(hào),從而沒(méi)有辦法測(cè)量周圍物體的舉例。
讓人驚奇的是,在這種情況下,特斯拉并沒(méi)有選擇提示用戶切換回手動(dòng)模式,反而繼續(xù)按照原速運(yùn)動(dòng)。此時(shí)如果有物體靠近特斯拉,即使發(fā)生碰撞,它都不會(huì)有任何反應(yīng)動(dòng)作。
通過(guò)信號(hào)分析儀進(jìn)一步破解超聲波信號(hào),劉健皓和閆琛完全掌握了超聲波的結(jié)構(gòu),于是他們嘗試用信號(hào)發(fā)射裝置欺騙傳感器。
“實(shí)誠(chéng)”的特斯拉果然上當(dāng),會(huì)向決策系統(tǒng)傳遞虛假的信號(hào)。于是在空無(wú)一車的地下車庫(kù),居然啟動(dòng)了自動(dòng)跟車模式;
而當(dāng)劉健皓向特斯拉發(fā)出了前方近距離有障礙物的虛擬信號(hào)后,特斯拉猛然來(lái)了一個(gè)剎車。
黑客們找來(lái)了超聲波吸附材料。超聲波信號(hào)碰到這種海綿狀材料,可謂肉包子打狗——有去無(wú)回。在試驗(yàn)中,無(wú)論什么兇險(xiǎn)的障礙物,只要籠罩超聲波吸附材料,在特斯拉眼中一律是一馬平川,不撞南墻死不回頭。
當(dāng)然,劉健皓也覺得目前的吸波材料過(guò)于厚重,在現(xiàn)實(shí)中用來(lái)攻擊有點(diǎn)搞笑。不過(guò)他說(shuō):“在未來(lái)如果實(shí)現(xiàn)材料的輕薄甚至透明,這種攻擊就會(huì)變得非常危險(xiǎn)了。”
毫米波雷達(dá)是諸多特斯拉傳感器中,最為精密的一個(gè)了。77GHz 的超高頻率已經(jīng)超出一般儀器可以解析的范圍,
閆琛告訴雷鋒網(wǎng),單單是借來(lái)研究毫米波雷達(dá)的設(shè)備,就可以買三輛特斯拉。劉健皓甚至開玩笑說(shuō),借這臺(tái)設(shè)備是整個(gè)研究中的一個(gè)最大難點(diǎn)。
對(duì)于毫米波雷達(dá),同樣可以實(shí)現(xiàn)噪音攻擊和欺騙攻擊。也就是說(shuō),可以讓特斯拉在高速行駛中,完全忽略前面的障礙物,也可以憑空讓特斯拉緊急制動(dòng)。
理論上來(lái)說(shuō),這樣的攻擊可以在幾十米開外進(jìn)行。就像用手槍射擊標(biāo)靶。不過(guò)毫米波發(fā)射器的波束比較集中,在實(shí)際攻擊中,要完美擊中汽車的雷達(dá),這需要非常好的精確度。“不過(guò)只要有足夠的資金購(gòu)買高級(jí)的設(shè)備,這些限制都不是問(wèn)題。”閆琛說(shuō)。
也許對(duì)于攝像頭的攻擊是唯一一種普通人都可以玩轉(zhuǎn)的攻擊。你只需要一個(gè)大功率手電,猛烈照射攝像頭,就會(huì)造成它的短暫致盲,這個(gè)特性和所有的攝像頭,以及人眼的原理都是一致的。
文章開頭提到的特斯拉撞擊卡車的案例,就是因?yàn)榭ㄜ囓噹椎靡粔m不染,導(dǎo)致攝像頭犯了“雪盲癥”,既無(wú)法找到前方的車道線和標(biāo)志,也無(wú)法判斷這個(gè)物體的真實(shí)屬性。所以才釀成車禍。(你可能要問(wèn)先進(jìn)的毫米波雷達(dá)當(dāng)時(shí)在做神馬。沒(méi)錯(cuò),卡車太高了以至于雷達(dá)信號(hào)從車底完美躲過(guò)。)
當(dāng)然,特斯拉的攝像頭也支持紅外夜視,所以用紅外線手電照射攝像頭,同樣會(huì)導(dǎo)致它“失明”。
在此次 DEF CON 演講之前大約一個(gè)月,劉健皓和閆琛已經(jīng)把這組缺陷打包提交給了特斯拉。而特斯拉在兩周前專門和這個(gè)黑客團(tuán)隊(duì)進(jìn)行了一個(gè)小時(shí)的電話會(huì)議。
雖然最后的結(jié)論并不很振奮人心:特斯拉表示還要再花時(shí)間評(píng)估一下這些缺陷在實(shí)際情況中對(duì)于安全的威脅程度。
不過(guò),劉健皓認(rèn)為這些缺陷非常值得引起注意:“從前的汽車傳感器只是作為人類駕駛的一個(gè)參考,并不直接影響駕駛的決策。而特斯拉的輔助駕駛系統(tǒng)讓傳感器直接接通了汽車的 CAN 總線,這意味著對(duì)于汽車的攻擊面從原來(lái)的總線攻擊和車聯(lián)網(wǎng)攻擊又?jǐn)U大到了傳感器攻擊。而從現(xiàn)在的趨勢(shì)上來(lái)看,機(jī)器人的一個(gè)重要分支就是帶有圖像識(shí)別和人工智能的“汽車人”,對(duì)于能力越來(lái)越大的“汽車人”來(lái)說(shuō),這種攻擊所能造成的傷害會(huì)越來(lái)越大。”
有一點(diǎn)事實(shí)不容置疑,那就是輔助駕駛已經(jīng)改變了人們的駕駛風(fēng)格。人們對(duì)于機(jī)器的依賴只能加深,從不后退。而這種被人類信賴以至于托付生命安全的技術(shù),是難以承受諸多的缺陷的。
當(dāng)人躺在車?yán)锼笥X的時(shí)候,他的特斯拉也同樣進(jìn)入了“夢(mèng)鄉(xiāng)”。這恐怕是對(duì)人類智慧最大的嘲諷。
劉健皓和閆琛對(duì)于特斯拉的破解,其實(shí)更像一次警示。我們把自己的感官托付給機(jī)器的那一瞬間,就要開始奮力阻止《黑客帝國(guó)》中所描繪的可怕結(jié)局。