程序員也是人，是人就會(huì)犯錯(cuò)，所以我們的機(jī)器上充滿安全漏洞太正常不過。在打造驅(qū)動(dòng)計(jì)算系統(tǒng)的軟件時(shí)，他們會(huì)把代碼放到錯(cuò)誤的地方執(zhí)行，或者讓數(shù)據(jù)跑到了不該去的地方，而且常常放進(jìn)來太多的數(shù)據(jù)。所有這些，都給黑客留下了進(jìn)行攻擊的方便之門。

即使有人工智能輔助人類程序員，風(fēng)險(xiǎn)依然留存。AI也會(huì)犯錯(cuò)。谷歌和馬斯克獨(dú)力支持的人工智能初創(chuàng)公司OpenAI的研究人員發(fā)表了一篇新論文，其中描述稱，這些風(fēng)險(xiǎn)在正快速重造我們計(jì)算系統(tǒng)的新一類AI里十分明顯，隨著AI涌入到安全攝像頭、傳感器和遍布物理世界的其他設(shè)備中，此類風(fēng)險(xiǎn)有可能會(huì)造成嚴(yán)重后果。“這真的是每個(gè)人都應(yīng)該認(rèn)真思考的問題。”

幻視

作為AI的一種形式，深度神經(jīng)網(wǎng)絡(luò)可以通過分析海量數(shù)據(jù)學(xué)習(xí)各種任務(wù)。隨著深度神經(jīng)網(wǎng)絡(luò)的興起，我們跨入到了一個(gè)新紀(jì)元，編程計(jì)算服務(wù)逐步讓位于訓(xùn)練計(jì)算服務(wù)。Facebook、谷歌和微軟之類的互聯(lián)網(wǎng)巨頭里，這一切已經(jīng)開始發(fā)生了。

通過饋送無數(shù)照片，小扎及其公司訓(xùn)練神經(jīng)網(wǎng)絡(luò)識(shí)別這個(gè)世界上最流行的社交網(wǎng)絡(luò)上的無數(shù)人臉。通過大量口語(yǔ)集，谷歌訓(xùn)練神經(jīng)網(wǎng)絡(luò)識(shí)別安卓手機(jī)“聽”到的語(yǔ)音命令。未來，這將是我們打造智能機(jī)器人和自動(dòng)駕駛汽車的方式。

今天，神經(jīng)網(wǎng)絡(luò)已經(jīng)能很好地識(shí)別人臉和口語(yǔ)了，更不用說物件、動(dòng)物、標(biāo)志和其他書面語(yǔ)。但是，錯(cuò)誤的發(fā)生還是無法避免，有時(shí)候還會(huì)是驚人的錯(cuò)誤。沒有哪個(gè)機(jī)器學(xué)習(xí)系統(tǒng)是完美的。某些情況下，甚至可以耍弄這些系統(tǒng)“看到”或“聽到”實(shí)際上并不存在的東西。

可以略微修改一幅圖像，讓神經(jīng)網(wǎng)絡(luò)以為里面包含了一些實(shí)際上不存在的東西。這種修改人眼可能發(fā)現(xiàn)不了——就是四處加了點(diǎn)像素。往大象的照片中加幾個(gè)像素，甚至能讓神經(jīng)網(wǎng)絡(luò)以為這是汽車的照片。這種修改過的照片被論文作者稱作“敵對(duì)例子”。這里面就隱含了安全漏洞。

當(dāng)神經(jīng)網(wǎng)絡(luò)被用于識(shí)別直接從攝像頭或其他傳感器收來的數(shù)據(jù)時(shí)，可能會(huì)引發(fā)問題。比如說，使用神經(jīng)網(wǎng)絡(luò)的人臉識(shí)別系統(tǒng)若用于絕密設(shè)施的訪問控制，你可以往臉上畫幾個(gè)小點(diǎn)來讓系統(tǒng)認(rèn)為是另一個(gè)。

同類型的攻擊可以用在幾乎任何形式的機(jī)器學(xué)習(xí)上，不僅僅是神經(jīng)網(wǎng)絡(luò)，決策樹和支持向量機(jī)之類長(zhǎng)盛十幾年的決策輔助型機(jī)器學(xué)習(xí)方法也規(guī)避不了。事實(shí)上，這類攻擊或許已經(jīng)在現(xiàn)實(shí)世界中上演了。金融公司就有可能對(duì)競(jìng)爭(zhēng)對(duì)手的交易系統(tǒng)下手。他們可以構(gòu)造一些交易，讓競(jìng)爭(zhēng)對(duì)手的系統(tǒng)在抵御實(shí)際價(jià)值的點(diǎn)位上就大量拋出股票，然后迅速買進(jìn)。

這篇新論文中，通過將圖像打印到紙上并展現(xiàn)給攝像頭“看”，作者們成功騙過了神經(jīng)網(wǎng)絡(luò)。不過，更簡(jiǎn)單的方法或許也會(huì)起效，比如前文所述的在臉上畫點(diǎn)點(diǎn)。現(xiàn)實(shí)世界中這么干行不行尚不能確定，但作者們的研究顯示是有這個(gè)可能的。論文中已展示過攝像頭可被騙過，其他攻擊方法想必也不少，比如用人眼感覺不到的印記騙過人臉識(shí)別系統(tǒng)等。

難點(diǎn)

騙過AI絕不容易。但也沒必要懂得神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)的深層知識(shí)，也不用知道它是基于什么數(shù)據(jù)訓(xùn)練的。如之前的研究所展現(xiàn)的，如果能構(gòu)建出“敵對(duì)例子”騙過自家神經(jīng)網(wǎng)絡(luò)，那對(duì)其他神經(jīng)網(wǎng)絡(luò)也可能有效。換句話說，能騙過一個(gè)圖像識(shí)別系統(tǒng)，就可能騙過其他的?？梢杂昧硪粋€(gè)系統(tǒng)來構(gòu)造敵對(duì)例子，那會(huì)提升成功率。

說這些安全漏洞比較小是很恰當(dāng)?shù)?。它們是理論上的問題，但在現(xiàn)實(shí)世界中，攻擊順利執(zhí)行還是很困難。除非攻擊者發(fā)現(xiàn)了往臉上畫點(diǎn)點(diǎn)的完美模式，否則不用有所期待。然而，此類漏洞真實(shí)存在。隨著神經(jīng)網(wǎng)絡(luò)在現(xiàn)代世界扮演越來越重要的角色，我們必須堵上這些漏洞。怎么堵呢?打造更好的神經(jīng)網(wǎng)絡(luò)咯。

這事兒絕不是說說簡(jiǎn)單，但事情已經(jīng)提上了議程。深度神經(jīng)網(wǎng)絡(luò)有意模仿人腦神經(jīng)網(wǎng)的運(yùn)作。這也就是為什么它們被稱為神經(jīng)網(wǎng)絡(luò)的原因。但真的實(shí)現(xiàn)時(shí)，也不過是大規(guī)模的數(shù)學(xué)計(jì)算而已——層層疊加的微積分。這些數(shù)學(xué)計(jì)算是由人類組織的，也就是論文作者之類的研究人員。最終，是由他們控制這些系統(tǒng)，而他們已著手找尋清除這些安全漏洞的方法了。

選擇之一，是在神經(jīng)網(wǎng)絡(luò)的訓(xùn)練中集成進(jìn)敵對(duì)例子，教會(huì)它們識(shí)別真品與敵對(duì)例子之間的區(qū)別。不過，其他的選項(xiàng)也在研究人員的考慮之中。他們不是很確定哪些會(huì)起效而哪些完全是無用功。一如既往，最終還是人類自身必須變得更好才行。