人工智能惡意軟件正在來臨,未來或許很可怕

責(zé)任編輯:editor006

作者:李瑋

2016-11-01 23:16:57

摘自:騰訊科技

這看起來很正常,但實際上,整個消息或許來自于模擬客戶郵件風(fēng)格的智能惡意軟件,而地圖中將會捆綁病毒。集成人工智能技術(shù)的勒索軟件將帶來更大的風(fēng)險:通過自組織去造成最大程度的破壞,以及自動瞄準(zhǔn)更具吸引力的新目標(biāo)。

人工智能惡意軟件正在來臨,未來或許很可怕

請想象一下你要與客戶開會。在你動身的不久前,他們向你發(fā)來了確認(rèn)信,以及會議地點的地圖。這看起來很正常,但實際上,整個消息或許來自于模擬客戶郵件風(fēng)格的智能惡意軟件,而地圖中將會捆綁病毒。

這聽起來有些不可思議,至少目前來說如此。然而,這就是信息安全公司Darktrace技術(shù)總監(jiān)戴夫·帕爾默(Dave Palmer)設(shè)想中,未來黑客和信息安全公司軍備競賽的方向。

今年9月,帕爾默在金融時報信息安全峰會上表示,隨著人工智能變得越來越復(fù)雜,惡意軟件也將開始集成人工智能。這可能會給黑客瞄準(zhǔn)的企業(yè)和個人帶來災(zāi)難性后果。

需要指出的是,帕爾默是信息安全行業(yè)的內(nèi)部人士。他的工作就是宣傳信息安全威脅(包括當(dāng)前的威脅和未來的威脅),并說服客戶Darktrace是唯一能解決他們問題的公司。這是一家估值5億美元的英國公司,開發(fā)由人工智能驅(qū)動的安全防御網(wǎng)絡(luò)。該公司向客戶提供的“免疫系統(tǒng)”能夠?qū)W習(xí)企業(yè)的運行方式,隨后監(jiān)控潛在的異常。

不過,帕爾默的觀點仍代表了信息安全行業(yè)最火爆的年輕公司之一對未來信息安全的看法。

智能病毒將劫持工業(yè)設(shè)備,勒索贖金

人工智能惡意軟件正在來臨,未來或許很可怕

近期,勒索軟件正越來越常見。這種惡意軟件能將受害者計算機或網(wǎng)絡(luò)上的所有一切加密,隨后要求受害者支付贖金去解密。如果受害者在一段時間里沒有支付贖金,那么數(shù)據(jù)就將徹底丟失。

集成人工智能技術(shù)的勒索軟件將帶來更大的風(fēng)險:通過自組織去造成最大程度的破壞,以及自動瞄準(zhǔn)更具吸引力的新目標(biāo)。

帕爾默表示:“我們將看到相互協(xié)調(diào)的行動??梢韵胂?,未來勒索軟件將會首先感染網(wǎng)絡(luò)中的大塊區(qū)域,隨后才突然發(fā)動。”

他表示:“我相信,我們將會看到針對財產(chǎn)和數(shù)據(jù)的勒索。工廠設(shè)備、核磁共振儀,以及零售設(shè)備都可能受到影響。你需要支付贖金,讓這些設(shè)備重新聯(lián)網(wǎng),因為企業(yè)的運行不能沒有這些設(shè)備。數(shù)據(jù)是一方面,你可以備份數(shù)據(jù)。然而,如果你的機器停止工作,那么就無法獲得任何收入。”

惡意軟件將學(xué)會模仿你的熟人

人工智能惡意軟件正在來臨,未來或許很可怕

利用神經(jīng)網(wǎng)絡(luò),我們已經(jīng)可以教會人工智能軟件去模仿某種寫作風(fēng)格,無論是能快速傳播的有趣文案,還是《衛(wèi)報》上的嚴(yán)肅專欄。帕爾默認(rèn)為,未來惡意軟件將可以分析你的通信,學(xué)習(xí)你的溝通方式并加以模仿,隨后感染其他目標(biāo)。

他表示:“納迪亞筆記本上的惡意軟件能讀取她的所有電子郵件、消息和日程表,隨后以同樣的風(fēng)格與聯(lián)系人溝通。因此,你可能會收到納迪亞發(fā)來的會面地點地圖,因為惡意軟件能了解我們的會面時間。由于信息很重要,你將會打開地圖,但地圖中將會包含惡意軟件。”

這看起來像是高級版的“老板來信”或“信任攻擊”。在這類攻擊中,詐騙者會發(fā)郵件給目標(biāo),要求他們轉(zhuǎn)賬。美國聯(lián)邦調(diào)查局(FBI)估計,過去3年中,這類攻擊給企業(yè)造成了23億美元的損失。

最厲害的黑客將會隱藏自己

人工智能惡意軟件正在來臨,未來或許很可怕

2015年12月,烏克蘭一處發(fā)電廠由于前所未有的黑客攻擊而被迫脫網(wǎng),導(dǎo)致了8萬人停電。由俄羅斯政府支持的黑客被認(rèn)為應(yīng)當(dāng)對此事件負(fù)責(zé)。這是個典型案例,表明當(dāng)代世界在應(yīng)對黑客攻擊時非常脆弱。不過帕爾默認(rèn)為,未來最具破壞性的黑客攻擊將不太容易被發(fā)現(xiàn)。

“如果你關(guān)閉一根輸油管,那么很容易就會被發(fā)現(xiàn)。所有人都會嘗試去進(jìn)行修復(fù)。如果你真的希望摧毀一家石油天然氣公司,那么我認(rèn)為你應(yīng)當(dāng)嘗試自主追蹤、自主瞄準(zhǔn)的惡意軟件。這些軟件可以篡改地質(zhì)勘探數(shù)據(jù),而這些數(shù)據(jù)是公司決定購買采礦權(quán)的基礎(chǔ)。你可以誘騙這些公司在錯誤的地點購買采礦權(quán),這將對它們的業(yè)務(wù)造成巨大的破壞。它們不太容易注意到這樣的攻擊,也很難做出應(yīng)對。”

他同時表示:“你可能會認(rèn)為,‘這是個好主意,我們應(yīng)當(dāng)去關(guān)心數(shù)據(jù)庫,看看其中是否有奇怪的軟件。’然而,未來的攻擊很可能會直接針對收集數(shù)據(jù)的物聯(lián)網(wǎng)傳感器和掃描設(shè)備。只有期待好運才能發(fā)現(xiàn)這些攻擊。”

人工智能發(fā)展的陰暗面

我們?nèi)蕴幱谌斯ぶ悄芨锩脑缙?。這類技術(shù)被用于了所有一切,無論是無人駕駛汽車還是癌癥的治療,而我們才剛剛揭開幕布一角。然而,隨著人工智能越來越發(fā)達(dá),越來越普及,不可避免地這也將被用于惡意目的。

那么目前能否預(yù)計到時間表?帕爾默表示:“我估計,你可以在未來12個月中訓(xùn)練一個神經(jīng)網(wǎng)絡(luò),使其智能到以基本的方式去發(fā)動信任攻擊。如果你看看谷歌DeepMind等公司在自然語言方面的進(jìn)展,那么這就是未來幾年的事。”

未來正在到來,對此你或許無能為力。

鏈接已復(fù)制,快去分享吧

企業(yè)網(wǎng)版權(quán)所有?2010-2024 京ICP備09108050號-6京公網(wǎng)安備 11010502049343號