現(xiàn)實(shí)情況是,任何新的人工智能創(chuàng)新都可能被用于有益或有害的目的:任何可能提供重要經(jīng)濟(jì)應(yīng)用的單一算法,也可能導(dǎo)致空前的大規(guī)模毀滅性武器生產(chǎn),而這是難以捉摸的。其結(jié)果是,人們對基于人工智能自動化的擔(dān)憂正在加劇。
隨著機(jī)器學(xué)習(xí)、計算能力、無邊界投資和數(shù)據(jù)可用性的進(jìn)步,人工智能在廣闊領(lǐng)域有著潛在的應(yīng)用價值,這一事實(shí)使其所涉及的安全風(fēng)險成倍增加。此外,由于人工智能的整合對人來說是無法直接預(yù)知的,所以對任何事物的認(rèn)知能力都從根本上改變了安全格局。人工智能的自動化和智能帶來了希望,也帶來了毀滅的可能性。
計算能力的大眾化
計算機(jī)技術(shù)的發(fā)展使技術(shù)發(fā)展、知識、信息和智能民主化。數(shù)據(jù)分析和處理技術(shù)的快速發(fā)展,將網(wǎng)絡(luò)、電子、量子和自主武器與核、生物和納米等技術(shù)結(jié)合于武器制造,這能夠?qū)θ祟愒斐蔀?zāi)難性的傷害。
聯(lián)網(wǎng)的計算機(jī)、網(wǎng)絡(luò)和網(wǎng)絡(luò)空間已經(jīng)成為整個NGIOA所有數(shù)字過程中不可或缺的一部分。由于計算機(jī)代碼和聯(lián)網(wǎng)計算機(jī)已經(jīng)將網(wǎng)絡(luò)空間與地理空間和太空連接起來,現(xiàn)在幾乎一切都被聯(lián)網(wǎng)并可控。
由于人工智能有可能被整合到網(wǎng)絡(luò)空間、地理空間和太空(CGS)的幾乎每一種產(chǎn)品和服務(wù)中并使其智能化,這種不斷演變的認(rèn)知能力從根本上改變了人類的安全環(huán)境。目前,技術(shù)、計算能力、編程語言、計算機(jī)代碼、加密、信息、大數(shù)據(jù)、算法、投資等,它們都有軍民雙重用途。
當(dāng)每個人都可以訪問數(shù)字?jǐn)?shù)據(jù),擁有必要的機(jī)器學(xué)習(xí)技術(shù)和計算能力就能為己創(chuàng)建人工智能時,復(fù)雜的安全挑戰(zhàn)隨即產(chǎn)生,管理則變得困難重重。這不僅意味著增長中的潛在大規(guī)模殺傷性武器數(shù)量,攻擊面范圍的擴(kuò)大也不容忽略。人工智能的雙重使用威脅所帶來的安全風(fēng)險正變得越來越可怕。這就引出了一個重要的問題:人類的生存、安全和可持續(xù)性是否應(yīng)該留給個人的智慧,誰能或不知道人工智能的潛在雙重用途?也許現(xiàn)在是開發(fā)人工智能框架的時候了。
數(shù)據(jù)的大眾化
隨著網(wǎng)絡(luò)空間的數(shù)據(jù)成為有爭議的公有物,大數(shù)據(jù)的大眾化帶來了一個全新的世界秩序。這個新的世界秩序給我們帶來了一個新的現(xiàn)實(shí)——任何地方的任何人都可以訪問數(shù)字?jǐn)?shù)據(jù),并將其用于人類的善或惡。今天,任何個人或?qū)嶓w,只要有意愿,知道如何獲取大數(shù)據(jù)和數(shù)據(jù)科學(xué)能力,就可以利用它來實(shí)現(xiàn)他們想要實(shí)現(xiàn)的任何智能、自動化、監(jiān)視和偵察,無論他們具備何種教育背景、背景、社會地位或意圖。
雖然大數(shù)據(jù)的大眾化帶來了普遍的可訪問性,并使跨NGIOA的個人和實(shí)體獲得了授權(quán),但它也給我們帶來了許多重要的安全風(fēng)險。任何有或沒有受過正規(guī)訓(xùn)練的人,都有可能無意中甚至有意地造成社區(qū)、種族、宗教、國家和人類的混亂、災(zāi)難以及存在的風(fēng)險。
既然數(shù)據(jù)是構(gòu)建大多數(shù)人工智能系統(tǒng)所必需的,那么數(shù)據(jù)的大眾化是否會不受約束,而不承擔(dān)任何責(zé)任和責(zé)任呢?
人工智能
人工智能、機(jī)器人技術(shù)、無人機(jī)等領(lǐng)域的最新發(fā)展,對人類的益處有著巨大的潛力,但同樣的進(jìn)步也帶來了巨大的風(fēng)險:未經(jīng)檢查的情報、監(jiān)視、偵察,以及帶有偏見或致命的算法,沒有人為此做好了相應(yīng)的準(zhǔn)備。
復(fù)雜安全風(fēng)險產(chǎn)生于:這些帶有偏見和致命因素的算法是混合的,因為參與開發(fā)或部署人工智能的決策者通常不會關(guān)注諸如“安全”之類的基本問題。因此,建立一種可持續(xù)的“人工智能安全”文化,不僅需要讓人工智能研究人員、投資者、用戶、監(jiān)管者和決策者意識到人工智能開發(fā)的雙重用途(不管算法的性質(zhì)如何),而且還教育那些參與其中的人。
正如今天的各國所看到的:
任何人都可以創(chuàng)建具有雙重用途的算法
任何人都可以購買必要的數(shù)據(jù)、工具和技術(shù)來創(chuàng)建算法
遠(yuǎn)程開發(fā)人員可以為任何人開發(fā)算法
算法可以單獨(dú)購買,并可用于任何目的
自動無人駕駛飛行器正在崛起
自主武器系統(tǒng)成為了現(xiàn)實(shí)
擁有自主權(quán)的人工智能系統(tǒng)成為一個現(xiàn)實(shí)
自主面部識別成為現(xiàn)實(shí)
人工智能算法容易受到威脅和控制
這就提出了一個根本性的問題:任何人、任何來自不同國家的個人或?qū)嶓w,如何能夠訪問必要的數(shù)字?jǐn)?shù)據(jù)、探索為任何目的和議程創(chuàng)造人工智能的基礎(chǔ)科學(xué),而不承擔(dān)任何責(zé)任、監(jiān)督和后果?
這種人工智能的發(fā)展需要在必要的時候進(jìn)行管理和預(yù)防。
今天的人工智能發(fā)展和前景在許多方面都帶來了不確定性。因為人工智能是一種軟件,它不僅建立在軍隊使用的武器系統(tǒng)上,而且在NGIOA的每一個智能應(yīng)用程序中都有,每個人工智能應(yīng)用的潛力都有雙重用途,這是一個不容忽視的現(xiàn)實(shí)。
安全困境
在人類歷史的大部分時間里,安全的概念和方法主要圍繞著使用武力和地理空間的領(lǐng)土完整。由于安全的定義和意義在人工智能世界中受到了根本性的挑戰(zhàn)和改變,傳統(tǒng)的安全是指在地理空間內(nèi)或跨越地理邊界對各自國家的侵犯,現(xiàn)在這種概念已經(jīng)過時了,需要對其進(jìn)行評估和更新。
全新的人工智能世界的出現(xiàn),或多或少有點(diǎn)像一個陌生的領(lǐng)域,在這個領(lǐng)域里,幾乎沒有人知道,而且大多是未知的。這引發(fā)了恐懼、不確定性、競爭和軍備競賽,并帶領(lǐng)我們走向一個沒有邊界的新戰(zhàn)場,這可能也可能不涉及人類,這也可能很難被理解和控制。
不斷發(fā)展的人工智能威脅以及安全挑戰(zhàn)的復(fù)雜性跨越了空間、意識形態(tài)和政治,這就要求各國的所有利益攸關(guān)方進(jìn)行建設(shè)性合作。集體的頭腦風(fēng)暴是必要的,對威脅的事物進(jìn)行客觀的評估,以及確保其安全。在認(rèn)識到這一現(xiàn)實(shí)的情況下,風(fēng)險集團(tuán)(Risk Group)發(fā)起了對雙重使用技術(shù)困境(Dual Use Technology Dilemma)的討論。
雖然關(guān)于人工智能的結(jié)構(gòu)、角色和雙重用途的爭論將在未來幾年繼續(xù),但任何試圖重新定義人工智能安全的嘗試都需要從識別、理解、合并和擴(kuò)展人工智能安全威脅的定義和性質(zhì)開始。盡管本文的重點(diǎn)是人工智能,但許多其他技術(shù)需要對其雙重使用潛力進(jìn)行評估?,F(xiàn)在是開始討論新興技術(shù)的雙重用途的時候了。