1)AI會(huì)比人類(lèi)更聰明

a2)AI不再需要人類(lèi)控制，甚至?xí)催^(guò)來(lái)把地球接管了。

霍金就曾今在接受BBC采訪時(shí)說(shuō)：“人工智能的成熟之日，就是人類(lèi)的毀滅之時(shí)。”馬斯克也曾說(shuō)，他覺(jué)得AI是人類(lèi)面臨的“最大的生存威脅”。

目前的AI，玩游戲已經(jīng)比人類(lèi)玩得溜了，不管是國(guó)際象棋，圍棋，還是電子競(jìng)技游戲。所以說(shuō)，無(wú)論是計(jì)算機(jī)時(shí)代前后的游戲，AI都贏過(guò)人類(lèi)。

過(guò)去幾年中，AI的“大躍進(jìn)” 讓不少人在驚嘆的同時(shí)，也開(kāi)始冒冷汗：AI會(huì)不會(huì)哪天就取代了人類(lèi)?

在電影《終結(jié)者》里，天網(wǎng)是人類(lèi)創(chuàng)造的一個(gè)防御網(wǎng)絡(luò)，但最終獲得自我意識(shí)并倒戈對(duì)抗

聽(tīng)起來(lái)像科幻，但科幻小說(shuō)里機(jī)器獲得自我意識(shí)，并對(duì)抗人類(lèi)的場(chǎng)景，層出不窮。

我們都知道《終結(jié)者》里的天網(wǎng)，挑戰(zhàn)人類(lèi)的人工智能超級(jí)電腦，在產(chǎn)生自我意識(shí)后，天網(wǎng)決定毀滅大多數(shù)人，剩下一部分當(dāng)奴隸。

在黑客帝國(guó)中，超級(jí)智能機(jī)器也成為了人類(lèi)的主宰。

而在有名的《黑客》三部曲中，超級(jí)智能機(jī)器也接管了世界，但它們沒(méi)有毀滅人類(lèi)，只是把人類(lèi)當(dāng)發(fā)電機(jī)：為了使用人腦產(chǎn)生的電，把人放在艙里，沉浸在游戲世界或者虛擬現(xiàn)實(shí)(矩陣)中。

而在電影《沙丘》中，一臺(tái)電腦都沒(méi)有，人類(lèi)經(jīng)過(guò)培訓(xùn)，自己做電腦的計(jì)算工作。而且，在奧蘭治天主教圣經(jīng)里有一天最重要的誡律：爾不得制造映象人的意識(shí)的機(jī)器

為什么?因?yàn)樵谶b遠(yuǎn)的過(guò)去(對(duì)于21世紀(jì)，算是遙遠(yuǎn)的未來(lái))，人類(lèi)曾經(jīng)是超級(jí)智能的階下囚。巴特蘭圣戰(zhàn)中，人類(lèi)反抗并擊敗了Omnius，一臺(tái)幾乎全知全能、擁有無(wú)數(shù)分身的機(jī)器。一朝被蛇咬，十年怕井繩，才有了這樣一條誡律。

這類(lèi)主題的科幻作品數(shù)不勝數(shù)，如果不是AI統(tǒng)治世界，就是機(jī)器人。美國(guó)軍事科幻電視劇《星際大爭(zhēng)霸》中，人類(lèi)創(chuàng)造的機(jī)器人種族賽隆人，后來(lái)反叛并試圖毀滅人類(lèi)。最近描繪人類(lèi)和機(jī)器人之間糾葛的的影視作品也不少，比如《西部世界》和《銀翼殺手》。

噩夢(mèng)是否會(huì)成真?

我覺(jué)得，目前的AI想要這樣一手遮天，把人類(lèi)當(dāng)奴隸和螻蟻，能力水平還有點(diǎn)欠缺。

要完成殺戮和囚禁這樣的任務(wù)，光是AI和機(jī)器學(xué)習(xí)方面的進(jìn)步還遠(yuǎn)遠(yuǎn)不夠，還需要其他計(jì)算軟件和硬件領(lǐng)域都齊頭并進(jìn)。

另一方面，上述的領(lǐng)域確實(shí)也在快速進(jìn)步，比如我們常聽(tīng)到的區(qū)塊鏈、點(diǎn)對(duì)點(diǎn)技術(shù)、物聯(lián)網(wǎng)、機(jī)器人和無(wú)人機(jī)。雖說(shuō)AI統(tǒng)治世界道阻且長(zhǎng)，但這些領(lǐng)域的迅猛發(fā)展，可以讓噩夢(mèng)成真的速度大大加快。

我們的世界需要具備什么樣的條件，才會(huì)進(jìn)入科幻作品中噩夢(mèng)般的未來(lái)呢?這條危險(xiǎn)又黑暗的道路，得經(jīng)過(guò)幾個(gè)里程碑。

殺手AI的關(guān)卡

AI想要統(tǒng)治世界，得通過(guò)幾個(gè)關(guān)卡。如果技術(shù)進(jìn)步到了一定程度，這些關(guān)都過(guò)了，我們就真的應(yīng)該像霍金或者馬斯克一樣擔(dān)心了。

以下我列出的并非所有的關(guān)卡，技術(shù)發(fā)展過(guò)程中可能還要面對(duì)其他難關(guān)，但是以下是AI強(qiáng)大路上必須攻克的問(wèn)題。

以下列出的四個(gè)關(guān)卡沒(méi)有先后次序。為了讓讀者能將這些問(wèn)題具象化，我決定繼續(xù)援引電影的例子，并與現(xiàn)有的軟件和硬件相比較。

第一關(guān)：AI和機(jī)器學(xué)習(xí)的應(yīng)用不夠廣泛。

目前大多數(shù)AI能實(shí)現(xiàn)的任務(wù)很單一，很具體。我們的很多活動(dòng)都有AI可以做：打游戲、開(kāi)車(chē)、預(yù)測(cè)股市走勢(shì)、交流、分析影像、做診斷，但是沒(méi)有哪個(gè)AI可以同時(shí)完成多項(xiàng)任務(wù)。AI的發(fā)展有好幾個(gè)浪潮：現(xiàn)在的AI是第二波，數(shù)據(jù)驅(qū)動(dòng)機(jī)器學(xué)習(xí)的人工智能，而第一波更傾向于啟發(fā)式(指依據(jù)有限的知識(shí)和不完整的信息，在短時(shí)間內(nèi)找到問(wèn)題解決方案)，未來(lái)的AI會(huì)結(jié)合以上兩種方法和其他方法，變得更通用，應(yīng)用更廣泛。這個(gè)關(guān)卡會(huì)引發(fā)廣泛的討論：我們目前的AI和機(jī)器學(xué)習(xí)能走多遠(yuǎn)，現(xiàn)有的AI功能會(huì)廣泛到什么程度。

第二關(guān)：AI控制物理世界的難易程度。

我們目前的人工只能還只是服務(wù)器上運(yùn)行的軟件，不意味著它能意識(shí)到物理世界的存在，也接觸不到武器，它不能控制機(jī)器人或者無(wú)人車(chē)，也不像《終結(jié)者》中的H-K機(jī)器人(天網(wǎng)的機(jī)器人士兵)。這個(gè)關(guān)卡會(huì)讓我們聯(lián)想到物聯(lián)網(wǎng)，機(jī)器視覺(jué)和AI控制物理世界方面的問(wèn)題。

第三關(guān)：關(guān)不掉的AI。

某種程度上，這個(gè)關(guān)卡是我列出的4個(gè)中最重要的。只要人類(lèi)沒(méi)有走到關(guān)不掉AI的地步，就算AI不聽(tīng)話，開(kāi)始謀反，我們手上好歹有個(gè)“開(kāi)關(guān)”，不管是真的按下按鈕關(guān)掉，還是需要?dú)У粲行蔚奈⑻幚砥骰蛘咛摂M機(jī)軟件。這個(gè)關(guān)卡引發(fā)的討論主要在于：目前的AI都依附于某種形式的計(jì)算機(jī)技術(shù)，那區(qū)塊鏈和點(diǎn)對(duì)點(diǎn)系統(tǒng)會(huì)不會(huì)就是某個(gè)關(guān)不掉的“天網(wǎng)”的前身?

第四關(guān)：具有自我意識(shí)、將保全自身視為首要任務(wù)的AI

這個(gè)關(guān)卡有點(diǎn)難定義。我們需要問(wèn)自己幾個(gè)問(wèn)題：什么叫“有自我意識(shí)”?什么叫“將保全自身視為首要任務(wù)”?AI還有那些任務(wù)和“觀念”?AI不一定會(huì)有生存的意愿。這個(gè)關(guān)卡更多討論的是AI和價(jià)值觀。

讓我們仔細(xì)探討一下以上提到的關(guān)卡。

第一關(guān)：功能從具體到通用——AI發(fā)展的浪潮

我很確定，目前這一波基于機(jī)器學(xué)習(xí)的AI，比起第一波基于啟發(fā)和規(guī)則的AI，確實(shí)是很大的進(jìn)步，但是還不足以帶我們走向黑暗未來(lái)。

我在MIT讀計(jì)算機(jī)系的時(shí)候，有人告訴我AI方面的研究，一開(kāi)始的目標(biāo)是找到與人類(lèi)思維相仿的“規(guī)則”和“符號(hào)表征”。但是人類(lèi)能識(shí)別規(guī)則以外的模式，但計(jì)算機(jī)做不到，所以這個(gè)目標(biāo)很難達(dá)到。后來(lái)出現(xiàn)了模糊邏輯的概念，其中的規(guī)則變得不那么“非黑即白”。在八十年代，日本的科學(xué)家甚至預(yù)測(cè)，十年內(nèi)，AI就能和人腦一樣執(zhí)行多種任務(wù)了。

然而，三十年過(guò)去了，我們才剛看見(jiàn)一點(diǎn)進(jìn)步。現(xiàn)有的AI和機(jī)器學(xué)習(xí)的爆炸式發(fā)展，功勞比較大的是數(shù)據(jù)，而非規(guī)則。它們依靠的是神經(jīng)網(wǎng)絡(luò)。神經(jīng)網(wǎng)絡(luò)是 一種模仿人腦神經(jīng)網(wǎng)絡(luò)行為的邏輯系統(tǒng)。這類(lèi)AI的前提不是規(guī)則，而是通過(guò)數(shù)據(jù)訓(xùn)練，執(zhí)行某一項(xiàng)具體的任務(wù)。有了數(shù)據(jù)，模型可以改變神經(jīng)網(wǎng)絡(luò)中某些連接的權(quán)重。虛擬神經(jīng)元的層數(shù)越多，數(shù)據(jù)組越大，模型產(chǎn)生的結(jié)果就越精準(zhǔn)。

這類(lèi)型機(jī)器學(xué)習(xí)對(duì)于圖像識(shí)別很有效果，能識(shí)別手寫(xiě)體、某些具體物品的圖片等。有些計(jì)算機(jī)也通過(guò)機(jī)器學(xué)習(xí)，下棋能贏過(guò)棋王。

雖然我們一般認(rèn)為反向傳播神經(jīng)網(wǎng)絡(luò)算法很通用，但是目前的大多數(shù)AI還是只能執(zhí)行特定的具體任務(wù)。

無(wú)人車(chē)依靠的是巨量的來(lái)自真實(shí)世界的數(shù)據(jù)集，并結(jié)合受訓(xùn)是使用的數(shù)據(jù)和駕駛規(guī)則。但是谷歌在測(cè)試無(wú)人車(chē)的時(shí)候，發(fā)現(xiàn)這樣的操作有個(gè)大漏洞：無(wú)人車(chē)確實(shí)遵守規(guī)則了，但是周?chē)?chē)上的司機(jī)不守規(guī)則!比方說(shuō)，很少有司機(jī)看到“停”的指示牌，就完全停下來(lái)，于是無(wú)人車(chē)就等司機(jī)完全停下。

科幻作品中的大多數(shù)AI都已經(jīng)過(guò)了這一關(guān)。而目前現(xiàn)實(shí)中的AI還沒(méi)有克服這個(gè)問(wèn)題。一個(gè)通用型AI,應(yīng)該能通過(guò)圖靈測(cè)試。

通用型AI不僅能在任何應(yīng)用中有作用，甚至能自主學(xué)習(xí)，了解到訓(xùn)練數(shù)據(jù)之外的新信息，并且無(wú)需人類(lèi)的監(jiān)控。

《星際迷航：下一代》中的機(jī)器人Data就是個(gè)典型的通用型AI， 擁有正電子大腦。而AI本身并不都是會(huì)主動(dòng)學(xué)習(xí)，不斷進(jìn)化的。

什么時(shí)候能打通第一關(guān)呢?這個(gè)問(wèn)題我也沒(méi)有答案，但是我們可以料想，通用型AI應(yīng)該是在多項(xiàng)任務(wù)上都受過(guò)訓(xùn)練，然后在某些具體任務(wù)上受訓(xùn)。或許就在未來(lái)幾年，人類(lèi)會(huì)有小的突破。但是要有Data這樣的通用型AI，估計(jì)還要有幾十年。我們或許需要第三波超越簡(jiǎn)單規(guī)則和簡(jiǎn)單數(shù)據(jù)集的AI。

第二關(guān) AI能輕易地操控物理世界

《X檔案》第十一季第六集有這么個(gè)場(chǎng)景：劇中的世界與現(xiàn)實(shí)的技術(shù)水平相差無(wú)幾，但是里面的AI卻展現(xiàn)出將自己與物理時(shí)間聯(lián)系起來(lái)的可能。

劇中，史考莉和穆德被AI追蹤，而這個(gè)AI能控制他們身邊環(huán)境中的一切，包括無(wú)人車(chē)、冰箱、亞馬遜的無(wú)人送貨飛機(jī)，還有餐廳的機(jī)器人廚師。

目前，即使是已經(jīng)與硬件一體化的AI，比如無(wú)人車(chē)，對(duì)于物理世界的存在，意識(shí)還是有限的，他們能根據(jù)自己意識(shí)的范圍來(lái)下命令。這個(gè)領(lǐng)域的進(jìn)步離不開(kāi)機(jī)器視覺(jué)的發(fā)展，依靠的是相機(jī)和影像，以及對(duì)影像的解讀(街道標(biāo)識(shí)、衣服、房屋以及人)。

這個(gè)關(guān)卡，AI需要接觸物理世界，讓人自然聯(lián)想到有形體的機(jī)器人，但是終結(jié)者、復(fù)制人和西部世界中的機(jī)器人，離我們還很遠(yuǎn)。

現(xiàn)在，很多有形體的機(jī)器人，功能都很單一，只能實(shí)現(xiàn)特定的任務(wù)。在現(xiàn)代汽車(chē)制造廠中我們能看到很多這樣的機(jī)器人，做的是把汽車(chē)抬起、移動(dòng)、放下之類(lèi)的動(dòng)作。這類(lèi)機(jī)器人對(duì)周?chē)h(huán)境的感知是有限的，僅限于完成既定任務(wù)。

能與物理世界交流的機(jī)器人不一定要“人模人樣”，波士頓動(dòng)力公司(Boston Dynamics)

就出過(guò)一些造型奇異的機(jī)器人，看上去更像動(dòng)物，移動(dòng)速度極快。波士頓動(dòng)力公司曾被谷歌收購(gòu)，現(xiàn)在歸日本軟銀集團(tuán)所有。

波士頓動(dòng)力公司的四足機(jī)器人“大狗”移動(dòng)速度很快

自動(dòng)無(wú)人機(jī)或許是目前對(duì)環(huán)境“感知”最強(qiáng)的AI。在終結(jié)者世界中，天網(wǎng)負(fù)責(zé)指揮美國(guó)所有軍事行動(dòng)，因?yàn)樗宫F(xiàn)出了人類(lèi)飛行員無(wú)法企及的效率。

現(xiàn)在的軍用無(wú)人機(jī)是遠(yuǎn)程操控的，操控人員可能在地球的另一頭。對(duì)于無(wú)人機(jī)操作員而言，這個(gè)過(guò)程跟玩電子游戲差不多。而我也已經(jīng)提到，AI在玩游戲方面已經(jīng)比人玩得溜了。而AI和無(wú)人機(jī)操作這兩個(gè)領(lǐng)域的結(jié)合遲早有一天會(huì)融合。在未來(lái)，我們會(huì)有可以定位并且武裝的AI，可以自主行動(dòng)，無(wú)需人類(lèi)干預(yù)。

我們什么時(shí)候能克服第二關(guān)呢?一年又一年，我們離這個(gè)目標(biāo)越來(lái)越近。我的猜測(cè)是，再過(guò)幾年，最多十年，我們就會(huì)看到能通過(guò)機(jī)器視覺(jué)、機(jī)器學(xué)習(xí)，與物理世界產(chǎn)生聯(lián)系的AI，它們經(jīng)過(guò)訓(xùn)練，能夠識(shí)別物理世界中的事物，并做決策。

AI什么時(shí)候會(huì)有獲得武器的權(quán)限呢?普京已經(jīng)公開(kāi)說(shuō)，擁有最強(qiáng)大AI的國(guó)家，就能統(tǒng)治世界。所以，估計(jì)不用等幾十年，幾年后，AI就能得到該權(quán)限了。

第三關(guān) 沒(méi)有開(kāi)關(guān)的AI

隨著物聯(lián)網(wǎng)和區(qū)塊鏈的出現(xiàn)，要過(guò)這一關(guān)，難度有所增加。星際迷航：下一代中的機(jī)器人Data后腦勺上是有開(kāi)關(guān)的。而且，Data允許皮卡爾上校和進(jìn)取號(hào)上的船員在必要時(shí)，把它關(guān)掉。

在《終結(jié)者3》中，天網(wǎng)不在任何服務(wù)器上，也無(wú)法被關(guān)掉。

我再舉一個(gè)科幻作品的例子，《終結(jié)者3：機(jī)器崛起》中，主角約翰康納和終結(jié)者闖進(jìn)了位于中國(guó)湖的控制中心，約翰希望能毀掉服務(wù)器。

他們進(jìn)到控制中心之后，約翰意識(shí)到，僅僅摧毀服務(wù)器，是無(wú)法殺死天網(wǎng)的。

“天網(wǎng)出現(xiàn)自我意識(shí)之后，就把自己“擴(kuò)散”到全球各地的幾百萬(wàn)個(gè)服務(wù)器里。寫(xiě)字樓里的普通計(jì)算機(jī)，宿舍，到處都是天網(wǎng)的影子。天網(wǎng)成了網(wǎng)絡(luò)世界的軟件，沒(méi)有系統(tǒng)核心，關(guān)不掉的。”

-約翰康納， 終結(jié)者3

這才是天網(wǎng)讓人膽戰(zhàn)心驚之處——它已經(jīng)成為了能在任何設(shè)備上運(yùn)行、復(fù)制并傳遍世界的軟件，沒(méi)那么容易，按下開(kāi)關(guān)就消失。

隨著物聯(lián)網(wǎng)的發(fā)展，越來(lái)越多帶處理器、能夠運(yùn)行軟件的設(shè)備加入進(jìn)來(lái)。在HBO劇集硅谷奇?zhèn)b傳第四季的末尾，團(tuán)隊(duì)需要保存一些數(shù)據(jù)，本來(lái)這些數(shù)據(jù)是儲(chǔ)存在地下室的服務(wù)器上，但是地下室出了問(wèn)題，于是他們的AI決定將數(shù)據(jù)發(fā)送到3萬(wàn)臺(tái)智能冰箱里，這些冰箱都連了網(wǎng)，可以保存數(shù)據(jù)。

聽(tīng)起來(lái)很巧妙，觀眾很容易聯(lián)想到，設(shè)備有了處理能力，能夠儲(chǔ)存數(shù)據(jù)，而世界各地的設(shè)備千千萬(wàn)萬(wàn)，手機(jī)、冰箱和其他設(shè)備之間也能夠相互傳輸數(shù)據(jù)。

電腦病毒程序，它們被設(shè)計(jì)出來(lái)，目的就是復(fù)制和傳播自己。電腦病毒本身也是連著硬件的。如果病毒和電腦程序與具體的硬件綁定在一起，我們就能通過(guò)摧毀硬件來(lái)毀滅軟件。通常，電腦病毒是用C語(yǔ)言寫(xiě)的，然后后在操作系統(tǒng)和硬件上編譯。

如果我們真的寫(xiě)出了像天網(wǎng)這樣的程序，要有同等的破壞力，這個(gè)程序必須在全球多個(gè)設(shè)備上都能運(yùn)行，不是簡(jiǎn)單的關(guān)閉某個(gè)操作系統(tǒng)就能一了百了。

然后，區(qū)塊鏈出現(xiàn)了。區(qū)塊鏈的構(gòu)建信任的基礎(chǔ)，就是通過(guò)世界各地多個(gè)去中心化、點(diǎn)對(duì)點(diǎn)的計(jì)算機(jī)，復(fù)制同一個(gè)數(shù)據(jù)集和代碼。

比特幣的背后就是這樣的技術(shù)：核心代碼是C語(yǔ)言寫(xiě)的，可以在不同的操作系統(tǒng)上編譯。只不過(guò)這些代碼的功能很具體，只是將比特幣從一個(gè)地址發(fā)送到另一個(gè)地址。

而Vitalik Buterian之所以離開(kāi)比特幣開(kāi)發(fā)團(tuán)隊(duì)，成立以太坊，就是因?yàn)樗X(jué)得比特幣平臺(tái)應(yīng)該有更完善的程式語(yǔ)言，能夠在成百上千，甚至幾百萬(wàn)臺(tái)計(jì)算機(jī)上運(yùn)行，創(chuàng)造一個(gè)虛擬主機(jī)(VM)，一臺(tái)“世界計(jì)算機(jī)”。在上世紀(jì)90年代，這個(gè)想法就有了，當(dāng)時(shí)的人們想的是用Java作為通用語(yǔ)，作為作為虛擬主機(jī)，可以在任何設(shè)備上運(yùn)行。而現(xiàn)在，其他智能合約語(yǔ)言和項(xiàng)目紛紛出現(xiàn)，目的都是打破以太坊的局限。

目前，以太坊虛擬主機(jī)沒(méi)有突破虛擬世界的權(quán)限。但隨著新的跨區(qū)塊鏈、知曉互聯(lián)網(wǎng)存在的編程語(yǔ)言發(fā)揮越來(lái)越大的作用，這個(gè)領(lǐng)域就會(huì)出現(xiàn)越來(lái)越多的創(chuàng)新。也許未來(lái)會(huì)出現(xiàn)一個(gè)虛擬主機(jī)，能在世界各地任何計(jì)算機(jī)和設(shè)備上運(yùn)行，不管它們裝的是什么處理器。(某種程度上，這已經(jīng)成為現(xiàn)實(shí)，但是物聯(lián)網(wǎng)和手機(jī)配件方面仍有待提高。)

很多極客在看終結(jié)者系列電影時(shí)，都有一個(gè)疑問(wèn)，“天網(wǎng)的編程語(yǔ)言是什么?” 我覺(jué)得應(yīng)該是某種具有圖靈完備性的語(yǔ)言(具有無(wú)限存儲(chǔ)能力的通用物理機(jī)器或編程語(yǔ)言),能夠在世界各處的設(shè)備上自動(dòng)運(yùn)行，同時(shí)，還能自我復(fù)制，復(fù)制出的每個(gè)版本都會(huì)走向同一個(gè)結(jié)論：毀滅全人類(lèi)!

要想“殺死”這樣一個(gè)程序網(wǎng)絡(luò)，唯一的辦法就是將運(yùn)行這個(gè)程序的所有設(shè)備都?xì)У簟５侨绻@個(gè)程序能在智能設(shè)備上自我復(fù)制，在智能冰箱、汽車(chē)等設(shè)備上運(yùn)行，那“殺手AI”復(fù)制的速度，可能遠(yuǎn)遠(yuǎn)快過(guò)我們損毀這些設(shè)備的速度，這樣，天網(wǎng)就有可趁之機(jī)了。

第四關(guān)：具有自我意識(shí)、并以自身生存為首要目的的AI

這一關(guān)可能是最難闖的一關(guān)，難就難在不好定義上。這個(gè)問(wèn)題有兩個(gè)部分。

就以電影《2001：太空史詩(shī)》這部電影為例，其中的計(jì)算機(jī)HAL 9000就出現(xiàn)違背命令的行為，當(dāng)主人公Dave Bowman下關(guān)閉命令時(shí)，Hal就開(kāi)始”叛變“，說(shuō)出了有名的臺(tái)詞：”抱歉，Dave，命令無(wú)法執(zhí)行。”

Hal不僅知道自己和Dave或者船體的一部分是獨(dú)立的，它也將保全自身作為自己的首要目標(biāo)，而不是保護(hù)艙內(nèi)的人。我們分開(kāi)看看這兩個(gè)問(wèn)題。

自我意識(shí)。圖靈是現(xiàn)代計(jì)算機(jī)的先驅(qū)，他對(duì)圖靈測(cè)試的定義是：如果人類(lèi)不能判斷跟自己交流的是不是一臺(tái)機(jī)器(或程序)，就算通過(guò)圖靈測(cè)試。如果人類(lèi)和某臺(tái)機(jī)器交流(通過(guò)鍵盤(pán)或其他方式)，無(wú)法判斷對(duì)方是機(jī)器還是人類(lèi)，那么其中的AI就算通過(guò)了圖靈測(cè)試。但是，定義本身沒(méi)有明說(shuō)什么叫“無(wú)法判斷”，也沒(méi)有描述無(wú)法判斷的情況。

那自我意識(shí)到底是什么呢?這個(gè)問(wèn)題很難定義。我覺(jué)得，測(cè)試AI或者某個(gè)電腦程序有沒(méi)有自我意識(shí)，看的是它們能不能將自己視做獨(dú)立于計(jì)算機(jī)里其他軟件、硬件和物理世界的個(gè)體。

對(duì)于AI而言，沒(méi)有其他關(guān)于自我意識(shí)的測(cè)試了，但是或許我們應(yīng)該設(shè)立更多此類(lèi)的測(cè)試，清晰地定義AI有什么樣的表現(xiàn)，人類(lèi)有什么樣的回應(yīng)，什么樣的互動(dòng)過(guò)程能說(shuō)明某個(gè)AI具有自我意識(shí)?；蛟S我們能給這個(gè)測(cè)試取個(gè)名字，比如Hal9000測(cè)試或者天網(wǎng)測(cè)試。

要真正過(guò)這一關(guān)，我們需要突破表面層次的自我意識(shí)。大多數(shù)計(jì)算機(jī)某種程度上都知道自己和其他計(jì)算機(jī)之間是獨(dú)立的。但是，這個(gè)“獨(dú)立意識(shí)”僅僅是建立在不同的IP地址，或者不同操作系統(tǒng)上的區(qū)別。

我記得自己第一次思考自我意識(shí)問(wèn)，那還是在我在MIT參加編程競(jìng)賽的時(shí)候。選手們都要寫(xiě)程序，這些程序之間將在同一臺(tái)設(shè)備決斗，最后剩下的程序就是贏家。

當(dāng)時(shí)我想的是找出一個(gè)用最少代碼贏得競(jìng)賽的辦法，一天大半夜里，我靈光一閃，想道“假如我的程序能改寫(xiě)自己和其他程序，這樣只需兩步，它就能贏得決斗。所以，我的程序要能意識(shí)到自己是個(gè)程序(自己的代碼是什么)，能夠改寫(xiě)自己，然后改寫(xiě)對(duì)方程序的指令(使其無(wú)法繼續(xù))。

這樣的”自我意識(shí)“當(dāng)然是很有限的。要說(shuō)有真正的自我意識(shí)，一個(gè)機(jī)器人或計(jì)算機(jī)至少要比較接近Hal，有“身份”感。

那超級(jí)智能呢?這難道不算一關(guān)?

牛津大學(xué)的教授Nick Bostrom是在人工智能方面進(jìn)行學(xué)術(shù)研究的先驅(qū)。他從好幾個(gè)方面探討了機(jī)器人如何能比人類(lèi)更聰明以及其影響。在流行科學(xué)中，我們常聽(tīng)到“奇點(diǎn)”這個(gè)術(shù)語(yǔ)，指的就是計(jì)算機(jī)智能超過(guò)人類(lèi)的時(shí)刻(最早由 科幻作家Vernor Vinge提出)。

我覺(jué)得這可能是危險(xiǎn)的未來(lái)更顯黑暗，因?yàn)檫@可能是殺手AI統(tǒng)治世界的一個(gè)節(jié)點(diǎn)。雖說(shuō)進(jìn)階的AI更善于保護(hù)自己，它應(yīng)該也會(huì)意識(shí)到毀滅人類(lèi)對(duì)于自己沒(méi)有好處，因?yàn)橛?jì)算機(jī)網(wǎng)絡(luò)畢竟還是要有人維護(hù)的。

一個(gè)武術(shù)教練曾告訴我，如果你要和一個(gè)黑帶的選手對(duì)打，寧可和四段的黑帶對(duì)打，也不要跟剛拿到黑帶的人對(duì)打。當(dāng)時(shí)我很疑惑嗎，兩者不是都能傷人嗎?

沒(méi)錯(cuò)，段位更高的對(duì)手比較能控制自己，不小心下手太重的可能性會(huì)比較小。而剛拿到黑帶的對(duì)手，破壞力不小，但不一定有同等的控制力和經(jīng)驗(yàn)，會(huì)不會(huì)在對(duì)打過(guò)程中不小心傷人，還說(shuō)不準(zhǔn)。

如果一個(gè)AI“經(jīng)驗(yàn)”不足，但意識(shí)到要保全自身，那它可能會(huì)因此得出要?dú)缛祟?lèi)的結(jié)論。也有可能由于某個(gè)AI的用途問(wèn)題， 比方說(shuō)操縱無(wú)人機(jī)襲擊的AI，“保全自身”就是這個(gè)AI的“人設(shè)”，是寫(xiě)進(jìn)程序“基因”里的。這類(lèi)AI或許只知道如何應(yīng)對(duì)武器威脅，對(duì)于其他物體就不夠智能化。

開(kāi)啟第四關(guān)：AI的價(jià)值觀

AI有自我保全的觀念嗎?如果有的話，這樣的觀念是如何寫(xiě)進(jìn)其程序中的呢?

阿西莫夫曾提出機(jī)器人三大定律：

第一、機(jī)器人不得傷害人類(lèi)，或看到人類(lèi)受到傷害而袖手旁觀;

第二、在不違反第一定律的前提下，機(jī)器人必須絕對(duì)服從人類(lèi)給與的任何命令;

第三、在不違反第一定律和第二定律的前提下，機(jī)器人必須盡力保護(hù)自己。

在阿西莫夫的作品中，這些法則就是機(jī)器人操作系統(tǒng)的基礎(chǔ)。

那我們?nèi)绾螌?shí)現(xiàn)這3個(gè)定律呢?目前的AI不僅是受到代碼的限制，而是經(jīng)過(guò)數(shù)據(jù)集的訓(xùn)練。如果想讓AI覺(jué)得人類(lèi)值得保護(hù)，就得用有這方面特點(diǎn)的數(shù)據(jù)來(lái)訓(xùn)練它們，讓它們得出這樣的結(jié)論。

但是訓(xùn)練數(shù)據(jù)可能是有缺陷的。我最近和一家AI初創(chuàng)公司聊了一下，他們用的訓(xùn)練數(shù)據(jù)是放射和其他X射線影像。他們提到，訓(xùn)練數(shù)據(jù)中，提供給機(jī)器學(xué)習(xí)AI的數(shù)據(jù)集中，高達(dá)10%的數(shù)據(jù)是有缺陷的。如果訓(xùn)練數(shù)據(jù)集有缺陷，又怎么能確定這樣訓(xùn)練出來(lái)的AI，給出的結(jié)果沒(méi)有缺陷呢?

我們什么時(shí)候能過(guò)第四關(guān)?在人類(lèi)設(shè)立自我意識(shí)測(cè)試之前，我無(wú)法給出確定的答案。但是有些AI已經(jīng)寫(xiě)入這樣的命令“如果看見(jiàn)人，就是用某種武器”。所以，可能幾十年內(nèi)，我們就能通過(guò)這個(gè)關(guān)卡。

結(jié)論

確定AI的“價(jià)值觀”可不是件易事。而且，在某種程度上，第四關(guān)是最讓人頭疼的。如果某個(gè)AI過(guò)了這一關(guān)，覺(jué)得保全自身是最重要的，那我們不擔(dān)心也不行了。

另一方面，如果只是一個(gè)機(jī)器人有這樣的想法，毀掉它很簡(jiǎn)單，要么關(guān)掉，要么物理?yè)p毀。而如果我們面對(duì)是像區(qū)塊鏈這樣點(diǎn)對(duì)點(diǎn)計(jì)算、可自我復(fù)制、并在多個(gè)設(shè)備商可以運(yùn)行的代碼，要?dú)缢蜁?huì)難得多。

本文中提出的想法，可能聽(tīng)起來(lái)不現(xiàn)實(shí)，要發(fā)生也只會(huì)在未來(lái)，雖然現(xiàn)在的AI不像終結(jié)者中的天網(wǎng)那樣，有權(quán)限接觸武器，但是未來(lái)我們可能會(huì)往同樣的方向發(fā)展。

問(wèn)題的關(guān)鍵，不在于前文中提及的某個(gè)關(guān)卡被突破，而是說(shuō)，萬(wàn)一這些關(guān)卡某天都被突破，同時(shí)有人夠聰明，把它們結(jié)合起來(lái)。如果我們通過(guò)了前三關(guān)，那AI出現(xiàn)價(jià)值觀也是遲早的問(wèn)題。這就會(huì)加速第四關(guān)被突破的速度，某個(gè)AI就有可能覺(jué)得保全自己比保全人類(lèi)更重要。

那時(shí)，我們不害怕都不行了。