1)AI會(huì)比人類(lèi)更聰明
a2)AI不再需要人類(lèi)控制,甚至?xí)催^(guò)來(lái)把地球接管了。
霍金就曾今在接受BBC采訪時(shí)說(shuō):“人工智能的成熟之日,就是人類(lèi)的毀滅之時(shí)。”馬斯克也曾說(shuō),他覺(jué)得AI是人類(lèi)面臨的“最大的生存威脅”。
目前的AI,玩游戲已經(jīng)比人類(lèi)玩得溜了,不管是國(guó)際象棋,圍棋,還是電子競(jìng)技游戲。所以說(shuō),無(wú)論是計(jì)算機(jī)時(shí)代前后的游戲,AI都贏過(guò)人類(lèi)。
過(guò)去幾年中,AI的“大躍進(jìn)” 讓不少人在驚嘆的同時(shí),也開(kāi)始冒冷汗:AI會(huì)不會(huì)哪天就取代了人類(lèi)?
在電影《終結(jié)者》里,天網(wǎng)是人類(lèi)創(chuàng)造的一個(gè)防御網(wǎng)絡(luò),但最終獲得自我意識(shí)并倒戈對(duì)抗
聽(tīng)起來(lái)像科幻,但科幻小說(shuō)里機(jī)器獲得自我意識(shí),并對(duì)抗人類(lèi)的場(chǎng)景,層出不窮。
我們都知道《終結(jié)者》里的天網(wǎng),挑戰(zhàn)人類(lèi)的人工智能超級(jí)電腦,在產(chǎn)生自我意識(shí)后,天網(wǎng)決定毀滅大多數(shù)人,剩下一部分當(dāng)奴隸。
在黑客帝國(guó)中,超級(jí)智能機(jī)器也成為了人類(lèi)的主宰。
而在有名的《黑客》三部曲中,超級(jí)智能機(jī)器也接管了世界,但它們沒(méi)有毀滅人類(lèi),只是把人類(lèi)當(dāng)發(fā)電機(jī):為了使用人腦產(chǎn)生的電,把人放在艙里,沉浸在游戲世界或者虛擬現(xiàn)實(shí)(矩陣)中。
而在電影《沙丘》中,一臺(tái)電腦都沒(méi)有,人類(lèi)經(jīng)過(guò)培訓(xùn),自己做電腦的計(jì)算工作。而且,在奧蘭治天主教圣經(jīng)里有一天最重要的誡律:爾不得制造映象人的意識(shí)的機(jī)器
為什么?因?yàn)樵谶b遠(yuǎn)的過(guò)去(對(duì)于21世紀(jì),算是遙遠(yuǎn)的未來(lái)),人類(lèi)曾經(jīng)是超級(jí)智能的階下囚。巴特蘭圣戰(zhàn)中,人類(lèi)反抗并擊敗了Omnius,一臺(tái)幾乎全知全能、擁有無(wú)數(shù)分身的機(jī)器。一朝被蛇咬,十年怕井繩,才有了這樣一條誡律。
這類(lèi)主題的科幻作品數(shù)不勝數(shù),如果不是AI統(tǒng)治世界,就是機(jī)器人。美國(guó)軍事科幻電視劇《星際大爭(zhēng)霸》中,人類(lèi)創(chuàng)造的機(jī)器人種族賽隆人,后來(lái)反叛并試圖毀滅人類(lèi)。最近描繪人類(lèi)和機(jī)器人之間糾葛的的影視作品也不少,比如《西部世界》和《銀翼殺手》。
噩夢(mèng)是否會(huì)成真?
我覺(jué)得,目前的AI想要這樣一手遮天,把人類(lèi)當(dāng)奴隸和螻蟻,能力水平還有點(diǎn)欠缺。
要完成殺戮和囚禁這樣的任務(wù),光是AI和機(jī)器學(xué)習(xí)方面的進(jìn)步還遠(yuǎn)遠(yuǎn)不夠,還需要其他計(jì)算軟件和硬件領(lǐng)域都齊頭并進(jìn)。
另一方面,上述的領(lǐng)域確實(shí)也在快速進(jìn)步,比如我們常聽(tīng)到的區(qū)塊鏈、點(diǎn)對(duì)點(diǎn)技術(shù)、物聯(lián)網(wǎng)、機(jī)器人和無(wú)人機(jī)。雖說(shuō)AI統(tǒng)治世界道阻且長(zhǎng),但這些領(lǐng)域的迅猛發(fā)展,可以讓噩夢(mèng)成真的速度大大加快。
我們的世界需要具備什么樣的條件,才會(huì)進(jìn)入科幻作品中噩夢(mèng)般的未來(lái)呢?這條危險(xiǎn)又黑暗的道路,得經(jīng)過(guò)幾個(gè)里程碑。
殺手AI的關(guān)卡
AI想要統(tǒng)治世界,得通過(guò)幾個(gè)關(guān)卡。如果技術(shù)進(jìn)步到了一定程度,這些關(guān)都過(guò)了,我們就真的應(yīng)該像霍金或者馬斯克一樣擔(dān)心了。
以下我列出的并非所有的關(guān)卡,技術(shù)發(fā)展過(guò)程中可能還要面對(duì)其他難關(guān),但是以下是AI強(qiáng)大路上必須攻克的問(wèn)題。
以下列出的四個(gè)關(guān)卡沒(méi)有先后次序。為了讓讀者能將這些問(wèn)題具象化,我決定繼續(xù)援引電影的例子,并與現(xiàn)有的軟件和硬件相比較。
第一關(guān):AI和機(jī)器學(xué)習(xí)的應(yīng)用不夠廣泛。
目前大多數(shù)AI能實(shí)現(xiàn)的任務(wù)很單一,很具體。我們的很多活動(dòng)都有AI可以做:打游戲、開(kāi)車(chē)、預(yù)測(cè)股市走勢(shì)、交流、分析影像、做診斷,但是沒(méi)有哪個(gè)AI可以同時(shí)完成多項(xiàng)任務(wù)。AI的發(fā)展有好幾個(gè)浪潮:現(xiàn)在的AI是第二波,數(shù)據(jù)驅(qū)動(dòng)機(jī)器學(xué)習(xí)的人工智能,而第一波更傾向于啟發(fā)式(指依據(jù)有限的知識(shí)和不完整的信息,在短時(shí)間內(nèi)找到問(wèn)題解決方案),未來(lái)的AI會(huì)結(jié)合以上兩種方法和其他方法,變得更通用,應(yīng)用更廣泛。這個(gè)關(guān)卡會(huì)引發(fā)廣泛的討論:我們目前的AI和機(jī)器學(xué)習(xí)能走多遠(yuǎn),現(xiàn)有的AI功能會(huì)廣泛到什么程度。
第二關(guān):AI控制物理世界的難易程度。
我們目前的人工只能還只是服務(wù)器上運(yùn)行的軟件,不意味著它能意識(shí)到物理世界的存在,也接觸不到武器,它不能控制機(jī)器人或者無(wú)人車(chē),也不像《終結(jié)者》中的H-K機(jī)器人(天網(wǎng)的機(jī)器人士兵)。這個(gè)關(guān)卡會(huì)讓我們聯(lián)想到物聯(lián)網(wǎng),機(jī)器視覺(jué)和AI控制物理世界方面的問(wèn)題。
第三關(guān):關(guān)不掉的AI。
某種程度上,這個(gè)關(guān)卡是我列出的4個(gè)中最重要的。只要人類(lèi)沒(méi)有走到關(guān)不掉AI的地步,就算AI不聽(tīng)話,開(kāi)始謀反,我們手上好歹有個(gè)“開(kāi)關(guān)”,不管是真的按下按鈕關(guān)掉,還是需要?dú)У粲行蔚奈⑻幚砥骰蛘咛摂M機(jī)軟件。這個(gè)關(guān)卡引發(fā)的討論主要在于:目前的AI都依附于某種形式的計(jì)算機(jī)技術(shù),那區(qū)塊鏈和點(diǎn)對(duì)點(diǎn)系統(tǒng)會(huì)不會(huì)就是某個(gè)關(guān)不掉的“天網(wǎng)”的前身?
第四關(guān):具有自我意識(shí)、將保全自身視為首要任務(wù)的AI
這個(gè)關(guān)卡有點(diǎn)難定義。我們需要問(wèn)自己幾個(gè)問(wèn)題:什么叫“有自我意識(shí)”?什么叫“將保全自身視為首要任務(wù)”?AI還有那些任務(wù)和“觀念”?AI不一定會(huì)有生存的意愿。這個(gè)關(guān)卡更多討論的是AI和價(jià)值觀。
讓我們仔細(xì)探討一下以上提到的關(guān)卡。
第一關(guān):功能從具體到通用——AI發(fā)展的浪潮
我很確定,目前這一波基于機(jī)器學(xué)習(xí)的AI,比起第一波基于啟發(fā)和規(guī)則的AI,確實(shí)是很大的進(jìn)步,但是還不足以帶我們走向黑暗未來(lái)。
我在MIT讀計(jì)算機(jī)系的時(shí)候,有人告訴我AI方面的研究,一開(kāi)始的目標(biāo)是找到與人類(lèi)思維相仿的“規(guī)則”和“符號(hào)表征”。但是人類(lèi)能識(shí)別規(guī)則以外的模式,但計(jì)算機(jī)做不到,所以這個(gè)目標(biāo)很難達(dá)到。后來(lái)出現(xiàn)了模糊邏輯的概念,其中的規(guī)則變得不那么“非黑即白”。在八十年代,日本的科學(xué)家甚至預(yù)測(cè),十年內(nèi),AI就能和人腦一樣執(zhí)行多種任務(wù)了。
然而,三十年過(guò)去了,我們才剛看見(jiàn)一點(diǎn)進(jìn)步。現(xiàn)有的AI和機(jī)器學(xué)習(xí)的爆炸式發(fā)展,功勞比較大的是數(shù)據(jù),而非規(guī)則。它們依靠的是神經(jīng)網(wǎng)絡(luò)。神經(jīng)網(wǎng)絡(luò)是 一種模仿人腦神經(jīng)網(wǎng)絡(luò)行為的邏輯系統(tǒng)。這類(lèi)AI的前提不是規(guī)則,而是通過(guò)數(shù)據(jù)訓(xùn)練,執(zhí)行某一項(xiàng)具體的任務(wù)。有了數(shù)據(jù),模型可以改變神經(jīng)網(wǎng)絡(luò)中某些連接的權(quán)重。虛擬神經(jīng)元的層數(shù)越多,數(shù)據(jù)組越大,模型產(chǎn)生的結(jié)果就越精準(zhǔn)。
這類(lèi)型機(jī)器學(xué)習(xí)對(duì)于圖像識(shí)別很有效果,能識(shí)別手寫(xiě)體、某些具體物品的圖片等。有些計(jì)算機(jī)也通過(guò)機(jī)器學(xué)習(xí),下棋能贏過(guò)棋王。
雖然我們一般認(rèn)為反向傳播神經(jīng)網(wǎng)絡(luò)算法很通用,但是目前的大多數(shù)AI還是只能執(zhí)行特定的具體任務(wù)。
無(wú)人車(chē)依靠的是巨量的來(lái)自真實(shí)世界的數(shù)據(jù)集,并結(jié)合受訓(xùn)是使用的數(shù)據(jù)和駕駛規(guī)則。但是谷歌在測(cè)試無(wú)人車(chē)的時(shí)候,發(fā)現(xiàn)這樣的操作有個(gè)大漏洞:無(wú)人車(chē)確實(shí)遵守規(guī)則了,但是周?chē)?chē)上的司機(jī)不守規(guī)則!比方說(shuō),很少有司機(jī)看到“停”的指示牌,就完全停下來(lái),于是無(wú)人車(chē)就等司機(jī)完全停下。
科幻作品中的大多數(shù)AI都已經(jīng)過(guò)了這一關(guān)。而目前現(xiàn)實(shí)中的AI還沒(méi)有克服這個(gè)問(wèn)題。一個(gè)通用型AI,應(yīng)該能通過(guò)圖靈測(cè)試。
通用型AI不僅能在任何應(yīng)用中有作用,甚至能自主學(xué)習(xí),了解到訓(xùn)練數(shù)據(jù)之外的新信息,并且無(wú)需人類(lèi)的監(jiān)控。
《星際迷航:下一代》中的機(jī)器人Data就是個(gè)典型的通用型AI, 擁有正電子大腦。而AI本身并不都是會(huì)主動(dòng)學(xué)習(xí),不斷進(jìn)化的。
什么時(shí)候能打通第一關(guān)呢?這個(gè)問(wèn)題我也沒(méi)有答案,但是我們可以料想,通用型AI應(yīng)該是在多項(xiàng)任務(wù)上都受過(guò)訓(xùn)練,然后在某些具體任務(wù)上受訓(xùn)。或許就在未來(lái)幾年,人類(lèi)會(huì)有小的突破。但是要有Data這樣的通用型AI,估計(jì)還要有幾十年。我們或許需要第三波超越簡(jiǎn)單規(guī)則和簡(jiǎn)單數(shù)據(jù)集的AI。
第二關(guān) AI能輕易地操控物理世界
《X檔案》第十一季第六集有這么個(gè)場(chǎng)景:劇中的世界與現(xiàn)實(shí)的技術(shù)水平相差無(wú)幾,但是里面的AI卻展現(xiàn)出將自己與物理時(shí)間聯(lián)系起來(lái)的可能。
劇中,史考莉和穆德被AI追蹤,而這個(gè)AI能控制他們身邊環(huán)境中的一切,包括無(wú)人車(chē)、冰箱、亞馬遜的無(wú)人送貨飛機(jī),還有餐廳的機(jī)器人廚師。
目前,即使是已經(jīng)與硬件一體化的AI,比如無(wú)人車(chē),對(duì)于物理世界的存在,意識(shí)還是有限的,他們能根據(jù)自己意識(shí)的范圍來(lái)下命令。這個(gè)領(lǐng)域的進(jìn)步離不開(kāi)機(jī)器視覺(jué)的發(fā)展,依靠的是相機(jī)和影像,以及對(duì)影像的解讀(街道標(biāo)識(shí)、衣服、房屋以及人)。
這個(gè)關(guān)卡,AI需要接觸物理世界,讓人自然聯(lián)想到有形體的機(jī)器人,但是終結(jié)者、復(fù)制人和西部世界中的機(jī)器人,離我們還很遠(yuǎn)。
現(xiàn)在,很多有形體的機(jī)器人,功能都很單一,只能實(shí)現(xiàn)特定的任務(wù)。在現(xiàn)代汽車(chē)制造廠中我們能看到很多這樣的機(jī)器人,做的是把汽車(chē)抬起、移動(dòng)、放下之類(lèi)的動(dòng)作。這類(lèi)機(jī)器人對(duì)周?chē)h(huán)境的感知是有限的,僅限于完成既定任務(wù)。
能與物理世界交流的機(jī)器人不一定要“人模人樣”,波士頓動(dòng)力公司(Boston Dynamics)
就出過(guò)一些造型奇異的機(jī)器人,看上去更像動(dòng)物,移動(dòng)速度極快。波士頓動(dòng)力公司曾被谷歌收購(gòu),現(xiàn)在歸日本軟銀集團(tuán)所有。
波士頓動(dòng)力公司的四足機(jī)器人“大狗”移動(dòng)速度很快
自動(dòng)無(wú)人機(jī)或許是目前對(duì)環(huán)境“感知”最強(qiáng)的AI。在終結(jié)者世界中,天網(wǎng)負(fù)責(zé)指揮美國(guó)所有軍事行動(dòng),因?yàn)樗宫F(xiàn)出了人類(lèi)飛行員無(wú)法企及的效率。
現(xiàn)在的軍用無(wú)人機(jī)是遠(yuǎn)程操控的,操控人員可能在地球的另一頭。對(duì)于無(wú)人機(jī)操作員而言,這個(gè)過(guò)程跟玩電子游戲差不多。而我也已經(jīng)提到,AI在玩游戲方面已經(jīng)比人玩得溜了。而AI和無(wú)人機(jī)操作這兩個(gè)領(lǐng)域的結(jié)合遲早有一天會(huì)融合。在未來(lái),我們會(huì)有可以定位并且武裝的AI,可以自主行動(dòng),無(wú)需人類(lèi)干預(yù)。
我們什么時(shí)候能克服第二關(guān)呢?一年又一年,我們離這個(gè)目標(biāo)越來(lái)越近。我的猜測(cè)是,再過(guò)幾年,最多十年,我們就會(huì)看到能通過(guò)機(jī)器視覺(jué)、機(jī)器學(xué)習(xí),與物理世界產(chǎn)生聯(lián)系的AI,它們經(jīng)過(guò)訓(xùn)練,能夠識(shí)別物理世界中的事物,并做決策。
AI什么時(shí)候會(huì)有獲得武器的權(quán)限呢?普京已經(jīng)公開(kāi)說(shuō),擁有最強(qiáng)大AI的國(guó)家,就能統(tǒng)治世界。所以,估計(jì)不用等幾十年,幾年后,AI就能得到該權(quán)限了。
第三關(guān) 沒(méi)有開(kāi)關(guān)的AI
隨著物聯(lián)網(wǎng)和區(qū)塊鏈的出現(xiàn),要過(guò)這一關(guān),難度有所增加。星際迷航:下一代中的機(jī)器人Data后腦勺上是有開(kāi)關(guān)的。而且,Data允許皮卡爾上校和進(jìn)取號(hào)上的船員在必要時(shí),把它關(guān)掉。
在《終結(jié)者3》中,天網(wǎng)不在任何服務(wù)器上,也無(wú)法被關(guān)掉。
我再舉一個(gè)科幻作品的例子,《終結(jié)者3:機(jī)器崛起》中,主角約翰康納和終結(jié)者闖進(jìn)了位于中國(guó)湖的控制中心,約翰希望能毀掉服務(wù)器。
他們進(jìn)到控制中心之后,約翰意識(shí)到,僅僅摧毀服務(wù)器,是無(wú)法殺死天網(wǎng)的。
“天網(wǎng)出現(xiàn)自我意識(shí)之后,就把自己“擴(kuò)散”到全球各地的幾百萬(wàn)個(gè)服務(wù)器里。寫(xiě)字樓里的普通計(jì)算機(jī),宿舍,到處都是天網(wǎng)的影子。天網(wǎng)成了網(wǎng)絡(luò)世界的軟件,沒(méi)有系統(tǒng)核心,關(guān)不掉的。”
-約翰康納, 終結(jié)者3
這才是天網(wǎng)讓人膽戰(zhàn)心驚之處——它已經(jīng)成為了能在任何設(shè)備上運(yùn)行、復(fù)制并傳遍世界的軟件,沒(méi)那么容易,按下開(kāi)關(guān)就消失。
隨著物聯(lián)網(wǎng)的發(fā)展,越來(lái)越多帶處理器、能夠運(yùn)行軟件的設(shè)備加入進(jìn)來(lái)。在HBO劇集硅谷奇?zhèn)b傳第四季的末尾,團(tuán)隊(duì)需要保存一些數(shù)據(jù),本來(lái)這些數(shù)據(jù)是儲(chǔ)存在地下室的服務(wù)器上,但是地下室出了問(wèn)題,于是他們的AI決定將數(shù)據(jù)發(fā)送到3萬(wàn)臺(tái)智能冰箱里,這些冰箱都連了網(wǎng),可以保存數(shù)據(jù)。
聽(tīng)起來(lái)很巧妙,觀眾很容易聯(lián)想到,設(shè)備有了處理能力,能夠儲(chǔ)存數(shù)據(jù),而世界各地的設(shè)備千千萬(wàn)萬(wàn),手機(jī)、冰箱和其他設(shè)備之間也能夠相互傳輸數(shù)據(jù)。
電腦病毒程序,它們被設(shè)計(jì)出來(lái),目的就是復(fù)制和傳播自己。電腦病毒本身也是連著硬件的。如果病毒和電腦程序與具體的硬件綁定在一起,我們就能通過(guò)摧毀硬件來(lái)毀滅軟件。通常,電腦病毒是用C語(yǔ)言寫(xiě)的,然后后在操作系統(tǒng)和硬件上編譯。
如果我們真的寫(xiě)出了像天網(wǎng)這樣的程序,要有同等的破壞力,這個(gè)程序必須在全球多個(gè)設(shè)備上都能運(yùn)行,不是簡(jiǎn)單的關(guān)閉某個(gè)操作系統(tǒng)就能一了百了。
然后,區(qū)塊鏈出現(xiàn)了。區(qū)塊鏈的構(gòu)建信任的基礎(chǔ),就是通過(guò)世界各地多個(gè)去中心化、點(diǎn)對(duì)點(diǎn)的計(jì)算機(jī),復(fù)制同一個(gè)數(shù)據(jù)集和代碼。
比特幣的背后就是這樣的技術(shù):核心代碼是C語(yǔ)言寫(xiě)的,可以在不同的操作系統(tǒng)上編譯。只不過(guò)這些代碼的功能很具體,只是將比特幣從一個(gè)地址發(fā)送到另一個(gè)地址。
而Vitalik Buterian之所以離開(kāi)比特幣開(kāi)發(fā)團(tuán)隊(duì),成立以太坊,就是因?yàn)樗X(jué)得比特幣平臺(tái)應(yīng)該有更完善的程式語(yǔ)言,能夠在成百上千,甚至幾百萬(wàn)臺(tái)計(jì)算機(jī)上運(yùn)行,創(chuàng)造一個(gè)虛擬主機(jī)(VM),一臺(tái)“世界計(jì)算機(jī)”。在上世紀(jì)90年代,這個(gè)想法就有了,當(dāng)時(shí)的人們想的是用Java作為通用語(yǔ),作為作為虛擬主機(jī),可以在任何設(shè)備上運(yùn)行。而現(xiàn)在,其他智能合約語(yǔ)言和項(xiàng)目紛紛出現(xiàn),目的都是打破以太坊的局限。
目前,以太坊虛擬主機(jī)沒(méi)有突破虛擬世界的權(quán)限。但隨著新的跨區(qū)塊鏈、知曉互聯(lián)網(wǎng)存在的編程語(yǔ)言發(fā)揮越來(lái)越大的作用,這個(gè)領(lǐng)域就會(huì)出現(xiàn)越來(lái)越多的創(chuàng)新。也許未來(lái)會(huì)出現(xiàn)一個(gè)虛擬主機(jī),能在世界各地任何計(jì)算機(jī)和設(shè)備上運(yùn)行,不管它們裝的是什么處理器。(某種程度上,這已經(jīng)成為現(xiàn)實(shí),但是物聯(lián)網(wǎng)和手機(jī)配件方面仍有待提高。)
很多極客在看終結(jié)者系列電影時(shí),都有一個(gè)疑問(wèn),“天網(wǎng)的編程語(yǔ)言是什么?” 我覺(jué)得應(yīng)該是某種具有圖靈完備性的語(yǔ)言(具有無(wú)限存儲(chǔ)能力的通用物理機(jī)器或編程語(yǔ)言),能夠在世界各處的設(shè)備上自動(dòng)運(yùn)行,同時(shí),還能自我復(fù)制,復(fù)制出的每個(gè)版本都會(huì)走向同一個(gè)結(jié)論:毀滅全人類(lèi)!
要想“殺死”這樣一個(gè)程序網(wǎng)絡(luò),唯一的辦法就是將運(yùn)行這個(gè)程序的所有設(shè)備都?xì)У簟5侨绻@個(gè)程序能在智能設(shè)備上自我復(fù)制,在智能冰箱、汽車(chē)等設(shè)備上運(yùn)行,那“殺手AI”復(fù)制的速度,可能遠(yuǎn)遠(yuǎn)快過(guò)我們損毀這些設(shè)備的速度,這樣,天網(wǎng)就有可趁之機(jī)了。
第四關(guān):具有自我意識(shí)、并以自身生存為首要目的的AI
這一關(guān)可能是最難闖的一關(guān),難就難在不好定義上。這個(gè)問(wèn)題有兩個(gè)部分。
就以電影《2001:太空史詩(shī)》這部電影為例,其中的計(jì)算機(jī)HAL 9000就出現(xiàn)違背命令的行為,當(dāng)主人公Dave Bowman下關(guān)閉命令時(shí),Hal就開(kāi)始”叛變“,說(shuō)出了有名的臺(tái)詞:”抱歉,Dave,命令無(wú)法執(zhí)行。”
Hal不僅知道自己和Dave或者船體的一部分是獨(dú)立的,它也將保全自身作為自己的首要目標(biāo),而不是保護(hù)艙內(nèi)的人。我們分開(kāi)看看這兩個(gè)問(wèn)題。
自我意識(shí)。圖靈是現(xiàn)代計(jì)算機(jī)的先驅(qū),他對(duì)圖靈測(cè)試的定義是:如果人類(lèi)不能判斷跟自己交流的是不是一臺(tái)機(jī)器(或程序),就算通過(guò)圖靈測(cè)試。如果人類(lèi)和某臺(tái)機(jī)器交流(通過(guò)鍵盤(pán)或其他方式),無(wú)法判斷對(duì)方是機(jī)器還是人類(lèi),那么其中的AI就算通過(guò)了圖靈測(cè)試。但是,定義本身沒(méi)有明說(shuō)什么叫“無(wú)法判斷”,也沒(méi)有描述無(wú)法判斷的情況。
那自我意識(shí)到底是什么呢?這個(gè)問(wèn)題很難定義。我覺(jué)得,測(cè)試AI或者某個(gè)電腦程序有沒(méi)有自我意識(shí),看的是它們能不能將自己視做獨(dú)立于計(jì)算機(jī)里其他軟件、硬件和物理世界的個(gè)體。
對(duì)于AI而言,沒(méi)有其他關(guān)于自我意識(shí)的測(cè)試了,但是或許我們應(yīng)該設(shè)立更多此類(lèi)的測(cè)試,清晰地定義AI有什么樣的表現(xiàn),人類(lèi)有什么樣的回應(yīng),什么樣的互動(dòng)過(guò)程能說(shuō)明某個(gè)AI具有自我意識(shí)?;蛟S我們能給這個(gè)測(cè)試取個(gè)名字,比如Hal9000測(cè)試或者天網(wǎng)測(cè)試。
要真正過(guò)這一關(guān),我們需要突破表面層次的自我意識(shí)。大多數(shù)計(jì)算機(jī)某種程度上都知道自己和其他計(jì)算機(jī)之間是獨(dú)立的。但是,這個(gè)“獨(dú)立意識(shí)”僅僅是建立在不同的IP地址,或者不同操作系統(tǒng)上的區(qū)別。
我記得自己第一次思考自我意識(shí)問(wèn),那還是在我在MIT參加編程競(jìng)賽的時(shí)候。選手們都要寫(xiě)程序,這些程序之間將在同一臺(tái)設(shè)備決斗,最后剩下的程序就是贏家。
當(dāng)時(shí)我想的是找出一個(gè)用最少代碼贏得競(jìng)賽的辦法,一天大半夜里,我靈光一閃,想道“假如我的程序能改寫(xiě)自己和其他程序,這樣只需兩步,它就能贏得決斗。所以,我的程序要能意識(shí)到自己是個(gè)程序(自己的代碼是什么),能夠改寫(xiě)自己,然后改寫(xiě)對(duì)方程序的指令(使其無(wú)法繼續(xù))。
這樣的”自我意識(shí)“當(dāng)然是很有限的。要說(shuō)有真正的自我意識(shí),一個(gè)機(jī)器人或計(jì)算機(jī)至少要比較接近Hal,有“身份”感。
那超級(jí)智能呢?這難道不算一關(guān)?
牛津大學(xué)的教授Nick Bostrom是在人工智能方面進(jìn)行學(xué)術(shù)研究的先驅(qū)。他從好幾個(gè)方面探討了機(jī)器人如何能比人類(lèi)更聰明以及其影響。在流行科學(xué)中,我們常聽(tīng)到“奇點(diǎn)”這個(gè)術(shù)語(yǔ),指的就是計(jì)算機(jī)智能超過(guò)人類(lèi)的時(shí)刻(最早由 科幻作家Vernor Vinge提出)。
我覺(jué)得這可能是危險(xiǎn)的未來(lái)更顯黑暗,因?yàn)檫@可能是殺手AI統(tǒng)治世界的一個(gè)節(jié)點(diǎn)。雖說(shuō)進(jìn)階的AI更善于保護(hù)自己,它應(yīng)該也會(huì)意識(shí)到毀滅人類(lèi)對(duì)于自己沒(méi)有好處,因?yàn)橛?jì)算機(jī)網(wǎng)絡(luò)畢竟還是要有人維護(hù)的。
一個(gè)武術(shù)教練曾告訴我,如果你要和一個(gè)黑帶的選手對(duì)打,寧可和四段的黑帶對(duì)打,也不要跟剛拿到黑帶的人對(duì)打。當(dāng)時(shí)我很疑惑嗎,兩者不是都能傷人嗎?
沒(méi)錯(cuò),段位更高的對(duì)手比較能控制自己,不小心下手太重的可能性會(huì)比較小。而剛拿到黑帶的對(duì)手,破壞力不小,但不一定有同等的控制力和經(jīng)驗(yàn),會(huì)不會(huì)在對(duì)打過(guò)程中不小心傷人,還說(shuō)不準(zhǔn)。
如果一個(gè)AI“經(jīng)驗(yàn)”不足,但意識(shí)到要保全自身,那它可能會(huì)因此得出要?dú)缛祟?lèi)的結(jié)論。也有可能由于某個(gè)AI的用途問(wèn)題, 比方說(shuō)操縱無(wú)人機(jī)襲擊的AI,“保全自身”就是這個(gè)AI的“人設(shè)”,是寫(xiě)進(jìn)程序“基因”里的。這類(lèi)AI或許只知道如何應(yīng)對(duì)武器威脅,對(duì)于其他物體就不夠智能化。
開(kāi)啟第四關(guān):AI的價(jià)值觀
AI有自我保全的觀念嗎?如果有的話,這樣的觀念是如何寫(xiě)進(jìn)其程序中的呢?
阿西莫夫曾提出機(jī)器人三大定律:
第一、機(jī)器人不得傷害人類(lèi),或看到人類(lèi)受到傷害而袖手旁觀;
第二、在不違反第一定律的前提下,機(jī)器人必須絕對(duì)服從人類(lèi)給與的任何命令;
第三、在不違反第一定律和第二定律的前提下,機(jī)器人必須盡力保護(hù)自己。
在阿西莫夫的作品中,這些法則就是機(jī)器人操作系統(tǒng)的基礎(chǔ)。
那我們?nèi)绾螌?shí)現(xiàn)這3個(gè)定律呢?目前的AI不僅是受到代碼的限制,而是經(jīng)過(guò)數(shù)據(jù)集的訓(xùn)練。如果想讓AI覺(jué)得人類(lèi)值得保護(hù),就得用有這方面特點(diǎn)的數(shù)據(jù)來(lái)訓(xùn)練它們,讓它們得出這樣的結(jié)論。
但是訓(xùn)練數(shù)據(jù)可能是有缺陷的。我最近和一家AI初創(chuàng)公司聊了一下,他們用的訓(xùn)練數(shù)據(jù)是放射和其他X射線影像。他們提到,訓(xùn)練數(shù)據(jù)中,提供給機(jī)器學(xué)習(xí)AI的數(shù)據(jù)集中,高達(dá)10%的數(shù)據(jù)是有缺陷的。如果訓(xùn)練數(shù)據(jù)集有缺陷,又怎么能確定這樣訓(xùn)練出來(lái)的AI,給出的結(jié)果沒(méi)有缺陷呢?
我們什么時(shí)候能過(guò)第四關(guān)?在人類(lèi)設(shè)立自我意識(shí)測(cè)試之前,我無(wú)法給出確定的答案。但是有些AI已經(jīng)寫(xiě)入這樣的命令“如果看見(jiàn)人,就是用某種武器”。所以,可能幾十年內(nèi),我們就能通過(guò)這個(gè)關(guān)卡。
結(jié)論
確定AI的“價(jià)值觀”可不是件易事。而且,在某種程度上,第四關(guān)是最讓人頭疼的。如果某個(gè)AI過(guò)了這一關(guān),覺(jué)得保全自身是最重要的,那我們不擔(dān)心也不行了。
另一方面,如果只是一個(gè)機(jī)器人有這樣的想法,毀掉它很簡(jiǎn)單,要么關(guān)掉,要么物理?yè)p毀。而如果我們面對(duì)是像區(qū)塊鏈這樣點(diǎn)對(duì)點(diǎn)計(jì)算、可自我復(fù)制、并在多個(gè)設(shè)備商可以運(yùn)行的代碼,要?dú)缢蜁?huì)難得多。
本文中提出的想法,可能聽(tīng)起來(lái)不現(xiàn)實(shí),要發(fā)生也只會(huì)在未來(lái),雖然現(xiàn)在的AI不像終結(jié)者中的天網(wǎng)那樣,有權(quán)限接觸武器,但是未來(lái)我們可能會(huì)往同樣的方向發(fā)展。
問(wèn)題的關(guān)鍵,不在于前文中提及的某個(gè)關(guān)卡被突破,而是說(shuō),萬(wàn)一這些關(guān)卡某天都被突破,同時(shí)有人夠聰明,把它們結(jié)合起來(lái)。如果我們通過(guò)了前三關(guān),那AI出現(xiàn)價(jià)值觀也是遲早的問(wèn)題。這就會(huì)加速第四關(guān)被突破的速度,某個(gè)AI就有可能覺(jué)得保全自己比保全人類(lèi)更重要。
那時(shí),我們不害怕都不行了。