雖然有關(guān)殺手機(jī)器人的炒作從未停止過，但2017年人工智能領(lǐng)域（AI）的確取得了許多顯著進(jìn)步。例如，名為“Libratus”的機(jī)器人在撲克游戲中大殺四方。而在現(xiàn)實世界中，機(jī)器學(xué)習(xí)正被用于改善農(nóng)業(yè)和醫(yī)療行業(yè)。但是，你最近同蘋果智能助理Siri或者亞馬遜的人工智能助理Alexa聊過嗎?然后你就會知道，盡管有許多關(guān)于AI的大肆宣傳，億萬富翁們對此感到十分擔(dān)憂，但有很多東西仍然是AI無法做到或能理解的。這里有五個比較棘手的問題，專家們將在明年重點(diǎn)關(guān)注它們。

1.人類話語意義

與以往任何時候相比，機(jī)器現(xiàn)在似乎可以更好地使用文本和語言。Facebook的AI可以為視障人士閱讀圖片上的描述，谷歌的AI可為回復(fù)郵件提供簡短建議。然而，軟件仍然不能真正理解我們話語中的意義，以及我們與之分享的想法。波特蘭州立大學(xué)的梅勒妮·米切爾教授（Melanie Mitchell）說:“我們能夠以不同的方式運(yùn)用將所學(xué)到的概念，并將它們應(yīng)用到新的環(huán)境中。而這些AI和機(jī)器學(xué)習(xí)系統(tǒng)還沒有這樣的能力。”

米切爾認(rèn)為，今天的軟件存在數(shù)學(xué)家吉安-卡洛·羅塔(Gian-Carlo Rota）所謂的“意義障礙”。許多領(lǐng)先的AI研究團(tuán)隊正試圖弄清楚如何克服它。其中一項工作的目的是賦予機(jī)器以常識和物質(zhì)世界的基礎(chǔ)，這些基礎(chǔ)同樣支撐著我們的思維。例如，F(xiàn)acebook的研究人員正試圖通過觀看視頻來教軟件理解現(xiàn)實。其他團(tuán)隊正在努力模仿我們對這個世界的認(rèn)識。谷歌一直在研究試圖學(xué)會理解隱喻的軟件。米切爾已經(jīng)嘗試了一些系統(tǒng)，用類比和關(guān)于世界的概念來解釋照片中發(fā)生的事情。

2.現(xiàn)實差距阻礙了機(jī)器人革命

機(jī)器人硬件已經(jīng)準(zhǔn)備就緒，你可以花500美元買到裝有高清攝像頭、手掌大小的無人機(jī)。那些拖著箱子、使用兩條腿行走的機(jī)器也有了很大改進(jìn)。那么，為什么我們還沒有被熙熙攘攘的機(jī)械幫手所包圍?今天的機(jī)器人缺乏與其復(fù)雜肌肉相匹配的大腦。

讓機(jī)器人從事需要特定編程來完成的特定任務(wù)時，它們可以通過反復(fù)試驗(和錯誤)來學(xué)習(xí)諸如抓取物體之類的操作，但這個過程相對較慢。一個很有希望的捷徑是讓機(jī)器人在虛擬的模擬世界中訓(xùn)練，然后把那些來之不易的知識下載到物理機(jī)器人的身體里。然而，這種方法卻被“現(xiàn)實差距”一詞所困擾，這個短語描述了機(jī)器人在模擬過程中學(xué)習(xí)到了技能，但在被移植到物理世界的機(jī)器上時卻并非總是有效。

“現(xiàn)實差距”正在縮小，今年10月份，谷歌在實驗中報告了十分樂觀的結(jié)果，模擬和真正的機(jī)器人手臂學(xué)會了挑選不同的物體，包括膠帶、玩具以及梳子。然而，對于那些研究無人駕駛汽車的人來說，還需要更大的進(jìn)步。為了減少在真實交通和道路條件下測試的時間和資金，在模擬街道上駕駛虛擬汽車的公司競相在模擬街道上部署虛擬汽車。

無人駕駛汽車初創(chuàng)企業(yè)Aurora的首席執(zhí)行官克里斯·厄姆森（Chris Urmson）表示，讓虛擬測試更適用于真正的汽車是他的團(tuán)隊的首要任務(wù)之一。厄姆森之前負(fù)責(zé)領(lǐng)導(dǎo)谷歌母公司Alphabet旗下的無人駕駛汽車項目，他說:“明年我們將會很清楚地看到，我們?nèi)绾卫眠@一優(yōu)勢加速學(xué)習(xí)。”

3.防范AI黑客

運(yùn)行我們的電網(wǎng)、安全攝像頭以及手機(jī)的軟件總是被安全漏洞所困擾，我們不應(yīng)該指望無人駕駛汽車和家用機(jī)器人的軟件會有什么不同。事實可能更糟糕：有證據(jù)表明，機(jī)器學(xué)習(xí)軟件的復(fù)雜性為黑客引入了新的攻擊途徑。研究人員今年發(fā)現(xiàn)，你可以在機(jī)器學(xué)習(xí)系統(tǒng)中隱藏一個秘密的觸發(fā)點(diǎn)，使其在特定信號觸發(fā)的情況下進(jìn)入邪惡模式。紐約大學(xué)的研究小組設(shè)計了一個街頭標(biāo)志識別系統(tǒng)，它的功能十分正常，除了在看到黃色便利貼的情況下。在布魯克林一個停車標(biāo)志上貼上黃色便簽，該系統(tǒng)將標(biāo)牌報告為限速標(biāo)志。這種黑客技術(shù)的潛力可能會給無人駕駛汽車帶來許多麻煩。

這個威脅被認(rèn)為是非常嚴(yán)重的，世界上最著名的機(jī)器學(xué)習(xí)研究者們在本月初召開了為期一天的關(guān)于機(jī)器欺騙威脅的研討會。研究人員討論了諸如如何生成看起來與人類正常手寫數(shù)字一樣的復(fù)雜技巧，但似乎又與軟件不同。以2為例，機(jī)器視覺系統(tǒng)可能將其看作是3。研究人員還討論了防御這種攻擊的可能性，并擔(dān)心AI可能被用來愚弄人類。

組織這次研討會的蒂姆·黃(Tim Hwang)預(yù)測，隨著機(jī)器學(xué)習(xí)變得更容易部署和日益強(qiáng)大，使用這種技術(shù)來操縱人們是不可避免的。蒂姆指出：“你不再需要一屋子的博士來研究機(jī)器學(xué)習(xí)技術(shù)。”他還稱，在2016年美國總統(tǒng)選舉期間，俄羅斯的“反信息”運(yùn)動就是一場AI增強(qiáng)信息戰(zhàn)的潛在先行者。蒂姆預(yù)測，最有效的方法就是使用機(jī)器學(xué)習(xí)來生成假視頻和音頻。

4.玩轉(zhuǎn)棋牌游戲

在2017年，Alphabet旗下的圍棋軟件AlphaGo得到迅速發(fā)展。今年5月份，更強(qiáng)大的軟件版本擊敗了中國冠軍。它的創(chuàng)造者、研究單位DeepMind后來又開發(fā)出一個版本AlphaGo Zero，在不學(xué)習(xí)人類棋路的情況下學(xué)會了這個游戲。今年12月份，另一項升級努力誕生了AlphaZero，它可以學(xué)習(xí)國際象棋和日本棋牌游戲Shogi(雖然不是同時學(xué)習(xí))。

這些引人注目的結(jié)果令人印象深刻，但也提醒了我們AI軟件的局限性。國際象棋、shogi以及圍棋都是復(fù)雜的，但它們都有相對簡單的規(guī)則，并對雙方都可見。對于計算機(jī)來說，這種挑戰(zhàn)恰好與其快速進(jìn)化的能力相匹配。但是，生活中的大多數(shù)情況和問題都不是這么井然有序。

這就是DeepMind和Facebook在2017年開始研發(fā)多人游戲《星際爭霸》（StarCraft）的原因，目前兩家公司都沒有取得太大成就。現(xiàn)在，業(yè)余愛好者制造的最好的聊天機(jī)器人，依然無法匹敵那些技術(shù)精湛的玩家。DeepMind研究人員Oriol Vinyals在今年早些時候告訴《連線》雜志，他的軟件目前缺乏精心組裝和指揮軍隊所需的計劃和記憶能力，同時也無法對對手的移動進(jìn)行預(yù)測和反應(yīng)。無獨(dú)有偶，這些技能也能讓軟件更好地幫助處理現(xiàn)實世界的任務(wù)，比如辦公室工作或?qū)嶋H的軍事行動。在2018年，《星際爭霸》或類似游戲取得重大進(jìn)展可能預(yù)示著更強(qiáng)大AI的新應(yīng)用。

5.教AI辨別是非

即使沒有在上述領(lǐng)域取得新的進(jìn)展，如果現(xiàn)有的AI技術(shù)被廣泛采用，經(jīng)濟(jì)和社會的許多方面也會發(fā)生巨大的變化。隨著公司和政府急于部署AI，許多人擔(dān)心AI和機(jī)器學(xué)習(xí)會造成意外和故意傷害。如何在安全和符合道德規(guī)范的范圍內(nèi)對技術(shù)保持控制，是本月NIPS機(jī)器學(xué)習(xí)會議上一個重要的討論話題。

研究人員發(fā)現(xiàn)，當(dāng)機(jī)器學(xué)習(xí)系統(tǒng)接收遠(yuǎn)離“完美世界”的數(shù)據(jù)訓(xùn)練時，它們可以接受令人討厭的或不受歡迎的行為，比如永遠(yuǎn)維持性別刻板的印象?，F(xiàn)在，有些人正在研究可以用來審計AI系統(tǒng)內(nèi)部工作的技術(shù)，并確保它們在從事金融或醫(yī)療等行業(yè)工作時做出公平的決策。

明年，科技公司將會提出如何讓AI保持人性正確一面的想法。

谷歌、Facebook、微軟以及其他公司已經(jīng)開始討論這個問題，并且成立了新的非營利組織Partnership on AI，它將研究并試圖塑造AI的社會影響。此外，名為“人工智能倫理與治理基金會”的慈善項目正在支持麻省理工學(xué)院(MIT)、哈佛大學(xué)以及其他研究AI和公共利益的機(jī)構(gòu)?，F(xiàn)在，紐約大學(xué)的一個新研究機(jī)構(gòu)AI Now也有一個類似的任務(wù)。在最近的一份報告中，它呼吁各國政府放棄使用“黑匣子”算法。

（選自：WIRED 編譯：網(wǎng)易見外編譯機(jī)器人 審校：小小 ）