人工智能可能存在的十大問題

責(zé)任編輯:zsheng

2018-09-08 13:56:38

摘自:極客網(wǎng)

近兩年,隨便問個(gè)路人什么最火,答案一定是人工智能(AI)。 甚至有研究者直言:“我做了這么多年模式識(shí)別(圖像、聲音等識(shí)別技術(shù)),都不敢稱自己是做人工智能。而在AlphaGo之后,現(xiàn)在隨便個(gè)和識(shí)別搭邊的都稱自己是搞人工智能了?!?/p>

近兩年,隨便問個(gè)路人什么最火,答案一定是人工智能(AI)。 甚至有研究者直言:“我做了這么多年模式識(shí)別(圖像、聲音等識(shí)別技術(shù)),都不敢稱自己是做人工智能。而在AlphaGo之后,現(xiàn)在隨便個(gè)和識(shí)別搭邊的都稱自己是搞人工智能了。”

“人工智能”其實(shí)緣起1956年達(dá)特茅斯學(xué)院召開的夏季研討會(huì),麥卡錫對(duì)這次研討會(huì)命名為“人工智能夏季研討會(huì)”(Summer Research Project on Artificial Intelligence),此后人工智能迎來了初生的太陽,可以說是傳統(tǒng)人工智能的黃金時(shí)期。

在高潮后的質(zhì)疑聲中,人工智能迎來了多個(gè)寒冬,其中不乏是計(jì)算資源短缺的原因,還有曾成功預(yù)測(cè)線性模型的perception(感知機(jī))無法預(yù)測(cè)異或的邏輯的致命缺陷,另外第二次寒冬出現(xiàn)于1990年政府縮減對(duì)AI計(jì)算機(jī)的投入。

然而在2006年Jeff Hinton 提出“深度學(xué)習(xí)”的神經(jīng)網(wǎng)絡(luò)的方法后,人工智能又進(jìn)入了另一個(gè)春天。如今“人工智能”已經(jīng)普遍走進(jìn)中國(guó)大學(xué)校園,初創(chuàng)企業(yè)甚至手機(jī)鏡頭里。

所有創(chuàng)業(yè)項(xiàng)目都稱與AI相關(guān),人工智能工程師身價(jià)也隨之水漲船高,年薪可50萬起跳。而由學(xué)術(shù)界人士主導(dǎo)的人工智能項(xiàng)目,往往會(huì)將學(xué)術(shù)界“刷論文”的風(fēng)氣帶到公司領(lǐng)域。

在媒體中,我們經(jīng)常能聽到某家AI公司又取得了“突破性”進(jìn)展,其實(shí)這些突破性進(jìn)展往往完全是難以落地的學(xué)術(shù)字眼。

在熱潮下的人會(huì)跟風(fēng)學(xué)習(xí),不禁重新審視對(duì)人工智能的看法,整理出了網(wǎng)上現(xiàn)在傳播最為廣泛的人工智能所存在的十大問題:

1. 我們被圖靈對(duì)智能的定義所束縛了。圖靈有關(guān)智能構(gòu)想很著名,他將智力限制為一種和人類進(jìn)行語言游戲的解決方案。具體來說,圖靈將智能設(shè)定為(1)游戲的解決方案,(1)將人類置于判斷的位置。這個(gè)定義非常具有迷惑性,并很適合人工智能領(lǐng)域。狗,猴子,大象,甚至嚙齒類動(dòng)物都是非常聰明的生物,但它們沒有語言,因此也不可能通過圖靈測(cè)試。

2. 人工智能的核心問題莫拉維克悖論(Moravec's paradox)。莫拉維克悖論的核心論點(diǎn)是,現(xiàn)實(shí)中最簡(jiǎn)單的問題比最復(fù)雜的游戲更難解。我們沉迷于令A(yù)I在游戲中超越人類(以及其他受限且定義明確的話語領(lǐng)域,如數(shù)據(jù)集),將其作為智能的指標(biāo),作為一種與圖靈測(cè)試一致的標(biāo)準(zhǔn)。我們完全忽略這樣一個(gè)事實(shí):對(duì)智能的最終判斷由現(xiàn)實(shí)本身,而不是由一個(gè)人類組成的委員會(huì)作出。

3. 我們的模型甚至可能起作用,但往往是出于錯(cuò)誤的原因。其他文章詳細(xì)闡述過這點(diǎn),深度學(xué)習(xí)就是一個(gè)很好的例子。深度學(xué)習(xí)顯然已經(jīng)解決了物體識(shí)別問題,但是大量研究表明,深度神經(jīng)網(wǎng)絡(luò)能識(shí)別物體的原因與人類能觀察到物體的原因大不相同。對(duì)于用圖靈測(cè)試精神欺騙人類的人來說,這可能并不重要。但對(duì)于關(guān)注人工智能體處理非預(yù)期(域外)現(xiàn)實(shí)的能力的人來說,這是至關(guān)重要的。

4. 現(xiàn)實(shí)不是游戲。智能是一種機(jī)制,它會(huì)進(jìn)化以令智能體能夠解決問題。由于智能是一種輔助我們玩“規(guī)則不斷變化的游戲”的機(jī)制,因此作為一種副作用,它能讓我們玩有一套固定規(guī)則的實(shí)際游戲也就不足為奇了。但反過來就不成立了:構(gòu)建在玩固定規(guī)則游戲時(shí)勝過人類能力的機(jī)器,跟構(gòu)建一個(gè)能夠玩“規(guī)則不斷變化的游戲”的系統(tǒng)差得遠(yuǎn)了。

5. 物理現(xiàn)實(shí)中有一些規(guī)則是不變的——即物理定律。我們用語言描述他們,并利用它們來做預(yù)測(cè),從而建立文明。但是為了在這個(gè)物理環(huán)境中行動(dòng),這個(gè)星球上的每一種生物體都掌握了這些定律,并不需要語言。小孩子在學(xué)會(huì)牛頓運(yùn)動(dòng)定律之前,就知道蘋果會(huì)從樹上掉下來。

6. 我們的視覺統(tǒng)計(jì)模型其實(shí)是非常不足的,因?yàn)樗鼈儍H依賴于某一時(shí)間的事物和人類指定的抽象標(biāo)簽進(jìn)行識(shí)別。深度神經(jīng)網(wǎng)絡(luò)能夠看到數(shù)以百萬計(jì)的蘋果掛在樹上的圖像,但永遠(yuǎn)不可能發(fā)現(xiàn)萬有引力定律(以及許多對(duì)我們來說很顯然的東西)。

7. 常識(shí)的困難之處在于它對(duì)我們而言是在太顯而易見了,甚至很難用語言去描述它,進(jìn)而在數(shù)據(jù)中給它打標(biāo)簽。對(duì)于所有“顯而易見”的東西,我們存在巨大的盲點(diǎn)。因此,我們無法教計(jì)算機(jī)常識(shí),不僅因?yàn)檫@可能不切實(shí)際,更根本的原因是我們甚至沒有意識(shí)到“常識(shí)”是什么。直到我們發(fā)現(xiàn)機(jī)器人做了一些很愚蠢的事情,我們才頓悟:“哦,原來它不懂...... [這里可以填任何顯而易見的常識(shí)] ”。

8. 如果我們想解決“莫拉維克的悖論”(應(yīng)該是當(dāng)今任何嚴(yán)肅的AI工作的焦點(diǎn)),我們就多少需要模仿生物體純粹依靠觀察世界學(xué)習(xí)的能力,而不需要標(biāo)簽。實(shí)現(xiàn)這一目標(biāo)的一個(gè)有希望的想法是構(gòu)建一個(gè)系統(tǒng),對(duì)未來的事件進(jìn)行預(yù)測(cè),并通過將實(shí)際的發(fā)展與系統(tǒng)的預(yù)測(cè)進(jìn)行比較來學(xué)習(xí)。大量的實(shí)驗(yàn)表明,這確實(shí)是生物大腦中發(fā)生的事情,并且從許多角度來看這樣做都很有意義,因?yàn)檫@些系統(tǒng)必須要學(xué)習(xí)物理定律。預(yù)測(cè)視覺模型(predictive vision model)是朝這個(gè)方向邁出的一步,但肯定不是最后一步。

9. 我們迫切需要在圖靈的定義之外定義“智能”的特征。一個(gè)不錯(cuò)的想法來自非平衡態(tài)熱力學(xué)(non-equilibrium thermodynamics),并與預(yù)測(cè)假設(shè)一致。我們需要這樣做,因?yàn)槲覀冃枰獦?gòu)建智能體,這些智能體肯定通不過圖靈測(cè)試(因?yàn)樗鼈儧]有語言智能),但我們需要一個(gè)框架來衡量我們的進(jìn)展。

10. 我們今天所做的幾乎所有稱之為AI的事情,都是可以用語言表達(dá)的某種形式的自動(dòng)化。在許多領(lǐng)域,這些所謂AI可能有用,但這與用Excel取代紙質(zhì)表格來幫助會(huì)計(jì)師,實(shí)際上沒有什么不同。有問題(并且問題始終存在)的領(lǐng)域是自主(autonomy)。自主不是自動(dòng)化(automation)。自主不僅僅意味著自動(dòng)化。如果是要求比人類更安全的自主的話,那么它意味著更多,比如說自動(dòng)駕駛汽車。自主應(yīng)該是廣義智能的同義詞,因?yàn)樗僭O(shè)能夠處理意外的、未經(jīng)訓(xùn)練的,未知的事物。

在Alpha go打敗李世石的時(shí)候,我們都為人工智能迅猛發(fā)展感到開心,但是同時(shí)有些人也會(huì)對(duì)其未來發(fā)展感到緊張不安。而真正需要我們思考的是,人工智能給我們帶來什么。

當(dāng)我們說的話可以迅速被翻譯成另一種語言,當(dāng)我們可以搜索、轉(zhuǎn)錄與總結(jié)數(shù)小時(shí)的視頻,當(dāng)汽車可以自動(dòng)駕駛、貨運(yùn)成本急劇下降......人工智能對(duì)未來的影響值得拭目以待!

鏈接已復(fù)制,快去分享吧

企業(yè)網(wǎng)版權(quán)所有?2010-2024 京ICP備09108050號(hào)-6京公網(wǎng)安備 11010502049343號(hào)