9月18日,2018世界人工智能大會安全高端對話在上海舉行,峰橋集團公司總裁陳實在發(fā)表對人工智能安全倫理規(guī)范的幾點思考時問道。
陳實曾任通用汽車(中國)有限公司副總裁及通用汽車(中國)北京分部總經(jīng)理、微軟公司副總裁及大中華區(qū)法律及公司事務(wù)部總經(jīng)理,今年年初卸任了在微軟的職務(wù), 從事咨詢工作。會后,他接受了澎湃新聞(www.thepaper.cn)的專訪。
人工智能距離人的智慧還有很遠
在演講中,陳實談到,現(xiàn)下流行的人工智能技術(shù)主要基于數(shù)據(jù)驅(qū)動的優(yōu)化方法來解決特定的具體問題,而不是一般問題。
“我們都對AI在國際象棋和圍棋等游戲中擊敗人類印象深刻。然而,游戲只代表一類智力活動,其中游戲的規(guī)則是確定的,獲勝目標也是明確定義的。但在現(xiàn)實世界中,規(guī)則并不總是很明確確定,目標也可以不斷變化。”
他告訴澎湃新聞,人工智能在游戲領(lǐng)域可以做到很“聰明”,但這是一種狹隘的“聰明”,“如果把這種智慧想象成為能做任何事情的話,我覺得夸大了。”
“機器可以玩游戲,可以玩得比人好,但是目前沒有哪一款受人歡迎的游戲是機器設(shè)計的。機器可以參加高考,并且考得很好,因為不管是數(shù)學(xué)題還是化學(xué)題,都有嚴格的規(guī)則和正確答案,但是有沒有高考題目是機器出的?”
他認為,人之所以聰明,是因為不僅見多識廣,而且能夠融會貫通,不僅能學(xué)習(xí)知識,還能夠進行抽象、總結(jié),應(yīng)用到其他的領(lǐng)域。這種常人具有的智慧在機器上談何容易?
圖靈獎獲得者Raj Reddy在17日在世界人工智能大會主論壇的發(fā)言中表達了對人工智能的積極看法。面對AI,他看到的是積極和繁榮景象,縱觀過去幾百年的歷史,戰(zhàn)爭來源于每個人都想獲取別人的資源,而當(dāng)人工智能賦予全人類富足的資源,戰(zhàn)爭自然消弭于無形。
陳實對此表示贊同,“有很多人對AI的發(fā)展都有點擔(dān)憂,但我認為AI就是一個十分有用的工具,用的好的話可以造福于人類的。”
他指出,人工智能不是萬能的,但它確實讓每個行業(yè)發(fā)生了改變,每個行業(yè)都要數(shù)字轉(zhuǎn)型,都要利用人工智能來提高效率、擴大服務(wù)功能,人工智能已經(jīng)帶來了一場革命。
對人工智能可能產(chǎn)生的安全道德問題還沒有好的答案
由于人工智能存在的局限性,隨之產(chǎn)生的安全和道德問題需要人們關(guān)注。
陳實在演講中談到,機器學(xué)習(xí)的結(jié)果會受到訓(xùn)練數(shù)據(jù)質(zhì)量和算法假設(shè)的影響,許多機器學(xué)習(xí)方法沒有成熟的自我糾錯機制。
譬如,誰應(yīng)對以下錯誤負責(zé):基于人工智能的投資損失;基于人工智能的信用評估中出現(xiàn)貸款拒絕;基于AI的醫(yī)療診斷系統(tǒng)發(fā)生了醫(yī)療事故?
此外,算法建模的偏見和數(shù)據(jù)收集中的差錯可能導(dǎo)致決策偏見,不穩(wěn)定和易受操縱。這一點在數(shù)字營銷、政治選舉等事例中已經(jīng)時有發(fā)生。
在道德層面,人工智能開發(fā)團隊面臨的考驗更大。
可能產(chǎn)生的問題例如,人工智能可以大規(guī)模提高效率和生產(chǎn)力,但可能只會使少數(shù)人受益;人工智能可以操縱人類行為,例如游戲成癮、投票偏見、媒體炒作:人可能無法閱讀/查看想要讀到的客觀內(nèi)容,而閱讀到別人希望他閱讀的內(nèi)容。
人工智能開發(fā)人員可能會將他/她的意識形態(tài)、道德信仰、道德規(guī)范注入到算法中,這些算法在社會上可能無法被接受或認定是道德合理的。
接下來的問題是,如果一個機器人有像人類一樣的感覺和意識,它是否具有像人類一樣的機器人權(quán)利?
“我們對這些問題沒有答案,至少是好的答案。這就是我們今天在這里討論人工智能安全和道德的原因。”他說道。
傳統(tǒng)車企和軟件互聯(lián)網(wǎng)企業(yè)應(yīng)合作研制自動駕駛汽車
對于時下熱點,陳實也與澎湃新聞分享了他的看法。
兼有在通用汽車和微軟公司的工作經(jīng)歷,陳實認為,傳統(tǒng)車企和軟件互聯(lián)網(wǎng)企業(yè)在研發(fā)制造自動駕駛汽車上,各有各的優(yōu)勢,最好兩方面合作。“完全搞互聯(lián)網(wǎng)的,不一定能夠做出一輛汽車,完全搞汽車的,也未必能做出自動駕駛的車。”
他認為,人工智能不會像AR、VR或者區(qū)塊鏈一樣只是一個風(fēng)口,AR、VR、區(qū)塊鏈只是技術(shù)的某些應(yīng)用,但人工智能的實用范圍更加廣大,應(yīng)用無處不在。
“現(xiàn)在人工智能的智能化程度越來越高,機器人裝了傳感器,能夠感知環(huán)境,從而表現(xiàn)得更加智慧,應(yīng)用更加廣泛;在語音識別方面,它能夠聽懂人的話,然后進行翻譯。從感知到語言,機器人就可以獲得知識,有了知識以后未來或許就能產(chǎn)生創(chuàng)造力。”他對此表示樂觀。
對于人工智能進一步的發(fā)展,陳實提出應(yīng)該加強跨學(xué)科合作。
“其實人工智能涉及的學(xué)科很多,如果是計算機科學(xué)、物理學(xué)、生物學(xué)、哲學(xué)、心理學(xué)、大腦科學(xué)等學(xué)科能夠在一起的話,我覺得可以研究出一些更具有一般智慧的廣泛應(yīng)用。”他說。