中國社會(huì)科學(xué)院國際法研究所原所長、研究員，中國刑法學(xué)研究會(huì)常務(wù)副會(huì)長。

大家上午好!很高興來滬參加上海政法學(xué)院“刑法論壇”。首先是因?yàn)橹黝}——“人工智能的刑法規(guī)制及相關(guān)法律問題”吸引了我。最近兩三年來，對(duì)人工智能的話題討論很多，我覺得現(xiàn)在應(yīng)該是引起法律界關(guān)注的時(shí)候。其次是上海政法學(xué)院開始有了長足的進(jìn)步和發(fā)展，之前沒來過，所以想來看看，“眼見為實(shí)”，果然是名不虛傳。中國-上海合作組織國際司法交流合作培訓(xùn)基地這個(gè)重大項(xiàng)目落戶上政，是一個(gè)很難得的發(fā)展機(jī)遇。基地與上政融為一體，上政可以充分利用基地硬件、軟件和人力資源，這對(duì)上政而言既是寶貴資源又是發(fā)展驅(qū)動(dòng)力。

從刑法學(xué)角度來看人工智能，主要涉及以下問題：

一是人工智能體能否成為犯罪主體并承擔(dān)相應(yīng)的刑事責(zé)任。這可能是最尖銳也是最令人困惑的問題。就我個(gè)人來說，過去認(rèn)為這樣的討論權(quán)當(dāng)一席笑談。但是，最近幾年人工智能技術(shù)取得突破性的進(jìn)展，比如智能機(jī)器人AlphaGo Zero通過無監(jiān)督自主學(xué)習(xí)，能夠輕松戰(zhàn)勝頂尖圍棋國手，這在過去是難以想象的。從單純具有超強(qiáng)的計(jì)算能力蛻變到它可以進(jìn)行自我學(xué)習(xí)和自我提高，而且進(jìn)展神速，從某一個(gè)方面超越人類智慧。這使得人類不敢掉以輕心，探討將人工智能體納入刑法規(guī)制的可能性，也將成為一個(gè)嚴(yán)肅話題。刑法對(duì)行為主體成為犯罪主體的基本要求并不高，即具有辨認(rèn)和控制自己行為的能力。有朝一日當(dāng)人工智能發(fā)展到強(qiáng)人工智能階段，具有辨認(rèn)、選擇、控制、決策等行為能力時(shí)，其成為犯罪主體恐怕并非完全不可能。所以我們現(xiàn)在需要認(rèn)真地加以研究。如果未來人工智能發(fā)展到超高水平，可能會(huì)面臨脫離人類控制的危險(xiǎn)，霍金的擔(dān)心并非杞人憂天。這就涉及相關(guān)的法律倫理問題，就像以往的克隆問題一樣，國際社會(huì)普遍禁止克隆人類。人類在設(shè)計(jì)研發(fā)人工智能之初是否應(yīng)當(dāng)留下“阿喀琉斯之踵”，以確保人類可以對(duì)其進(jìn)行最終控制，這是技術(shù)人員需要研究的問題。法律人能做的，就是設(shè)定“阿喀琉斯之踵”條款，要求技術(shù)人員確保未來人工智能的安全發(fā)展。

二是人工智能體可否作為犯罪工具。這顯然是沒有問題的，如利用無人機(jī)殺戮等。不過，利用人工智能犯罪還可能會(huì)牽扯到共犯的問題。如果某一天人工智能擁有辨認(rèn)和控制自己行為的能力，當(dāng)其被它的控制者、使用者用于犯罪時(shí)，是犯罪工具還是共犯?這些都是可以拓展討論的話題。

三是人工智能可否成為犯罪對(duì)象。這是完全可能的。人工智能和計(jì)算機(jī)系統(tǒng)、智慧網(wǎng)絡(luò)一樣，都可以成為犯罪對(duì)象。同時(shí)，人工智能體在某種意義上是非常有價(jià)值的財(cái)產(chǎn)，也會(huì)成為犯罪侵害的對(duì)象。

四是人工智能潛力的開發(fā)，可以成為預(yù)防和控制犯罪的有力神器。執(zhí)法、司法層面對(duì)大數(shù)據(jù)的適用，對(duì)犯罪進(jìn)行分析、判斷、預(yù)防，均可充分利用人工智能。人工智能在社會(huì)治安和犯罪控制領(lǐng)域，有著更廣泛的應(yīng)用前景。

五是人工智能的研發(fā)者和控制者的相關(guān)法律責(zé)任問題。人工智能在使用過程中，其本身的缺陷和漏洞可能會(huì)被人利用去實(shí)施犯罪，那么研發(fā)者和控制者應(yīng)當(dāng)承擔(dān)怎樣的責(zé)任?如果人工智能有漏洞，之后應(yīng)及時(shí)補(bǔ)漏而未及時(shí)采取行動(dòng)彌補(bǔ)漏洞和缺陷，研發(fā)者和控制者是否應(yīng)當(dāng)對(duì)所造成的危害結(jié)果承擔(dān)相應(yīng)的責(zé)任呢?這在研究人工智能的法律問題時(shí)，也應(yīng)當(dāng)給予必要的關(guān)注。