這些公司都同意,如果所構(gòu)建的AI模型帶來的風(fēng)險(xiǎn)無法控制或緩解,則不會(huì)開發(fā)或部署該模型。
該承諾適用于基礎(chǔ)或“前沿”模型——這種AI模型可以應(yīng)用于廣泛的領(lǐng)域,通常是能夠處理圖像、文本和其他輸入的多模態(tài)系統(tǒng)。
Meta、三星、Claude開發(fā)商Anthropic和Elon Musk的初創(chuàng)公司xAI也在簽署者之列。
ChatGPT制造商OpenAI、總部位于迪拜的技術(shù)創(chuàng)新研究所和韓國互聯(lián)網(wǎng)提供商N(yùn)aver也簽署了“前沿AI安全承諾”。
開發(fā)中國版ChatGPT的初創(chuàng)公司Zhipu AI也在簽署這些由英國和韓國政府制定的承諾的公司之列。
“我們相信‘前沿AI安全承諾’將在全球AI行業(yè)生態(tài)系統(tǒng)中建立最佳實(shí)踐,我們希望公司將繼續(xù)與政府、學(xué)術(shù)界和民間社會(huì)對(duì)話,并在未來與AI安全研究所建立合作網(wǎng)絡(luò)。”韓國科學(xué)和信息通信技術(shù)部長Lee Jong Ho表示。
每個(gè)同意這些承諾的公司將公開其基礎(chǔ)模型帶來的風(fēng)險(xiǎn)級(jí)別以及他們計(jì)劃采取的確保這些模型安全部署的措施。
簽署者必須在2025年初在法國舉行的下一次AI安全峰會(huì)之前公布他們的發(fā)現(xiàn)。
“這些承諾確保全球領(lǐng)先的AI公司在開發(fā)安全AI的計(jì)劃上提供透明度和問責(zé)制。”英國首相Rishi Sunak表示。
這些承諾旨在建立在去年11月在首屆AI安全峰會(huì)上簽署的Bletchley協(xié)議的基礎(chǔ)上,該協(xié)議對(duì)AI風(fēng)險(xiǎn)進(jìn)行分類和歸類。
根據(jù)安永全球咨詢數(shù)據(jù)和AI負(fù)責(zé)人Beatriz Sanz Saiz的說法,科技公司的承諾是受歡迎的。
“在開發(fā)和實(shí)施可信AI時(shí),提供透明度和問責(zé)制是至關(guān)重要的,”Saiz說,“雖然AI對(duì)企業(yè)和個(gè)人都有巨大的潛力,但只有通過謹(jǐn)慎和倫理的方法才能發(fā)揮這一潛力。”
Zoho英國公司董事總經(jīng)理Sachin Agrawal表示:“使用AI的公司應(yīng)該優(yōu)先考慮倫理考量和負(fù)責(zé)任的數(shù)據(jù)實(shí)踐,以建立客戶信任。采用正確的AI程序可能意味著超越當(dāng)前的隱私法規(guī),考慮最具倫理的做法,以平衡AI的利益而不損害客戶數(shù)據(jù),并確保任何做法都是完全透明的。”
企業(yè)網(wǎng)D1net(m.r5u5c.cn):
國內(nèi)主流的to B IT門戶,同時(shí)在運(yùn)營國內(nèi)最大的甲方CIO專家?guī)旌椭橇敵黾吧缃黄脚_(tái)-信眾智(www.cioall.com)。同時(shí)運(yùn)營19個(gè)IT行業(yè)公眾號(hào)(微信搜索D1net即可關(guān)注)。
版權(quán)聲明:本文為企業(yè)網(wǎng)D1Net編譯,轉(zhuǎn)載需在文章開頭注明出處為:企業(yè)網(wǎng)D1Net,如果不注明出處,企業(yè)網(wǎng)D1Net將保留追究其法律責(zé)任的權(quán)利。