CIO如何應對感知到的AI帶來的風險

責任編輯:cres

作者:Bob Lewis

2024-03-20 15:26:31

來源:企業(yè)網(wǎng)D1Net

原創(chuàng)

IT領導者不僅必須預見實際的AI風險,還必須預見到感知到的風險,本文介紹了IT領導者最有可能遇到的問題以及如何解決它。

問一般人AI最大的風險是什么,他們的答案可能包括:AI將讓我們?nèi)祟愡^時,Skynet將成為現(xiàn)實,讓我們?nèi)祟悳缃^,深度偽造創(chuàng)作工具將被壞人用來做壞事。
 
問一般的CEO AI最大的風險是什么,他們更有可能談論錯失的機會——競爭對手能夠比他們更早部署基于AI的業(yè)務能力。
 
作為CIO,你不僅需要預料到實際的AI風險,而且還需要預見到感知到的風險,以下介紹了如何做這件事。
 
一般人感覺到的風險
 
1.AI會沖擊人類嗎?回答:這不是一種風險,而是一種選擇。個人電腦,然后是互聯(lián)網(wǎng),然后是智能手機,都為計算機增強的人類帶來了機會。AI也可以做到這一點,企業(yè)領導者可以通過使用AI功能來增強和增強員工的能力,從而專注于建立更強大、更具競爭力的業(yè)務。
 
他們可以,有些人會這樣做,其他人將使用AI來自動化目前由他們雇傭的人類執(zhí)行的任務。
 
或者,更有可能的是,他們兩個都會做,從絕對意義上講,兩者都不會更好,但它們將是不同的。作為CIO,你必須幫助傳達公司的意圖,無論AI是用于增加員工還是用于替換員工。
 
2. Skynet,這是可能的AI未來中最令人不寒而栗的,碰巧也是最不可能的,這是最不可能的,并不是因為殺手機器人是不可能的,而是因為具有破壞性的AI沒有理由生產(chǎn)和部署它們。
 
在自然界中,捕殺其他生物的生物要么是想要食物的捕食者,要么是同樣資源的競爭者。除了那些以狩獵為運動的人類同胞外,物種僅僅為了好玩而傷害其他物種的成員是很少見的。
 
除了電力和半導體,我們和一個意志堅定的AI是否會發(fā)現(xiàn)自己對資源的競爭足夠激烈,以至于機器人殺手的場景成為我們的問題,這是值得懷疑的。
 
這尤其是因為,如果AI在電力和半導體方面與我們競爭,它不太可能浪費電力和半導體來制造殺手級機器人。
 
3.深度偽造,是的,深度偽造是一個問題,作為現(xiàn)實之戰(zhàn)的尖端,它們是一個只會變得更糟的問題,深度偽造AI和深度虛假檢測AI將不得不越來越快地改進,僅僅是為了保持彼此的地位。
 
因此,正如惡意軟件對策從獨立的反病毒措施演變?yōu)檎麄€行業(yè)的網(wǎng)絡安全一樣,隨著對現(xiàn)實的戰(zhàn)爭升溫,我們可以預期深度虛假對策也會出現(xiàn)類似的軌跡。
 
CEO認為的AI風險
 
那些不想很快成為前CEO的CEO會把相當多的時間和注意力花在某種形式的“TOWS”分析上(威脅、機會、弱點和優(yōu)勢)。
 
作為CIO,很長一段時間以來,你最重要的職責之一就是通過將各個點聯(lián)系起來,幫助推動業(yè)務戰(zhàn)略,從基于IT的能力到商業(yè)機會(如果你的企業(yè)首先利用它們)或威脅(如果競爭對手首先利用它們)。
 
在當前的AI熱潮席卷IT行業(yè)之前,情況就是如此,這就是“數(shù)字”的全部意義所在,現(xiàn)在更是如此。
 
再加上AI,CIO們還有另一層責任,那就是如何將其新能力整合到整個業(yè)務中。
 
無聲的基于AI的威脅:人為制造的弱點
 
還有一類風險需要擔心,這種風險很少受到關注,稱之為“人為的人類弱點”。
 
從Daniel Kahneman的思維說起,快和慢。在書中,Kahneman指出了我們思考的兩種方式。當我們快速思考時,我們使用大腦回路,讓我們一目了然,沒有延遲,幾乎不費力氣。當我們“相信自己的膽量”時,快速思考也是我們所做的。
 
當我們緩慢地思考時,我們使用的是讓我們將17乘以53的電路——這一過程需要相當大的注意力、時間和腦力。
 
在AI方面,思維遲緩是專家系統(tǒng),就這一點而言,老式計算機編程所做的事情,快速思考是AI最令人興奮的地方,這就是神經(jīng)網(wǎng)絡的作用。
 
在目前的發(fā)展狀態(tài)下,AI的快速思維形式也容易出現(xiàn)與相信我們的直覺相同的認知錯誤。例如:
 
從相關性推斷因果關系:我們都知道我們不應該這樣做,然而,當我們所有的證據(jù)都是并列的時候,我們很難阻止自己推斷因果關系。
 
碰巧的是,如今所謂的AI在很大程度上是由神經(jīng)網(wǎng)絡的機器學習組成的,神經(jīng)網(wǎng)絡的學習包括從相關性推斷因果關系。
 
回歸中庸:你看了《偉大的英國烘焙秀》。你會注意到,無論誰在一集中獲得了明星面包師獎,在下一集中,他的烘焙往往都會更差,這是星際面包師的詛咒。
 
只是這不是詛咒,這只是行動中的隨機性,每個面包師的表現(xiàn)都呈鐘形曲線,當一個人在一周內(nèi)贏得了Star Baker,他們的表現(xiàn)已經(jīng)達到了鐘形曲線的一條尾巴,下一次他們烘焙時,他們最有可能表現(xiàn)在平均水平,而不是再次在Star Baker Tail,因為每次他們烘焙時,他們最有可能表現(xiàn)在平均水平,而不是獲勝的尾巴。
 
沒有理由期望機器學習AI能免受這一謬誤的影響,恰恰相反,面對隨機的過程性能數(shù)據(jù)點,我們應該期待AI在每個糟糕的結(jié)果之后預測改進。
 
然后得出結(jié)論,因果關系是起作用的。
 
沒有“展示你的工作”:嗯,不是你的工作,是AI的工作。在開發(fā)所謂的“可解釋AI”方面,有一些活躍的研究,這是必要的。
 
假設你指派了一名員工來評估一個可能的商業(yè)機會,并向你推薦一項行動方案,他們會這樣做,你會問,“你為什么這么認為?”任何有能力的員工都期待著這個問題,并準備好回答。
 
在“可解釋AI”成為一項功能而不是愿望清單之前,AI在這方面的能力不如許多企業(yè)希望它們?nèi)〈膯T工——它們無法解釋自己的想法。
 
要忽略的短語
 
毫無疑問,你已經(jīng)聽過有人在AI的背景下聲稱,“計算機永遠不會x”,其中x是最熟練的人類擅長的東西。
 
他們錯了,自從我第一次開始從事這項業(yè)務以來,這一直是一個流行的斷言,從那以后,很明顯,無論你選擇哪個x,計算機都能做任何事情,而且做得比我們更好。
 
唯一的問題是,我們都要等多久才能實現(xiàn)。
 
企業(yè)網(wǎng)D1net(m.r5u5c.cn):
 
國內(nèi)主流的to B IT門戶,同時在運營國內(nèi)最大的甲方CIO專家?guī)旌椭橇敵黾吧缃黄脚_-信眾智(www.cioall.com)。同時運營19個IT行業(yè)公眾號(微信搜索D1net即可關注)。
 
版權(quán)聲明:本文為企業(yè)網(wǎng)D1Net編譯,轉(zhuǎn)載需在文章開頭注明出處為:企業(yè)網(wǎng)D1Net,如果不注明出處,企業(yè)網(wǎng)D1Net將保留追究其法律責任的權(quán)利。

鏈接已復制,快去分享吧

企業(yè)網(wǎng)版權(quán)所有?2010-2024 京ICP備09108050號-6京公網(wǎng)安備 11010502049343號