匯豐銀行在冠狀病毒危機(jī)期間啟動(dòng)了AI護(hù)欄

責(zé)任編輯:cres

作者:Clint Boulton

2020-07-10 09:59:09

來(lái)源:企業(yè)網(wǎng)D1Net

原創(chuàng)

匯豐銀行的首席信息官Gavin Munroe表示,該行正在使用初創(chuàng)公司CognitiveScale的軟件來(lái)監(jiān)控其AI算法,以防范偏見(jiàn)、數(shù)據(jù)漂移和其他商業(yè)風(fēng)險(xiǎn)的出現(xiàn)。

匯豐銀行的首席信息官Gavin Munroe表示,該行正在使用初創(chuàng)公司CognitiveScale的軟件來(lái)監(jiān)控其AI算法,以防范偏見(jiàn)、數(shù)據(jù)漂移和其他商業(yè)風(fēng)險(xiǎn)的出現(xiàn)。
 
處于高度監(jiān)管行業(yè)的企業(yè)在嘗試部署人工智能時(shí),往往會(huì)遇到所謂的“黑匣子”問(wèn)題,因?yàn)槿斯ぶ悄芗夹g(shù)通常會(huì)自動(dòng)化任務(wù)并產(chǎn)生無(wú)法被輕易解釋的輸出
 
尤其是銀行,正在努力審查機(jī)器學(xué)習(xí)(ML)模型和人工智能軟件的透明度和可解釋性。這些軟件提供了從欺詐檢測(cè)到資產(chǎn)追溯的各種信息。匯豐銀行也不例外,但這家英國(guó)銀行正在使用軟件來(lái)幫助其逐漸增強(qiáng)對(duì)算法的信任。這些算法容易出現(xiàn)偏差、數(shù)據(jù)漂移和其他對(duì)企業(yè)可能構(gòu)成風(fēng)險(xiǎn)的問(wèn)題。
 
在冠狀病毒大流行期間,越來(lái)越多的消費(fèi)者開(kāi)始采用數(shù)字服務(wù),在這種情況下,匯豐銀行的努力對(duì)于增加顧客對(duì)其的信任將是至關(guān)重要的,匯豐的首席信息官Gavin Munroe說(shuō)。
 
“在向他們展示的模型和人工智能之間需要有一個(gè)平衡,以便解釋我們?cè)谑褂檬裁?,并且它也?yīng)該有我們所需要的正確的質(zhì)量、血統(tǒng)和最準(zhǔn)確的數(shù)據(jù),”Munroe告訴記者。“我們認(rèn)為我們不能在一個(gè)沒(méi)有信任的環(huán)境中工作。”
 
為什么銀行在AI方面猶豫不決
 
銀行明白,人工智能可以幫助它們實(shí)現(xiàn)自動(dòng)化、擴(kuò)充業(yè)務(wù)和保護(hù)客戶資產(chǎn),但如果它們無(wú)法解釋自己的算法是如何為監(jiān)管機(jī)構(gòu)、審計(jì)委員會(huì)和消費(fèi)者工作的,它們就不會(huì)采用這種技術(shù)。人工智能中的不信任現(xiàn)象比比皆是,這是由幫助錯(cuò)誤信息傳播的算法和面部識(shí)別中的種族偏見(jiàn)引起的。
 
在監(jiān)管機(jī)構(gòu)的密切關(guān)注下,金融服務(wù)公司對(duì)于它們用來(lái)支撐業(yè)務(wù)的技術(shù)往往持謹(jǐn)慎態(tài)度,因?yàn)槠?jiàn)可能會(huì)阻止有資質(zhì)的人獲得貸款。因此,根據(jù)Gartner research的數(shù)據(jù),2019年只有4%的首席會(huì)計(jì)官報(bào)告使用了人工智能。該公司還發(fā)現(xiàn),79%的企業(yè)高管將金融業(yè)不愿采用人工智能歸因于“對(duì)未知的恐懼”。即使當(dāng)他們確實(shí)采用了人工智能時(shí),通常也是用來(lái)作為防范欺詐性交易的對(duì)沖手段,而不是作為數(shù)字產(chǎn)品和服務(wù)的加速器。
 
Munroe表示,在金融領(lǐng)域采用人工智能的關(guān)鍵是信任。他將對(duì)人工智能建立信任的重要性,比作了汽車(chē)安全帶、速度計(jì)和其他安全功能的增加。“如果不加以控制,你就會(huì)在組織中承擔(dān)很多固有的風(fēng)險(xiǎn),”Munroe補(bǔ)充道。“我們無(wú)法允許數(shù)據(jù)模型中存在固有的偏差。”
 
由于消費(fèi)者希望在大流行期間消費(fèi)更多的數(shù)字化服務(wù),因此建立信任將變得尤其重要。匯豐發(fā)現(xiàn),通過(guò)WhatsApp和微信等社交媒體服務(wù)、點(diǎn)擊支付和其他非接觸式技術(shù)進(jìn)行的交易已經(jīng)有所增加。必須密切監(jiān)控此類(lèi)服務(wù)的使用情況,因?yàn)殡S著越來(lái)越多的資金開(kāi)始通過(guò)銀行的數(shù)字足跡流動(dòng),將會(huì)有更多的欺詐曝光,Munroe說(shuō)。其中包括了從典型的信用卡欺詐到涉及COVID-19檢測(cè)的虛假交易的機(jī)會(huì)主義詐騙,Munroe補(bǔ)充說(shuō)。
 
為AI部署護(hù)欄
 
為了幫助匯豐驗(yàn)證其人工智能模型,并為其提供的數(shù)字服務(wù)提供支撐,Munroe正在使用來(lái)自CognitiveScale的軟件,后者的Cortex Certifiai軟件專(zhuān)注于降低商業(yè)風(fēng)險(xiǎn)。CognitiveScale的執(zhí)行主席Manoj Saxena稱(chēng),Cortex Certifiai能夠幫助公司解釋機(jī)器所生成的預(yù)測(cè),并揭示底層數(shù)據(jù)類(lèi)型、數(shù)據(jù)集、ML模型和AI開(kāi)發(fā)過(guò)程中的偏差,他將該解決方案描述為一種人工智能的測(cè)量工具,可以充當(dāng)可信賴AI的超文本傳輸協(xié)議。
 
Saxena曾在2007年至2014年領(lǐng)導(dǎo)IBM Watson解決方案,他說(shuō)該軟件還將有助于識(shí)別“數(shù)據(jù)漂移”,即通知ML模型中所包含的數(shù)據(jù)信號(hào)是否會(huì)隨著時(shí)間而變化。自COVID-19疫情爆發(fā)以來(lái),數(shù)據(jù)漂移已經(jīng)成為了一個(gè)重大問(wèn)題,因?yàn)榭蛻舻馁?gòu)買(mǎi)模式已經(jīng)轉(zhuǎn)變?yōu)樵诰€購(gòu)買(mǎi),從衛(wèi)生紙到個(gè)人防護(hù)設(shè)備的任何物品的購(gòu)買(mǎi)量都大幅飆升,迫使零售商必須面對(duì)供應(yīng)鏈的挑戰(zhàn)。這些不斷變化的動(dòng)態(tài)正在產(chǎn)生新的數(shù)據(jù),而這些數(shù)據(jù)必須被納入到模型當(dāng)中。
 
銀行在這方面處于不利地位,因?yàn)樗鼈兡壳暗娜斯ぶ悄苣P驼庇诳紤]新消費(fèi)者模式所產(chǎn)生的數(shù)據(jù)。Munroe舉例說(shuō),如果一個(gè)人在大流行封鎖之前從未在網(wǎng)上購(gòu)物,但突然在亞馬遜上購(gòu)物了,這就會(huì)在該行的欺詐檢測(cè)系統(tǒng)中發(fā)出信號(hào)。
 
門(mén)羅說(shuō):“有些模型沒(méi)有反映出我們和柯維德在一起的現(xiàn)實(shí)。”。“但隨著數(shù)字化應(yīng)用的持續(xù)和加速,會(huì)出現(xiàn)什么樣的規(guī)范呢?”
 
Cortex Certifiai使用“信任指數(shù)”來(lái)量化人工智能模型的數(shù)值分?jǐn)?shù),它將幫助匯豐的數(shù)據(jù)模型解釋這些新的行為,這對(duì)于滿足客戶的需求來(lái)說(shuō)是至關(guān)重要的。“這是關(guān)于當(dāng)核心決策被委托給機(jī)器時(shí),需要如何建立客戶的忠誠(chéng)度和信任,”Saxena說(shuō)。
 
CognitiveScale正在廣泛的商業(yè)案例中應(yīng)用它的軟件。在另一項(xiàng)概念驗(yàn)證中,一家公司正在使用Cortex Certifiai,當(dāng)他們呼叫交互式語(yǔ)音響應(yīng)系統(tǒng)時(shí),就可用來(lái)將其客戶導(dǎo)向正確的支持聯(lián)系人,Saxena說(shuō)。
 
偉大的偏見(jiàn)之戰(zhàn)
 
這一解決方案似乎是為銀行量身定做的。盡管銀行對(duì)能否信任人工智能模型仍心存疑慮,但它們?nèi)栽跒榇祟?lèi)新興解決方案孤注一擲。
 
雖然CognitiveScale已經(jīng)從Norwest Venture Partners、Intel CAPItal、Microsoft Ventures、Westly Group和USAA等投資者那里獲得了5000萬(wàn)美元的資金,但無(wú)論它是否已經(jīng)觸及了能夠?yàn)檐浖袠I(yè)增值的甜點(diǎn),對(duì)該公司的炒作可能只會(huì)被籠罩在其中的懷疑情緒所超越。
 
研究人工智能可解釋性的Gartner分析師Saniye Alaybeyi表示,使用決策樹(shù)和回歸算法的預(yù)測(cè)模型一直就存在著偏見(jiàn),尤其是那些包含數(shù)千個(gè)if/then/else語(yǔ)句的預(yù)測(cè)模型。“這些都不是新的問(wèn)題,也都不是神經(jīng)網(wǎng)絡(luò)所特有的,”Alaybeyi說(shuō)。
 
向人工智能灌輸信任的關(guān)鍵是確保軟件開(kāi)發(fā)人員在交付給企業(yè)之前,能夠通過(guò)徹底的測(cè)試和驗(yàn)證,交付高質(zhì)量的人工智能模型,她表示。Alaybeyi認(rèn)為,做好防護(hù)欄的規(guī)劃將是滿足所有利益相關(guān)者需求的關(guān)鍵。
 
在這一點(diǎn)上,匯豐銀行表示同意。“將風(fēng)險(xiǎn)和合規(guī)性納入我們的文化并不是事后才想到的,”Munroe說(shuō),“固有的設(shè)計(jì)和解決方案也需要內(nèi)置的控制和透明度。”
 
版權(quán)聲明:本文為企業(yè)網(wǎng)D1Net編譯,轉(zhuǎn)載需注明出處為:企業(yè)網(wǎng)D1Net,如果不注明出處,企業(yè)網(wǎng)D1Net將保留追究其法律責(zé)任的權(quán)利。

鏈接已復(fù)制,快去分享吧

企業(yè)網(wǎng)版權(quán)所有?2010-2024 京ICP備09108050號(hào)-6京公網(wǎng)安備 11010502049343號(hào)