處于高度監(jiān)管行業(yè)的企業(yè)在嘗試部署人工智能時(shí)，往往會(huì)遇到所謂的“黑匣子”問(wèn)題，因?yàn)槿斯ぶ悄芗夹g(shù)通常會(huì)自動(dòng)化任務(wù)并產(chǎn)生無(wú)法被輕易解釋的輸出
尤其是銀行，正在努力審查機(jī)器學(xué)習(xí)(ML)模型和人工智能軟件的透明度和可解釋性。這些軟件提供了從欺詐檢測(cè)到資產(chǎn)追溯的各種信息。匯豐銀行也不例外，但這家英國(guó)銀行正在使用軟件來(lái)幫助其逐漸增強(qiáng)對(duì)算法的信任。這些算法容易出現(xiàn)偏差、數(shù)據(jù)漂移和其他對(duì)企業(yè)可能構(gòu)成風(fēng)險(xiǎn)的問(wèn)題。
在冠狀病毒大流行期間，越來(lái)越多的消費(fèi)者開(kāi)始采用數(shù)字服務(wù)，在這種情況下，匯豐銀行的努力對(duì)于增加顧客對(duì)其的信任將是至關(guān)重要的，匯豐的首席信息官Gavin Munroe說(shuō)。
“在向他們展示的模型和人工智能之間需要有一個(gè)平衡，以便解釋我們?cè)谑褂檬裁?，并且它也?yīng)該有我們所需要的正確的質(zhì)量、血統(tǒng)和最準(zhǔn)確的數(shù)據(jù)，”Munroe告訴記者。“我們認(rèn)為我們不能在一個(gè)沒(méi)有信任的環(huán)境中工作。”
為什么銀行在AI方面猶豫不決
銀行明白，人工智能可以幫助它們實(shí)現(xiàn)自動(dòng)化、擴(kuò)充業(yè)務(wù)和保護(hù)客戶資產(chǎn)，但如果它們無(wú)法解釋自己的算法是如何為監(jiān)管機(jī)構(gòu)、審計(jì)委員會(huì)和消費(fèi)者工作的，它們就不會(huì)采用這種技術(shù)。人工智能中的不信任現(xiàn)象比比皆是，這是由幫助錯(cuò)誤信息傳播的算法和面部識(shí)別中的種族偏見(jiàn)引起的。
在監(jiān)管機(jī)構(gòu)的密切關(guān)注下，金融服務(wù)公司對(duì)于它們用來(lái)支撐業(yè)務(wù)的技術(shù)往往持謹(jǐn)慎態(tài)度，因?yàn)槠?jiàn)可能會(huì)阻止有資質(zhì)的人獲得貸款。因此，根據(jù)Gartner research的數(shù)據(jù)，2019年只有4%的首席會(huì)計(jì)官報(bào)告使用了人工智能。該公司還發(fā)現(xiàn)，79%的企業(yè)高管將金融業(yè)不愿采用人工智能歸因于“對(duì)未知的恐懼”。即使當(dāng)他們確實(shí)采用了人工智能時(shí)，通常也是用來(lái)作為防范欺詐性交易的對(duì)沖手段，而不是作為數(shù)字產(chǎn)品和服務(wù)的加速器。
Munroe表示，在金融領(lǐng)域采用人工智能的關(guān)鍵是信任。他將對(duì)人工智能建立信任的重要性，比作了汽車(chē)安全帶、速度計(jì)和其他安全功能的增加。“如果不加以控制，你就會(huì)在組織中承擔(dān)很多固有的風(fēng)險(xiǎn)，”Munroe補(bǔ)充道。“我們無(wú)法允許數(shù)據(jù)模型中存在固有的偏差。”
由于消費(fèi)者希望在大流行期間消費(fèi)更多的數(shù)字化服務(wù)，因此建立信任將變得尤其重要。匯豐發(fā)現(xiàn)，通過(guò)WhatsApp和微信等社交媒體服務(wù)、點(diǎn)擊支付和其他非接觸式技術(shù)進(jìn)行的交易已經(jīng)有所增加。必須密切監(jiān)控此類(lèi)服務(wù)的使用情況，因?yàn)殡S著越來(lái)越多的資金開(kāi)始通過(guò)銀行的數(shù)字足跡流動(dòng)，將會(huì)有更多的欺詐曝光，Munroe說(shuō)。其中包括了從典型的信用卡欺詐到涉及COVID-19檢測(cè)的虛假交易的機(jī)會(huì)主義詐騙，Munroe補(bǔ)充說(shuō)。
為AI部署護(hù)欄
為了幫助匯豐驗(yàn)證其人工智能模型，并為其提供的數(shù)字服務(wù)提供支撐，Munroe正在使用來(lái)自CognitiveScale的軟件，后者的Cortex Certifiai軟件專(zhuān)注于降低商業(yè)風(fēng)險(xiǎn)。CognitiveScale的執(zhí)行主席Manoj Saxena稱(chēng)，Cortex Certifiai能夠幫助公司解釋機(jī)器所生成的預(yù)測(cè)，并揭示底層數(shù)據(jù)類(lèi)型、數(shù)據(jù)集、ML模型和AI開(kāi)發(fā)過(guò)程中的偏差，他將該解決方案描述為一種人工智能的測(cè)量工具，可以充當(dāng)可信賴AI的超文本傳輸協(xié)議。
Saxena曾在2007年至2014年領(lǐng)導(dǎo)IBM Watson解決方案，他說(shuō)該軟件還將有助于識(shí)別“數(shù)據(jù)漂移”，即通知ML模型中所包含的數(shù)據(jù)信號(hào)是否會(huì)隨著時(shí)間而變化。自COVID-19疫情爆發(fā)以來(lái)，數(shù)據(jù)漂移已經(jīng)成為了一個(gè)重大問(wèn)題，因?yàn)榭蛻舻馁?gòu)買(mǎi)模式已經(jīng)轉(zhuǎn)變?yōu)樵诰€購(gòu)買(mǎi)，從衛(wèi)生紙到個(gè)人防護(hù)設(shè)備的任何物品的購(gòu)買(mǎi)量都大幅飆升，迫使零售商必須面對(duì)供應(yīng)鏈的挑戰(zhàn)。這些不斷變化的動(dòng)態(tài)正在產(chǎn)生新的數(shù)據(jù)，而這些數(shù)據(jù)必須被納入到模型當(dāng)中。
銀行在這方面處于不利地位，因?yàn)樗鼈兡壳暗娜斯ぶ悄苣Ｐ驼庇诳紤]新消費(fèi)者模式所產(chǎn)生的數(shù)據(jù)。Munroe舉例說(shuō)，如果一個(gè)人在大流行封鎖之前從未在網(wǎng)上購(gòu)物，但突然在亞馬遜上購(gòu)物了，這就會(huì)在該行的欺詐檢測(cè)系統(tǒng)中發(fā)出信號(hào)。
門(mén)羅說(shuō):“有些模型沒(méi)有反映出我們和柯維德在一起的現(xiàn)實(shí)。”。“但隨著數(shù)字化應(yīng)用的持續(xù)和加速，會(huì)出現(xiàn)什么樣的規(guī)范呢?”
Cortex Certifiai使用“信任指數(shù)”來(lái)量化人工智能模型的數(shù)值分?jǐn)?shù)，它將幫助匯豐的數(shù)據(jù)模型解釋這些新的行為，這對(duì)于滿足客戶的需求來(lái)說(shuō)是至關(guān)重要的。“這是關(guān)于當(dāng)核心決策被委托給機(jī)器時(shí)，需要如何建立客戶的忠誠(chéng)度和信任，”Saxena說(shuō)。
CognitiveScale正在廣泛的商業(yè)案例中應(yīng)用它的軟件。在另一項(xiàng)概念驗(yàn)證中，一家公司正在使用Cortex Certifiai，當(dāng)他們呼叫交互式語(yǔ)音響應(yīng)系統(tǒng)時(shí)，就可用來(lái)將其客戶導(dǎo)向正確的支持聯(lián)系人，Saxena說(shuō)。
偉大的偏見(jiàn)之戰(zhàn)
這一解決方案似乎是為銀行量身定做的。盡管銀行對(duì)能否信任人工智能模型仍心存疑慮，但它們?nèi)栽跒榇祟?lèi)新興解決方案孤注一擲。
雖然CognitiveScale已經(jīng)從Norwest Venture Partners、Intel CAPItal、Microsoft Ventures、Westly Group和USAA等投資者那里獲得了5000萬(wàn)美元的資金，但無(wú)論它是否已經(jīng)觸及了能夠?yàn)檐浖袠I(yè)增值的甜點(diǎn)，對(duì)該公司的炒作可能只會(huì)被籠罩在其中的懷疑情緒所超越。
研究人工智能可解釋性的Gartner分析師Saniye Alaybeyi表示，使用決策樹(shù)和回歸算法的預(yù)測(cè)模型一直就存在著偏見(jiàn)，尤其是那些包含數(shù)千個(gè)if/then/else語(yǔ)句的預(yù)測(cè)模型。“這些都不是新的問(wèn)題，也都不是神經(jīng)網(wǎng)絡(luò)所特有的，”Alaybeyi說(shuō)。
向人工智能灌輸信任的關(guān)鍵是確保軟件開(kāi)發(fā)人員在交付給企業(yè)之前，能夠通過(guò)徹底的測(cè)試和驗(yàn)證，交付高質(zhì)量的人工智能模型，她表示。Alaybeyi認(rèn)為，做好防護(hù)欄的規(guī)劃將是滿足所有利益相關(guān)者需求的關(guān)鍵。
在這一點(diǎn)上，匯豐銀行表示同意。“將風(fēng)險(xiǎn)和合規(guī)性納入我們的文化并不是事后才想到的，”Munroe說(shuō)，“固有的設(shè)計(jì)和解決方案也需要內(nèi)置的控制和透明度。”
版權(quán)聲明：本文為企業(yè)網(wǎng)D1Net編譯，轉(zhuǎn)載需注明出處為：企業(yè)網(wǎng)D1Net，如果不注明出處，企業(yè)網(wǎng)D1Net將保留追究其法律責(zé)任的權(quán)利。
京公網(wǎng)安備 11010502049343號(hào)