金融服務(wù)中的AI可以解決許多風(fēng)險(xiǎn)

金融服務(wù)公司需要考慮使用AI技術(shù)會(huì)產(chǎn)生什么業(yè)務(wù)結(jié)果，這將如何影響他們公平對(duì)待客戶的能力，以及他們是否可以在決策過程中保持透明度和問責(zé)制。

解決這些問題將有助于金融服務(wù)企業(yè)有效管理公認(rèn)的不公平偏見和歧視風(fēng)險(xiǎn)，并評(píng)估與AI供應(yīng)商合作時(shí)應(yīng)尋求的合同保護(hù)水平。

公司可以采取盡職調(diào)查步驟，并且可以選擇合同選擇權(quán)。

金融服務(wù)在哪里使用人工智能?

當(dāng)前，在前臺(tái)和后臺(tái)操作中都使用了AI技術(shù)，其中一些技術(shù)包括監(jiān)視用戶行為，招聘流程，保險(xiǎn)決策，信用咨詢，承銷貸款以及反洗錢和欺詐檢測(cè)流程。人工智能也被資本市場(chǎng)所接受。據(jù)國際貨幣基金組織稱，現(xiàn)在有三分之二的現(xiàn)金股權(quán)交易與自動(dòng)交易有關(guān)。

鑒于進(jìn)入金融服務(wù)業(yè)務(wù)的數(shù)據(jù)范圍之廣和規(guī)模之大，重要的是要考慮AI工具是否恰當(dāng)?shù)刂贫藳]有偏見或偏見的決策，以避免法律索賠，監(jiān)管機(jī)構(gòu)罰款和聲譽(yù)受損。

這些是公認(rèn)的風(fēng)險(xiǎn)。根據(jù)歐洲業(yè)管理局(EBA)的說法，“在金融服務(wù)中使用AI會(huì)引發(fā)有關(guān)它是否對(duì)社會(huì)有益[以及]它是否造成或加劇偏見的問題”，數(shù)據(jù)倫理與創(chuàng)新中心的AI晴雨表報(bào)告說： “財(cái)務(wù)決策中的偏見被視為使用數(shù)據(jù)驅(qū)動(dòng)技術(shù)帶來的最大風(fēng)險(xiǎn)”。

一些公司已經(jīng)接受了一些由AI主導(dǎo)的決策的審查，有些則認(rèn)為它們偏向特定人群。

什么是偏見?

偏見的定義不同，并取決于使用它們的上下文。EBA將偏見稱為“偏向或反對(duì)某個(gè)人，物體或位置的偏見”。相反，歐洲委員會(huì)的技術(shù)定義將偏差描述為“一種通過系統(tǒng)地歪曲代表性而失去統(tǒng)計(jì)結(jié)果的效果”。劍橋英語詞典的定義規(guī)定，偏見是“由于允許個(gè)人意見影響您的判斷而以不公平的方式支持或反對(duì)特定的人或事物的行為”。通常，這些定義都凸顯了，實(shí)際上，作為下游過程，人工智能系統(tǒng)可能會(huì)不經(jīng)意地和無意識(shí)地產(chǎn)生偏差。