金融服務(wù)公司需要考慮使用AI技術(shù)會產(chǎn)生什么業(yè)務(wù)結(jié)果，這將如何影響他們公平對待客戶的能力，以及他們是否可以在決策過程中保持透明度和問責制。

解決這些問題將有助于金融服務(wù)企業(yè)有效管理公認的不公平偏見和歧視風險，并評估與AI供應(yīng)商合作時應(yīng)尋求的合同保護水平。

公司可以采取盡職調(diào)查步驟，并且可以選擇合同選擇權(quán)。

金融服務(wù)在哪里使用人工智能?

當前，在前臺和后臺操作中都使用了AI技術(shù)，其中一些技術(shù)包括監(jiān)視用戶行為，招聘流程，保險決策，信用咨詢，承銷貸款以及反洗錢和欺詐檢測流程。人工智能也被資本市場所接受。據(jù)國際貨幣基金組織稱，現(xiàn)在有三分之二的現(xiàn)金股權(quán)交易與自動交易有關(guān)。

鑒于進入金融服務(wù)業(yè)務(wù)的數(shù)據(jù)范圍之廣和規(guī)模之大，重要的是要考慮AI工具是否恰當?shù)刂贫藳]有偏見或偏見的決策，以避免法律索賠，監(jiān)管機構(gòu)罰款和聲譽受損。

這些是公認的風險。根據(jù)歐洲業(yè)管理局(EBA)的說法，“在金融服務(wù)中使用AI會引發(fā)有關(guān)它是否對社會有益[以及]它是否造成或加劇偏見的問題”，數(shù)據(jù)倫理與創(chuàng)新中心的AI晴雨表報告說： “財務(wù)決策中的偏見被視為使用數(shù)據(jù)驅(qū)動技術(shù)帶來的最大風險”。

一些公司已經(jīng)接受了一些由AI主導(dǎo)的決策的審查，有些則認為它們偏向特定人群。

什么是偏見?

偏見的定義不同，并取決于使用它們的上下文。EBA將偏見稱為“偏向或反對某個人，物體或位置的偏見”。相反，歐洲委員會的技術(shù)定義將偏差描述為“一種通過系統(tǒng)地歪曲代表性而失去統(tǒng)計結(jié)果的效果”。劍橋英語詞典的定義規(guī)定，偏見是“由于允許個人意見影響您的判斷而以不公平的方式支持或反對特定的人或事物的行為”。通常，這些定義都凸顯了，實際上，作為下游過程，人工智能系統(tǒng)可能會不經(jīng)意地和無意識地產(chǎn)生偏差。