經(jīng)濟(jì)學(xué)人智庫(kù)(EIU)的一份報(bào)告說(shuō)，數(shù)據(jù)偏見(jiàn)導(dǎo)致對(duì)個(gè)人或群體的歧視是使用該技術(shù)的銀行面臨的最大風(fēng)險(xiǎn)之一。

據(jù)EIU稱，人工智能目前在銀行業(yè)議程中處于首位，而Covid-19造成的混亂已經(jīng)“加強(qiáng)”了該領(lǐng)域的采用。銀行正在使用AI為客戶創(chuàng)建更多個(gè)性化的銀行服務(wù)，實(shí)現(xiàn)后臺(tái)流程的自動(dòng)化，并與該領(lǐng)域開(kāi)創(chuàng)AI的數(shù)字挑戰(zhàn)者銀行的發(fā)展保持同步。

EIU的“監(jiān)督AI：銀行報(bào)告中的人工智能治理”表示，但是銀行將需要確?；诘赖?，公平和有據(jù)可查的AI決策。它說(shuō)，計(jì)算機(jī)做出的決定必須保持道德，沒(méi)有偏見(jiàn)，并且這些決定必須是可解釋的。

為了實(shí)現(xiàn)這些目標(biāo)，人工智能在設(shè)計(jì)上應(yīng)符合道德規(guī)范，應(yīng)監(jiān)控?cái)?shù)據(jù)的準(zhǔn)確性和完整性，開(kāi)發(fā)過(guò)程需要有據(jù)可查，銀行需要確保其具有適當(dāng)?shù)募寄芩健?/p>

歐洲，中東和非洲(EMEA)編輯總監(jiān)Pete Swabey – EIU的思想領(lǐng)導(dǎo)者說(shuō)：“人工智能被視為該領(lǐng)域的關(guān)鍵競(jìng)爭(zhēng)優(yōu)勢(shì)。我們的研究借鑒了全球監(jiān)管機(jī)構(gòu)的指導(dǎo)意見(jiàn)，強(qiáng)調(diào)了銀行要想安全，合乎道德地利用AI機(jī)會(huì)，必須應(yīng)對(duì)的主要治理挑戰(zhàn)。”

EIU認(rèn)為，可能缺乏人為監(jiān)督是一個(gè)主要問(wèn)題。該公司表示，應(yīng)優(yōu)先考慮招聘和培訓(xùn)具有適當(dāng)技能的人員：“銀行必須確保整個(gè)企業(yè)具有適當(dāng)水平的AI專業(yè)知識(shí)，以建立和維護(hù)AI模型，并監(jiān)督這些模型。”但是，作為IT的先驅(qū)，并憑借其豐富的IT技能和研究資金，銀行可以為AI開(kāi)發(fā)設(shè)定標(biāo)準(zhǔn)。

花旗創(chuàng)新實(shí)驗(yàn)室高級(jí)副總裁Prag Sharma表示：“偏差可以滲透到任何行業(yè)的AI模型中，但是與大多數(shù)類型的組織相比，銀行的定位要好得多。最大限度地提高算法的可解釋性有助于減少偏差。”

人工智能生態(tài)系統(tǒng)構(gòu)建商Skymind Global Ventures的聯(lián)合創(chuàng)始人亞當(dāng)·吉布森(Adam Gibson)表示，首先定義道德對(duì)產(chǎn)品的意義非常重要，因此在設(shè)計(jì)AI應(yīng)用程序時(shí)應(yīng)遵循一些準(zhǔn)則。

他說(shuō)：“此外，您需要思想和跨職能團(tuán)隊(duì)的多樣性，以研究您在其整個(gè)生命周期中構(gòu)建的服務(wù)的各個(gè)方面。”

“與來(lái)自不同背景的不同人的合作對(duì)于最大程度地減少AI決策過(guò)程中的偏見(jiàn)和道德上可疑的活動(dòng)至關(guān)重要。這不僅包括具有構(gòu)建技術(shù)技能的人員，還包括服務(wù)的用戶。他們將直接了解任何偏差，并能夠在啟動(dòng)AI服務(wù)之前的設(shè)計(jì)過(guò)程中對(duì)其進(jìn)行標(biāo)記。”

Gibson補(bǔ)充說(shuō)，AI是通過(guò)數(shù)據(jù)集構(gòu)建的，而種族主義AI模型通常來(lái)自種族主義數(shù)據(jù)集。他說(shuō)：“這是我們需要意識(shí)到的，以幫助最小化和保護(hù)我們免受對(duì)社會(huì)無(wú)益的創(chuàng)新。”