企業(yè)AI的領(lǐng)導(dǎo)者DataRobot發(fā)布了一項(xiàng)新研究，該研究表明，美國(guó)和英國(guó)近一半(42%)的AI專業(yè)人員“非常”到“極其”關(guān)注AI偏見。該研究基于對(duì)350多名參與AI和機(jī)器學(xué)習(xí)購(gòu)買決策的美國(guó)和英國(guó)高管的調(diào)查而得出，結(jié)果發(fā)現(xiàn)“品牌聲譽(yù)受損”和“客戶信任度下降”是與AI偏見有關(guān)的最令人擔(dān)憂的問題，促使93%的受訪者表示，他們計(jì)劃在未來12個(gè)月內(nèi)對(duì)AI偏差預(yù)防計(jì)劃進(jìn)行更多投資。

DataRobot的研究發(fā)現(xiàn)，盡管大多數(shù)組織(71%)目前依靠AI來執(zhí)行多達(dá)19個(gè)業(yè)務(wù)功能，但19%的組織使用AI來管理多達(dá)20-49個(gè)功能，還有10%的技術(shù)利用該技術(shù)來解決50多個(gè)功能。雖然在企業(yè)內(nèi)部管理AI驅(qū)動(dòng)的功能可能非常有價(jià)值，但也會(huì)帶來挑戰(zhàn)。并非所有AI都一視同仁，并且如果沒有適當(dāng)?shù)闹R(shí)或資源，公司可能會(huì)以有害無益的方式選擇或部署AI。

調(diào)查發(fā)現(xiàn)，超過三分之一(38%)的AI專業(yè)人員仍在使用黑匣子AI系統(tǒng)-這意味著他們幾乎看不到AI解決方案的數(shù)據(jù)輸入是如何使用的。缺乏可見性可能導(dǎo)致受訪者擔(dān)心其組織內(nèi)出現(xiàn)AI偏差。

為了應(yīng)對(duì)AI偏見的情況，所有AI專業(yè)人員中83%的人說他們已經(jīng)建立了AI準(zhǔn)則，以確保AI系統(tǒng)得到正確維護(hù)并產(chǎn)生準(zhǔn)確，可信賴的輸出。此外：

60%的人創(chuàng)建了警報(bào)以確定數(shù)據(jù)和結(jié)果何時(shí)與培訓(xùn)數(shù)據(jù)不同

59%的人衡量AI決策因素

56%的人正在部署算法以檢測(cè)和緩解訓(xùn)練數(shù)據(jù)中的隱藏偏見

該調(diào)查還發(fā)現(xiàn)了美國(guó)和英國(guó)受訪者之間的文化差異，這可能是由每個(gè)地區(qū)的法規(guī)和文化環(huán)境所驅(qū)動(dòng)。美國(guó)受訪者最擔(dān)心的是緊急情況的偏見，這是由于用戶與系統(tǒng)設(shè)計(jì)之間未對(duì)準(zhǔn)而引起的偏見，而英國(guó)受訪者則更關(guān)注技術(shù)偏見，或者是由于技術(shù)限制而產(chǎn)生的偏見。

為了加強(qiáng)預(yù)防AI偏差的努力，有59%的受訪者表示他們計(jì)劃投資于更先進(jìn)的白盒系統(tǒng)，有54%的受訪者表示他們將雇用內(nèi)部人員來管理AI信任，還有48%的受訪者表示他們打算邀請(qǐng)第三方供應(yīng)商監(jiān)督AI信任。除了這些預(yù)防AI偏見的措施外，全球所有受訪者中有85%的人認(rèn)為AI法規(guī)將有助于定義什么構(gòu)成AI偏見以及應(yīng)如何預(yù)防。