企業(yè)AI的領(lǐng)導(dǎo)者DataRobot今天發(fā)布了 一項(xiàng)新研究，揭示了美國和英國近一半(42%)的AI專業(yè)人員“非常”或“極其”擔(dān)心AI偏見。這項(xiàng)研究基于對350多名參與AI和機(jī)器學(xué)習(xí)購買決策的美國和英國高管的調(diào)查得出的結(jié)果-發(fā)現(xiàn)“品牌聲譽(yù)受損”和“客戶信任度下降”是最受AI偏見影響的因素，促使93 %的受訪者表示，他們計(jì)劃在未來12個(gè)月內(nèi)對AI偏差預(yù)防計(jì)劃進(jìn)行更多投資。

DataRobot可信AI副總裁Ted Kwartler說：“越來越多的組織正在部署AI，因?yàn)樗麄冋J(rèn)識(shí)到該技術(shù)是當(dāng)今商業(yè)環(huán)境中競爭的關(guān)鍵成功因素。” “盡管有這個(gè)事實(shí)，但我們發(fā)現(xiàn)AI的成熟度差異很大-許多組織仍在使用不可信任的AI系統(tǒng)。”

DataRobot的研究發(fā)現(xiàn)，盡管大多數(shù)組織(71%)目前依靠AI來執(zhí)行多達(dá)19個(gè)業(yè)務(wù)功能，但19%的組織使用AI來管理多達(dá)20-49個(gè)功能，而10%的技術(shù)利用該技術(shù)來解決50多個(gè)功能。雖然在企業(yè)內(nèi)部管理AI驅(qū)動(dòng)的功能可能非常有價(jià)值，但也會(huì)帶來挑戰(zhàn)。并非所有AI都一視同仁，并且如果沒有適當(dāng)?shù)闹R(shí)或資源，公司可能會(huì)以有害無益而不是有益的方式選擇或部署AI。

該調(diào)查發(fā)現(xiàn)，超過三分之一(38%)的AI專業(yè)人員仍在使用黑盒AI系統(tǒng)-這意味著他們幾乎無法理解其AI解決方案的數(shù)據(jù)輸入是如何被使用的。缺乏可見性可能導(dǎo)致受訪者擔(dān)心其組織內(nèi)出現(xiàn)AI偏差。

為了應(yīng)對AI偏見的情況，所有AI專業(yè)人員中有83%的人表示他們已經(jīng)建立了AI準(zhǔn)則，以確保AI系統(tǒng)得到正確維護(hù)并產(chǎn)生準(zhǔn)確，可信賴的輸出。此外：

60%的人創(chuàng)建了警報(bào)以確定數(shù)據(jù)和結(jié)果何時(shí)與培訓(xùn)數(shù)據(jù)不同

59%的人衡量AI決策因素

56%的人正在部署算法以檢測和緩解訓(xùn)練數(shù)據(jù)中的隱藏偏見

該調(diào)查還發(fā)現(xiàn)了美國和英國受訪者之間的文化差異，這可能是由每個(gè)地區(qū)的法規(guī)和文化環(huán)境所驅(qū)動(dòng)。盡管美國受訪者最擔(dān)心的是緊急情況的偏見-這是由于用戶與系統(tǒng)設(shè)計(jì)之間未對準(zhǔn)而產(chǎn)生的偏見，但英國受訪者更擔(dān)心的是技術(shù)偏見-或由于技術(shù)限制而產(chǎn)生的偏見。

為了加強(qiáng)預(yù)防AI偏差的努力，有59%的受訪者表示他們計(jì)劃投資于更先進(jìn)的白盒系統(tǒng)，有54%的受訪者表示他們將雇用內(nèi)部人員來管理AI信任，還有48%的受訪者表示他們打算邀請第三方供應(yīng)商監(jiān)督AI信任。除了這些預(yù)防AI偏見的措施外，全球所有受訪者中有85%的人認(rèn)為AI監(jiān)管將有助于定義什么構(gòu)成AI偏見以及應(yīng)如何預(yù)防。

DataRobot人工智能戰(zhàn)略副總裁Colin Priest說：“我們的發(fā)現(xiàn)表明，人工智能偏見仍然是當(dāng)今組織真正關(guān)心的問題，這是有充分理由的。” “盡管許多組織已開始采取正確的措施來減輕AI偏見-例如擺脫黑匣子系統(tǒng)并建立內(nèi)部AI準(zhǔn)則-但要贏得企業(yè)和消費(fèi)者的信任，還有許多工作要做。每個(gè)企業(yè)都必須將AI偏見教育作為優(yōu)先事項(xiàng)，以便他們可以在自己的AI系統(tǒng)中實(shí)施關(guān)鍵策略，以幫助防止這種情況的發(fā)生。”