人工智能已經(jīng)開(kāi)始以無(wú)所不在的，無(wú)形的方式塑造我們的生活。在其新的紀(jì)錄片《人工智能時(shí)代》中，F(xiàn)RONTLINE審視了這種前景并危及這項(xiàng)技術(shù)。招聘經(jīng)理，法院，執(zhí)法部門和醫(yī)院正在部署AI系統(tǒng)，有時(shí)甚至不知道被篩查人員的情況。盡管這些系統(tǒng)最初因其比人類更具客觀性而受到稱贊，但很快變得清楚的是算法也帶有偏差。

這是一個(gè)問(wèn)題，麻省理工學(xué)院的研究生研究員Joy Buolamwini知道第一手資料。她成立了算法正義聯(lián)盟，以引起人們的注意。今年早些時(shí)候，她在一次國(guó)會(huì)聽(tīng)證會(huì)上作證說(shuō)面部識(shí)別技術(shù)對(duì)民權(quán)的影響。

“算法偏差的主要問(wèn)題之一是您可能不知道它的發(fā)生，” Buolamwini告訴FRONTLINE。我們向她講述了她如何遇到算法偏差，她的研究以及她認(rèn)為公眾需要知道的內(nèi)容。

該訪談經(jīng)過(guò)了編輯，以確保篇幅和清晰度。

在她第一次遇到算法偏差時(shí)。

我第一次遇到面部檢測(cè)技術(shù)問(wèn)題時(shí)，實(shí)際上是當(dāng)我在佐治亞理工大學(xué)讀本科時(shí)，當(dāng)時(shí)我正在研究機(jī)器人。這個(gè)機(jī)器人的想法是看我是否可以和我一起玩躲貓貓。如果您的機(jī)器人看不到您，而我的機(jī)器人也看不到我，那么peek-a-boo并不會(huì)真正起作用。為了完成我的項(xiàng)目，我借了室友的臉。她的皮膚比我輕。…那是我第一次真正使用面部分析技術(shù)，并且發(fā)現(xiàn)它對(duì)我的工作方式與對(duì)其他人的工作方式不同。…

我繼續(xù)做很多事情，并成為麻省理工學(xué)院的研究生，我開(kāi)始從事使用面部分析技術(shù)，面部檢測(cè)的項(xiàng)目。因此，我所做的一個(gè)項(xiàng)目是稱為Aspire Mirror。您看著鏡子，相機(jī)檢測(cè)到您的臉，然后獅子會(huì)出現(xiàn)在您身上，或者您可能是受到啟發(fā)的人……

我沒(méi)有一直檢測(cè)到我的臉，所以我感到沮喪。那么，當(dāng)您對(duì)程序感到沮喪時(shí)該怎么辦?您調(diào)試。我開(kāi)始嘗試找出使之工作的方法。我實(shí)際上在手上畫(huà)了一張臉，然后系統(tǒng)檢測(cè)到我的手掌上的臉。我當(dāng)時(shí)想：“等一下，等一下，如果能檢測(cè)到我剛剛在手掌上畫(huà)的臉，那么現(xiàn)在就有可能了。”于是我環(huán)顧辦公室，白色的面具就在那里。所以我想，“沒(méi)有辦法!但是為什么不呢?”

我拿起白色面具，戴上它，當(dāng)我戴上白色面具時(shí)，它是瞬間的，我的意思是-它的象征意義并沒(méi)有對(duì)我失去。這很荒謬，系統(tǒng)可以檢測(cè)到不是真實(shí)人物的白色蒙版，但不一定檢測(cè)到我的臉。所以這真的是當(dāng)我開(kāi)始思考：“好吧，讓我們更深入地了解這些系統(tǒng)正在發(fā)生的事情。”…