亞馬遜的機(jī)器學(xué)習(xí)部門關(guān)閉了過去三年一直在從事的人工智能(AI)項(xiàng)目。機(jī)器學(xué)習(xí)部門的一個(gè)團(tuán)隊(duì)一直在構(gòu)建計(jì)算機(jī)程序，這些程序旨在審查求職者的簡(jiǎn)歷，使他們的評(píng)分從1到5，這與購物者對(duì)從亞馬遜在線購買的產(chǎn)品的評(píng)價(jià)方式不同。

但是，在項(xiàng)目開始的一年之內(nèi)，該公司意識(shí)到其系統(tǒng)偏向女性申請(qǐng)人。

該軟件經(jīng)過培訓(xùn)，目的是通過觀察十年來提交給公司的簡(jiǎn)歷中的模式來審查申請(qǐng)人，其中大多數(shù)(由于高科技行業(yè)的男性主導(dǎo)地位)來自男性。因此，該系統(tǒng)告訴自己，男性候選人更可取，從而對(duì)包含“婦女”一詞的簡(jiǎn)歷進(jìn)行了懲罰，并降低了所有女性大學(xué)的畢業(yè)生的評(píng)級(jí)。通過使用固有偏差的數(shù)據(jù)進(jìn)行訓(xùn)練，從某種意義上講，機(jī)器學(xué)習(xí)出了厭女癥。

近三年來，人們對(duì)AI的興趣一直在增長(zhǎng)，尤其是在醫(yī)療保健領(lǐng)域。從疾病的診斷，以一天到一天的醫(yī)院管理，人工智能的發(fā)展具有醫(yī)療保健的各個(gè)方面幾乎變換電源。

AI可以為臨床醫(yī)生提供所有數(shù)據(jù)的綜合視圖，以查看在哪里最好地部署其產(chǎn)品，并在成像領(lǐng)域蓬勃發(fā)展，在AI領(lǐng)域它可以處理X射線和掃描產(chǎn)生的信息，其速度和準(zhǔn)確性越來越超出人類。該技術(shù)甚至已被用于教導(dǎo)開源假肢根據(jù)穿戴者的動(dòng)作進(jìn)行樞轉(zhuǎn)和移動(dòng)，并通過新的用戶數(shù)據(jù)在每一個(gè)轉(zhuǎn)彎處進(jìn)行改進(jìn)。

有關(guān)患者數(shù)據(jù)的隱私性以及在技術(shù)中納入疏忽歧視的風(fēng)險(xiǎn)的問題，使許多行業(yè)專家開始關(guān)注機(jī)器學(xué)習(xí)的倫理意義?？雌饋?，盡管該行業(yè)渴望看到一些有關(guān)醫(yī)學(xué)中機(jī)器學(xué)習(xí)道德的官方監(jiān)管準(zhǔn)則，但很少有利益相關(guān)者確定這些形式應(yīng)該采取什么形式。

面對(duì)商業(yè)壓力時(shí)人工智能的道德規(guī)范

在歐洲創(chuàng)新技術(shù)研究院(EIT)的健康部門進(jìn)行的一項(xiàng)調(diào)查中，有59%的醫(yī)療保健機(jī)器學(xué)習(xí)初創(chuàng)企業(yè)期望他們正在開發(fā)的AI技術(shù)需要獲得監(jiān)管部門的批準(zhǔn)，但只有22%的人可以提出建議應(yīng)該由道德和人工智能準(zhǔn)則來解決。

對(duì)他們而言，幸運(yùn)的是，由52個(gè)獨(dú)立專家組成的歐洲委員會(huì)AI高級(jí)專家組(AI HLEG)發(fā)布了可信賴人工智能的道德準(zhǔn)則。

這些指南列出了AI系統(tǒng)應(yīng)符合道德標(biāo)準(zhǔn)的關(guān)鍵要求。像Google，IBM和Microsoft這樣的大型科技公司也發(fā)布了自己的道德AI原則-當(dāng)許多醫(yī)療公司正在使用這些組織的開放式AI解決方案來運(yùn)行自己的項(xiàng)目時(shí)尤其方便。

但就目前情況而言，目前幾乎沒有官方的AI法規(guī)，甚至政府也被警告不要試圖對(duì)技術(shù)進(jìn)行過于嚴(yán)格的監(jiān)管。而且，當(dāng)AI受到更多的指導(dǎo)而不是實(shí)際規(guī)則的約束時(shí)，很難說這些新技術(shù)的開發(fā)者是否會(huì)認(rèn)真對(duì)待道德問題。

EIT Health首席執(zhí)行官簡(jiǎn)·菲利普·貝克(Jan-Philipp Beck)說：“如果您面臨業(yè)務(wù)壓力，并且需要確保您令投資者滿意，那么您是否真的會(huì)全力以赴，確保對(duì)自己的算法進(jìn)行實(shí)際的代表培訓(xùn)?”