微軟用人工智能代替人類編輯人員面臨著其第一個(gè)大尷尬。

5月下旬，Microsoft決定解雇MSN News的許多人工編輯器，并用AI代替它們。

本周早些時(shí)候，出現(xiàn)了一個(gè)有關(guān)Little Mix樂隊(duì)成員Jade Thirlwall面對(duì)種族主義的經(jīng)歷的新聞報(bào)道。這個(gè)故事看起來足夠純真，直到您意識(shí)到Microsoft的AI混淆了兩名混血樂隊(duì)成員。Thirlwall迅速指出了該錯(cuò)誤。

在Instagram故事中，瑟爾沃爾(Thirlwall)寫道：“ @ MSN如果您要從其他準(zhǔn)確的媒體渠道復(fù)制和粘貼文章，則可能需要確保使用的是該組中正確的混血兒形象。”

她補(bǔ)充說：“這種事發(fā)生在@leighannepinnock上，我一直都在開玩笑。。。這讓我感到惱火，因?yàn)槟銦o法在一個(gè)小組的四個(gè)成員中區(qū)分兩個(gè)有色女人……做得更好!”

據(jù)報(bào)道，微軟的人工編輯被告知要注意，人工智能隨后可能會(huì)針對(duì)自己的種族主義錯(cuò)誤發(fā)布故事，并手動(dòng)刪除它們。

MSN的工作人員還被告知要等待此《衛(wèi)報(bào)》文章的發(fā)布，并嘗試從網(wǎng)站上手動(dòng)刪除它，因?yàn)镸icrosoft機(jī)器人編輯器接任他們的工作很可能會(huì)引起MSN讀者的興趣。https://t.co/KkKDZqpHWu

-吉姆·沃特森(@jimwaterson)2020年6月9日

微軟新聞應(yīng)用程序最終充斥著有關(guān)該事件的故事。顯然，其余的人工編輯器無法與自動(dòng)編輯器相對(duì)快速地移動(dòng)。

有關(guān)新聞反烏托邦線程的最終更新：Microsoft的人工智能新聞應(yīng)用程序現(xiàn)在被新聞機(jī)器人選擇的有關(guān)新聞機(jī)器人回火的故事所淹沒。pic.twitter.com/X0LwfVxw8e

-吉姆·沃特森(@jimwaterson)2020年6月9日

根據(jù)沃特森的說法，最近被解雇的MSN人員被告知停止向他報(bào)告AI的工作。

這不是微軟首次以種族為基礎(chǔ)而采用人工智能技術(shù)的解決方案。

微軟開發(fā)的一個(gè)臭名昭著的Twitter聊天機(jī)器人Tay最終在2016年大肆宣揚(yáng)種族主義和厭惡性的硫酸鹽。顯然，聊天機(jī)器人的設(shè)計(jì)原本并不是那么令人討厭的角色，但出于某種原因，微軟認(rèn)為允許互聯(lián)網(wǎng)是一個(gè)好主意。居民來訓(xùn)練它。

在我們這個(gè)日益嚴(yán)酷的世界中，最緊迫的問題之一是大規(guī)模監(jiān)視和面部識(shí)別。盡管IBM本周宣布它不希望與這項(xiàng)技術(shù)有任何關(guān)系，但微軟仍然是主要參與者。

去年算法正義聯(lián)盟的一項(xiàng)實(shí)驗(yàn)發(fā)現(xiàn)，基于性別和膚色的面部識(shí)別算法的性能之間存在嚴(yán)重差異。

微軟的算法實(shí)際上在測(cè)試中表現(xiàn)最好，在檢測(cè)膚色較淺的男性時(shí)，其準(zhǔn)確性達(dá)到了100%。但是，在深色皮膚的女性身上使用該算法時(shí)，準(zhǔn)確率僅為79.2%。

如果使用該版本的Microsoft面部識(shí)別系統(tǒng)進(jìn)行監(jiān)視-十分之九的女性中有深色皮膚風(fēng)險(xiǎn)的人中有近兩個(gè)被錯(cuò)誤地標(biāo)記。在繁忙的地區(qū)，這可能意味著每天有數(shù)百甚至數(shù)千人面臨自動(dòng)配置文件。

雖然理想情況下算法不會(huì)有任何偏見或問題，但所有事件都表明了為什么很多人幾乎總是應(yīng)該參與最終決策的原因。這樣，當(dāng)出現(xiàn)問題時(shí)，至少要對(duì)特定人員負(fù)責(zé)，而不僅僅是怪AI錯(cuò)誤。