人工智能開發(fā)過(guò)程中有很多步驟，但可以歸結(jié)為三個(gè)主要部分：學(xué)習(xí)，推理和自我糾正。在這些點(diǎn)上的每一個(gè)都涉及算法。在學(xué)習(xí)方面，用于AI模型的編程算法需要數(shù)據(jù)采集和標(biāo)記。推理需要AI為特定情況選擇最佳算法，然后進(jìn)行自我糾正，并不斷進(jìn)行改進(jìn)，直到達(dá)到其目的為止。

在這些階段的每一個(gè)階段(從計(jì)劃數(shù)據(jù)收集的早期階段到對(duì)AI的進(jìn)一步改進(jìn))，都有可能會(huì)潛伏到最終產(chǎn)品中。這些偏差通常是由于行業(yè)內(nèi)缺乏多樣性而引起的，并且經(jīng)常導(dǎo)致錯(cuò)誤，而這些錯(cuò)誤在所謂的“功能齊全”的機(jī)器中是無(wú)法接受的。

如果我們希望將道德規(guī)范整合到AI開發(fā)中，那么我們必須在流程的每個(gè)步驟中引入多樣性-從數(shù)據(jù)收集一直到產(chǎn)品測(cè)試。

在數(shù)據(jù)收集階段，考慮是非常重要的是如何將數(shù)據(jù)收集，處理和標(biāo)記。收集數(shù)據(jù)時(shí)是否考慮了文化偏見(jiàn)等問(wèn)題?數(shù)據(jù)可靠嗎?如何處理數(shù)據(jù)，使其代表機(jī)器可能遇到的所有情況?

在收集和處理培訓(xùn)數(shù)據(jù)時(shí)，重要的是讓數(shù)據(jù)科學(xué)家意識(shí)到可能存在的偏差。解決此問(wèn)題的一些方法是確保從各種樣本中收集足夠的數(shù)據(jù)。這本身是一個(gè)漫長(zhǎng)的過(guò)程，需要正念。

從一開始，負(fù)責(zé)該過(guò)程的人員就必須提出以下問(wèn)題：我們是否有足夠的數(shù)據(jù)，是否存在可以使用的現(xiàn)有數(shù)據(jù)集，以及如何生成可以使用的數(shù)據(jù)?如果有足夠的數(shù)據(jù)，我們是否需要改進(jìn)現(xiàn)有模型?還是我們需要更多的標(biāo)簽數(shù)據(jù)來(lái)更好地進(jìn)行機(jī)器學(xué)習(xí)?

在數(shù)據(jù)標(biāo)記階段，擁有一支多樣化的標(biāo)記團(tuán)隊(duì)可以幫助消除訓(xùn)練數(shù)據(jù)集的偏見(jiàn)，從而使數(shù)據(jù)集真正準(zhǔn)確，高質(zhì)量。提倡多樣性時(shí)，大多數(shù)人通常會(huì)想到性別，但是它比這更廣泛。種族，年齡，宗教，文化甚至收入可能是可能影響AI應(yīng)用方式的因素。