想象一下，如果下次您申請貸款，計(jì)算機(jī)算法將決定您主要根據(jù)種族，性別或郵政編碼來支付較高的費(fèi)用。

現(xiàn)在，想象一下有可能訓(xùn)練一個(gè)AI深度學(xué)習(xí)模型以通過誘發(fā)失憶來分析基礎(chǔ)數(shù)據(jù)：它會忘記某些數(shù)據(jù)而只關(guān)注其他數(shù)據(jù)。

如果您認(rèn)為這聽起來像是計(jì)算機(jī)科學(xué)家撰寫的“一塵不染的永恒陽光”，那么您將不勝枚舉。多虧了南加州大學(xué)信息科學(xué)研究所(ISI)的AI研究人員，這個(gè)稱為對抗性遺忘的概念現(xiàn)已成為一種真正的機(jī)制。

該論文的主要作者和博士Ayush Jaiswal指出，隨著AI在我們?nèi)粘Ｉ钪械娜找嫫占?，解決和消除AI中的偏見的重要性變得越來越重要。南加州大學(xué)維特比工程學(xué)院的候選人。

他解釋說：“人工智能，更具體地說，機(jī)器學(xué)習(xí)模型繼承了他們所訓(xùn)練的數(shù)據(jù)中存在的偏差，并且甚至容易放大這些偏差。”“人工智能已被用來做出影響我們所有人的幾個(gè)現(xiàn)實(shí)生活中的決定，例如確定信貸額度，批準(zhǔn)貸款，對工作申請進(jìn)行評分等。例如，如果做出這些決定的模型在歷史上受到盲目訓(xùn)練在不控制偏見的情況下獲得數(shù)據(jù)，他們將學(xué)會不公平地對待屬于歷史上處于不利地位的人口群體的個(gè)人，例如婦女和有色人種。”

該研究由ISI研究小組負(fù)責(zé)人Wael AbdAlmageed和南加州大學(xué)維特比分校的謝明電子與計(jì)算機(jī)工程系的研究副教授，研究副教授Greg Ver Steeg以及計(jì)算機(jī)科學(xué)與工程學(xué)教授Premkumar Natarajan領(lǐng)導(dǎo)。 ISI執(zhí)行董事(請假)。在他們的指導(dǎo)下，賈伊斯瓦爾(Jaiswal)和合著者丹尼爾·莫耶(Daniel Moyer)博士開發(fā)了對抗性遺忘方法，該方法教授深度學(xué)習(xí)模型來忽略特定的，不需要的數(shù)據(jù)因素，從而使它們產(chǎn)生的結(jié)果無偏且更準(zhǔn)確。

該研究論文名為“通過對抗遺忘實(shí)現(xiàn)不變表示”，于2020年2月10日在紐約市人工智能促進(jìn)協(xié)會會議上發(fā)表。