許多人擔(dān)心技術(shù)的新出現(xiàn)，例如能夠創(chuàng)建看起來如此逼真的深度偽造，以至于很難分辨視頻和圖像是否是他們一目了然的人。谷歌希望更容易了解視頻是真實的還是深度偽造的，并且正在為深度偽造檢測研究做出貢獻(xiàn)。谷歌表示，雖然許多深度造假是為了幽默，但它們有可能對個人和社會有害。

谷歌表示，它認(rèn)為這些問題很嚴(yán)重，并指出它過去曾發(fā)布過一個合成語音數(shù)據(jù)集，以支持開發(fā)假音頻檢測器的國際挑戰(zhàn)。谷歌表示，作為挑戰(zhàn)的一部分，該數(shù)據(jù)集已被 150 多個研究和行業(yè)組織下載。相同的數(shù)據(jù)集現(xiàn)在可供公眾使用。

谷歌本周與 Jigsaw 合作推出了一個新的視覺深度偽造數(shù)據(jù)集。新數(shù)據(jù)集已被納入慕尼黑工業(yè)大學(xué)和那不勒斯費德里科二世大學(xué)的 FaceForensics 基準(zhǔn)測試。將數(shù)據(jù)集集成到基準(zhǔn)測試中將有助于識別假貨，可以在FaceForensics GitHub 頁面上下載。

谷歌表示，該領(lǐng)域正在迅速發(fā)展，隨著 deepfake 技術(shù)的發(fā)展，它將添加到數(shù)據(jù)集中。谷歌還承諾繼續(xù)與該領(lǐng)域的合作伙伴合作。谷歌指出，它“堅信”支持蓬勃發(fā)展的研究社區(qū)并減輕濫用合成媒體的潛在危害。

FaceForensics 數(shù)據(jù)集的新版本被稱為朝這個方向邁出的“重要一步”。為數(shù)據(jù)集創(chuàng)建的 deepfakes 使用了演員，雖然一些假貨看起來非常像演員，但其中一些看起來非常不同。