“我們應該對人工智能非常小心……借助人工智能，我們正在召喚惡魔。”-麻省理工學院AeroAstro百年紀念研討會的埃隆·馬斯克(Elon Musk)

隨著技術的發(fā)展，新的風險和欺詐機會不斷升級。我們已經(jīng)看過“ deepfake”視頻，其中操縱著名人或政客的圖像以說或做他們從未做過的事情。Deepfake是一種基于人工智能(AI)的人類圖像合成技術。最初被視為“圖像”應用??程序的Deepfake，如今已被用于模仿語音。今年是首次報告的一次AI生成的語音Deepfake欺詐事件，用于進行重大欺詐。

根據(jù)《華爾街日報》2019年8月的一份報告，一家英國公司的首席執(zhí)行官被迫利用語音Deepfake將超過243,000美元轉移給網(wǎng)絡竊賊。這家身份不明的公司的首席執(zhí)行官認為他正在與他的老板(德國母公司的首席執(zhí)行官)通電話。在用“聲音”說話后，他按照命令立即將220,000歐元(約合243,000美元)轉入匈牙利供應商的假銀行賬戶。

該聲音屬于使用AI語音技術模仿該公司德國首席執(zhí)行官的罪犯。這種新的網(wǎng)絡欺詐形式由位于慕尼黑的金融服務公司Allianz SE的子公司Euler Hermes Group SA保險。歐拉·愛馬仕(Euler Hermes)的魯?shù)细?middot;基爾希(RüdigerKirsch)表示，受害者甚至認出了老板的德國口音，甚至帶有他特定的聲音“旋律”。

網(wǎng)絡賊打了三次電話。首先是發(fā)起轉移。第二，以欺騙手段聲稱已償還。第三人尋求后續(xù)付款。那時，毫無戒心的目標注意到還款沒有出現(xiàn)。然后，他注意到電話來自奧地利的電話號碼。

第二筆付款已暫停，但第一筆已從匈牙利帳戶轉至墨西哥的一筆，然后已撥至多個國際地點。

這怎么可能?

我們如何開始理解令人信服的語音Deepfake怎么可能?一家公司不僅聲稱發(fā)明了這項技術，而且還吹噓它。

今年夏天，來自總部位于多倫多的AI公司Dessa的研究人員宣布，他們已經(jīng)對流行的播客和喜劇演員Joe Rogan進行了完美的語音模擬。

根據(jù)Dessa的說法，他們制作了迄今為止所聽到的最逼真的AI語音模擬。他們的原始資料是Joe Rogan，他是美國最受歡迎的播客主持人之一。迄今為止，他的節(jié)目已播出超過1,356集，為技術吸收了數(shù)小時的語音樣本。

Rogan語音的模仿是使用名為RealTalk的文本到語音程序創(chuàng)建的，該程序僅使用文本輸入即可生成逼真的語音。因此，用戶只需要鍵入單詞，無需講話。最終結果包括微妙的細微差別，例如呼吸以及“ ums”和“ ahs”。如果有足夠的數(shù)據(jù)可用，該程序將能夠模仿任何人的聲音。(可以在Dessa自己的YouTube鏈接中聽到Rogan的深深造)。)