我們仍處于人工智能的初期，但它正迅速成為組織保護自身的重要組成部分。企業(yè)使用高級算法，可以改善事件響應，監(jiān)視潛在威脅并在危險標記生效之前對其進行解密。它也可以用來幫助識別人們可能忽略的漏洞。

這些都是必不可少的功能，可將網(wǎng)絡防御系統(tǒng)提升到過去的反動且費時的戰(zhàn)略之上。但是，許多組織尚未利用AI在網(wǎng)絡防御中最重要的應用：它缺乏同情心。

依靠你的信任

社會工程是由具有出色電話或電子郵件技能的人發(fā)起并執(zhí)行的，不涉及占據(jù)頭條新聞的高科技黑客。取而代之的是，黑客利用黑客試圖獲取的信息(例如，兩因素身份驗證中涉及的手機號碼或利潤豐厚的游戲帳戶的密碼)與客戶服務代理或其他任何人進行游戲。根據(jù)美國聯(lián)邦調查局(FBI)的互聯(lián)網(wǎng)犯罪投訴中心(Internet Crime Complaint Center)的數(shù)據(jù)，僅2018年一年，企業(yè)電子郵件妥協(xié)(BEC)這種流行的社會工程形式就造成了超過12億美元的損失。

盡管銀行和其他高價值實體可能是主要目標，但沒人能幸免。在黑客成功說服她的無線運營商激活新的SIM卡后，一名婦女損失了30,000美元的加密貨幣，然后該卡被用于破壞她對各種金融帳戶的兩因素身份驗證。在另一起事件中，Ubiquiti Networks虧損了3910萬美元，此前黑客冒充了一名高級職員，并說服財務部門完成了大規(guī)模的資金轉移。

甚至像獎勵程序這樣無害的東西也可能引起惡意威脅參與者的興趣。當前，企業(yè)通過使用員工應始終遵循的一組協(xié)議來培訓員工，以解決此問題。

不幸的是，網(wǎng)絡安全鏈中最薄弱的環(huán)節(jié)不是防火墻，而是人的力量。他們從事客戶服務業(yè)務，并渴望取悅。他們在遵循腳本方面也很糟糕，并且對知道所有正確話語的聰明騙子也不為所動。如果黑客聲稱他丟失了他的酒店獎勵卡，想將另一個發(fā)送到他的家中，然后詢問哪個地址在案，則呼叫中心代理可能會負責?，F(xiàn)在，一個陌生人已經(jīng)獲得了特定客戶的私人信息。

停在他們的軌道上

如果客戶代理程序之前裝有人工智能(特別是對話式AI)，則結果將大不相同。當世界上最大的游戲公司之一決定將對話式AI用作前端聊天代理時，便親身經(jīng)歷了這一過程。該公司以許多成功的視頻游戲特許經(jīng)營而聞名，該公司實施了Amelia來為客戶解決直接的游戲問題。該公司認為Amelia可以減少客戶花在等待解決問題上的時間，她做到了。但是，在工作一段時間后，Amelia也注意到了呼叫者有時會要求訪問沒有正確識別信息的帳戶，從而發(fā)現(xiàn)了網(wǎng)絡釣魚者。在游戲世界中，在將真正的金融工具納入游戲玩法并附加金融帳戶信息的情況下，賭注很高。人工客戶服務代理被要求交出帳戶憑證。阿米莉亞(Amelia)并非無可救藥，但事實并非如此。

制定程序時要考慮公司政策，Amelia并不喜歡社交工程技術。她只是想證明自己就是您所說的人，她堅持使用腳本并在行為出現(xiàn)危險時引入新的身份驗證形式來做到這一點。

最初的成功至少部分成功。與人工代理相比，Amelia能夠在更短的時間內解決客戶投訴，并且她還減少了欺詐性帳戶的使用-但客戶滿意度下降了。消費者如何被AI所困擾，以防止其帳戶信息被盜?

當我們查看正常和逐步升級的聊天期間Amelia與客戶之間發(fā)生的事情的筆錄時，原因就很清楚了。她堅持這一過程，并不允許自己被黑客欺騙，反過來，黑客又給了她較低的客戶滿意度，而游戲公司的呼叫中心卻給Amelia好評如潮。