英特爾和佐治亞理工學(xué)院(Georgia Tech)今天宣布，他們已被選中領(lǐng)導(dǎo)國(guó)防高級(jí)研究計(jì)劃局(DARPA)的保證人工智能(AI)防止欺騙的魯棒性(GARD)計(jì)劃團(tuán)隊(duì))。在為期四年，耗資數(shù)百萬(wàn)美元的共同努力中，英特爾是主要承包商，以改善針對(duì)機(jī)器學(xué)習(xí)(ML)模型的欺騙性攻擊的網(wǎng)絡(luò)安全防御。

“英特爾和喬治亞理工大學(xué)正在共同努力，促進(jìn)生態(tài)系統(tǒng)對(duì)AI和ML漏洞的集體理解和緩解能力。通過(guò)對(duì)一致性技術(shù)的創(chuàng)新研究，我們正在合作開發(fā)一種方法，以增強(qiáng)對(duì)象檢測(cè)并提高AI和ML對(duì)對(duì)抗攻擊的響應(yīng)能力，”英特爾實(shí)驗(yàn)室首席工程師兼DARPA GARD計(jì)劃首席研究員Jason Martin說(shuō)來(lái)自英特爾。

對(duì)抗攻擊很少見，但它試圖欺騙，更改或破壞ML算法對(duì)數(shù)據(jù)的解釋。隨著AI和ML模型越來(lái)越多地納入半自治和自治系統(tǒng)中，不斷提高意外或欺騙性交互的穩(wěn)定性，安全性和安全性至關(guān)重要。例如，在像素級(jí)別的AI錯(cuò)誤分類和錯(cuò)誤解釋可能會(huì)導(dǎo)致圖像錯(cuò)誤解釋和標(biāo)簽錯(cuò)誤，或者對(duì)現(xiàn)實(shí)世界對(duì)象的細(xì)微修改可能會(huì)使AI感知系統(tǒng)混亂。GARD將幫助AI和ML技術(shù)更好地防御未來(lái)的潛在攻擊。

當(dāng)前的防御工作旨在防止特定的預(yù)定義對(duì)抗攻擊，但在超出其指定設(shè)計(jì)參數(shù)的條件下進(jìn)行測(cè)試時(shí)仍然容易受到攻擊。GARD打算以不同的方式處理ML防御-通過(guò)開發(fā)基礎(chǔ)廣泛的防御措施來(lái)解決給定情況下可能導(dǎo)致ML模型錯(cuò)誤分類或錯(cuò)誤解釋數(shù)據(jù)的多種可能的攻擊。由于其廣泛的架構(gòu)覆蓋范圍和安全領(lǐng)導(dǎo)地位，英特爾在幫助推動(dòng)AI和ML技術(shù)創(chuàng)新方面具有獨(dú)特的地位，并在成果中占有舉足輕重的地位。

GARD計(jì)劃的目標(biāo)是建立理論上的機(jī)器學(xué)習(xí)系統(tǒng)基礎(chǔ)，這些基礎(chǔ)不僅可以識(shí)別系統(tǒng)漏洞并描述特性以增強(qiáng)系統(tǒng)的魯棒性，而且可以促進(jìn)創(chuàng)建有效的防御措施。通過(guò)這些計(jì)劃要素，GARD的目標(biāo)是創(chuàng)建具有嚴(yán)格標(biāo)準(zhǔn)的抗欺騙性機(jī)器學(xué)習(xí)技術(shù)，以評(píng)估其有效性。

在GARD的第一階段，英特爾和佐治亞理工學(xué)院正在通過(guò)靜止圖像和視頻的空間，時(shí)間和語(yǔ)義一致性來(lái)增強(qiáng)對(duì)象檢測(cè)技術(shù)。英特爾致力于推動(dòng)AI和ML創(chuàng)新，并相信與全球熟練的安全研究人員合作是解決更廣泛行業(yè)和我們客戶潛在安全漏洞的關(guān)鍵部分。