在不斷發(fā)展的網(wǎng)絡(luò)威脅環(huán)境中，防病毒程序和防火墻被視為古代工具，公司目前正在尋找所有技術(shù)更先進(jìn)的方法來(lái)保護(hù)機(jī)密和敏感數(shù)據(jù)。人工智能(AI)正在接受這種情況，以應(yīng)對(duì)全球范圍內(nèi)的數(shù)字威脅。它已成為軍事領(lǐng)域的主流，但是安全組織也正在整合AI技術(shù)，以使用深度學(xué)習(xí)來(lái)發(fā)現(xiàn)數(shù)據(jù)集中的相似之處和差異。像Microsoft這樣的組織正在向基于AI的組織投入10億美元，例如Open AI。

正如ESG研究表明的那樣，有29%的安全專(zhuān)家希望利用AI創(chuàng)新來(lái)加速病毒檢測(cè)過(guò)程。此外，有27%的企業(yè)希望通過(guò)這種創(chuàng)新來(lái)縮短事件響應(yīng)時(shí)間。對(duì)AI安全性的興趣源于AI可以在短時(shí)間內(nèi)進(jìn)行分析的代碼的復(fù)雜性。

盡管AI可以在網(wǎng)絡(luò)安全領(lǐng)域發(fā)揮作用，但在大多數(shù)情況下，并不是由AI驅(qū)動(dòng)這些解決方案。通常，受過(guò)訓(xùn)練的機(jī)器學(xué)習(xí)和AI是令人困惑的術(shù)語(yǔ)。在沒(méi)有合法編程的情況下，人工智能和機(jī)器學(xué)習(xí)的思考能力有所不同。安全組織利用機(jī)器學(xué)習(xí)為這些技術(shù)編寫(xiě)復(fù)雜的算法，以最好地識(shí)別安全漏洞。但是，AI系統(tǒng)可以達(dá)到新的分辨率，而不會(huì)滋養(yǎng)任何新的算法或數(shù)據(jù)。

安全領(lǐng)域中機(jī)器學(xué)習(xí)的挑戰(zhàn)是惡意軟件代碼在不斷變化，這意味著機(jī)器學(xué)習(xí)網(wǎng)絡(luò)安全創(chuàng)新背后的編碼人員應(yīng)始終保持完美，并更改算法以向創(chuàng)新展示如何檢測(cè)這些新代碼。但是，防御者能否真正保持對(duì)黑客的了解?當(dāng)然，這是乞求被證明是錯(cuò)誤的。這是AI可以理解的問(wèn)題。如果有意識(shí)的機(jī)器能夠以其惡意軟件合作伙伴的速度發(fā)展，我們就可以更好地防御它。

人工智能具有融合新的，復(fù)雜但尚未嘗試的武器的能力，例如網(wǎng)絡(luò)攻擊能力。這種進(jìn)步令人震驚，因?yàn)榫W(wǎng)絡(luò)進(jìn)攻性武器具有破壞主要國(guó)家之間軍事力量均等化的能力。隨著人工智能和機(jī)器學(xué)習(xí)技術(shù)的出現(xiàn)，網(wǎng)絡(luò)攻擊已成為關(guān)鍵基礎(chǔ)設(shè)施(如機(jī)場(chǎng)航班跟蹤，銀行系統(tǒng)，醫(yī)院記錄以及運(yùn)行該國(guó)基本基礎(chǔ)設(shè)施和核反應(yīng)堆的程序)越來(lái)越普遍的危險(xiǎn)。

阿拉伯聯(lián)合酋長(zhǎng)國(guó)人工智能?chē)?guó)務(wù)部長(zhǎng)奧馬爾·奧拉瑪(Omar Al Olama)警告說(shuō)，各國(guó)政府對(duì)采取積極措施以確保AI框架安全的失望“將再次侵蝕我們”。研究建議最值得注意的問(wèn)題之一是網(wǎng)絡(luò)武器的不穩(wěn)定影響，而人工智能技術(shù)對(duì)區(qū)域力量平衡的影響越來(lái)越大。

盡管沒(méi)有確切證據(jù)表明關(guān)鍵基礎(chǔ)設(shè)施的指揮和控制系統(tǒng)傾向于網(wǎng)絡(luò)攻擊，但由于這些系統(tǒng)的數(shù)字化，因此存在漏洞。人工智能網(wǎng)絡(luò)武器的不穩(wěn)定影響仍然是每個(gè)國(guó)家關(guān)注的重大問(wèn)題。毫無(wú)疑問(wèn)，防范這些武器并保護(hù)該國(guó)的軟件，硬件和私人信息免受網(wǎng)絡(luò)攻擊已成為國(guó)家安全的重要問(wèn)題。

與眾不同的是，利用機(jī)器學(xué)習(xí)來(lái)發(fā)展網(wǎng)絡(luò)威脅的同時(shí)，也在利用這些進(jìn)步來(lái)進(jìn)行安全性和保護(hù)，同時(shí)明確地生成新的惡意軟件樣本。預(yù)計(jì)程序員將利用這些技術(shù)來(lái)修改新樣本中的代碼，具體取決于安全系統(tǒng)如何識(shí)別更多較老的疾病。由于它將變得更小并且越來(lái)越難以檢測(cè)，因此可以延長(zhǎng)系統(tǒng)感染的壽命。

政策制定者應(yīng)與技術(shù)專(zhuān)家密切合作，以調(diào)查，預(yù)防和應(yīng)對(duì)潛在的威脅性AI使用。研究建議制造AI零時(shí)差漏洞，此漏洞目前尚不為人所知，因此，在第一個(gè)實(shí)驗(yàn)之前很難建立其修復(fù)程序。此外，在AI領(lǐng)域進(jìn)行紅色團(tuán)隊(duì)演練，例如DARPA網(wǎng)絡(luò)大挑戰(zhàn)賽，同樣會(huì)更好地幫助您了解進(jìn)行攻擊和查找障礙的級(jí)別。當(dāng)前在公共領(lǐng)域的研究?jī)H限于白帽黑客，其計(jì)劃是利用機(jī)器學(xué)習(xí)來(lái)發(fā)現(xiàn)漏洞并提出修復(fù)建議。