人工智能有望成為2019年的技術(shù)流行語(yǔ)，多家機(jī)構(gòu)正在探索應(yīng)對(duì)無(wú)數(shù)挑戰(zhàn)的自動(dòng)化解決方案，并開(kāi)發(fā)了一些用例，以使它們能夠更有效地實(shí)現(xiàn)其使命。但是，一些IT領(lǐng)導(dǎo)者告誡不要在未先確定正確的使用案例或不考慮其缺點(diǎn)以及優(yōu)點(diǎn)的情況下追趕AI作為新興技術(shù)中的新亮點(diǎn)。

空軍首席技術(shù)官弗蘭克·科涅奇尼(Frank Konieczny)在周二的FedScoop安全轉(zhuǎn)型論壇上發(fā)表講話說(shuō)：“我們非常擔(dān)心偏見(jiàn)。”“當(dāng)我們查看一個(gè)系統(tǒng)時(shí)，請(qǐng)根據(jù)基準(zhǔn)數(shù)據(jù)查看它的分析。您將為實(shí)際使用它提供什么數(shù)據(jù)……尤其是當(dāng)我們使用救生系統(tǒng)時(shí)，我們對(duì)此非常關(guān)注。”

空軍正在研究人工智能和機(jī)器學(xué)習(xí)功能，但擔(dān)心該技術(shù)涉及的一些風(fēng)險(xiǎn)，尤其是考慮到機(jī)器學(xué)習(xí)所需的基線數(shù)據(jù)。

“安全基準(zhǔn)的問(wèn)題是，'敵人已經(jīng)在基準(zhǔn)中了嗎?'然后您就將敵人打入您的系統(tǒng)。”科涅奇尼說(shuō)。“這是您必須提出的問(wèn)題。另一個(gè)問(wèn)題是，“您的基準(zhǔn)是否有變化?”我們的基線一直在變化。因此，如果總是發(fā)生更改，您如何使用ML系統(tǒng)檢測(cè)更改?”Konieczny解釋說(shuō)，提出這些問(wèn)題使空軍能夠明智地選擇AI和機(jī)器學(xué)習(xí)應(yīng)用程序，從而確保它是一種力的乘數(shù)，而不是對(duì)用戶沒(méi)有實(shí)際好處的附加組件。

交通運(yùn)輸部CIO Ryan Cote同樣在不首先考慮收益的情況下猶豫是否實(shí)施AI。

他警告說(shuō)：“我認(rèn)為我們處于將AI應(yīng)用于網(wǎng)絡(luò)的早期，早期階段。”“我認(rèn)為我們今天能做的最好的事情就是看機(jī)器學(xué)習(xí)，并嘗試自動(dòng)化網(wǎng)絡(luò)衛(wèi)生的一些基本步驟。”

Cote迅速關(guān)閉了有關(guān)AI / ML的宣傳，鼓勵(lì)客戶將那些功能與數(shù)據(jù)分析和其他類似服務(wù)區(qū)分開(kāi)。

他開(kāi)玩笑說(shuō)：“我會(huì)說(shuō)營(yíng)銷炒作是10，交貨是1。”但是，他的確感謝許多公司通過(guò)提供軟件即服務(wù)(SaaS)而不是一次性購(gòu)買的方式顯示了對(duì)其產(chǎn)品的承諾。這種新模式使公司可以對(duì)其產(chǎn)品進(jìn)行持續(xù)更新，而不必每隔幾年就“簽入一次”以銷售更新版本。

除了風(fēng)險(xiǎn)，AI及其短期表親自動(dòng)化確實(shí)提供了一些有希望的用例。一種是增加當(dāng)前網(wǎng)絡(luò)安全專業(yè)人員的工作，以緩解勞動(dòng)力差距。

司法部CISO Nickolous Ward解釋說(shuō)：“即使我們有足夠的[專業(yè)人士]，也無(wú)法[分析]進(jìn)入任何SOC的數(shù)據(jù)量，并迅速采取行動(dòng)。”“如果我們不能在幾分鐘之內(nèi)采取行動(dòng)，一旦他們做出了最初的妥協(xié)，一個(gè)好的民族國(guó)家演員就已經(jīng)跳上了其他系統(tǒng)。”

沃德說(shuō)，司法部正在短期內(nèi)探索自動(dòng)化安全解決方案，包括機(jī)器人流程自動(dòng)化和編排，以填補(bǔ)這一空白并認(rèn)識(shí)到日益嚴(yán)峻的技術(shù)挑戰(zhàn)。

他說(shuō)：“我不能雇用足夠的人，也不能足夠快地訓(xùn)練他們，以便能夠查看我們每天處理的數(shù)據(jù)量。”“能夠擁有[自動(dòng)化]……如果沒(méi)有它，我們將無(wú)法贏得勝利。” Ward估計(jì)，司法部每天都會(huì)收到“數(shù)百萬(wàn)”的日志和警報(bào)。

退伍軍人事務(wù)部CISO保羅·坎寧安(Paul Cunningham)同意，新興技術(shù)有助于縮小差距。

他說(shuō)：“我們不會(huì)在一夜之間解決[勞動(dòng)力問(wèn)題]，但可以肯定的是，可能不會(huì)有人。它正在尋找技術(shù)來(lái)幫助我們減少進(jìn)行可靠的網(wǎng)絡(luò)安全所需的人員數(shù)量，并確保我們擁有合適的人員來(lái)查看這些事情是最重要的。那就是我認(rèn)為AI將成為解決方案的一部分—但不是唯一的一部分。”

坎寧安說(shuō)，VA的底線是“從頭到尾一直保護(hù)記錄和體驗(yàn)。”

Ward說(shuō)，從長(zhǎng)遠(yuǎn)來(lái)看，關(guān)鍵重點(diǎn)是確保網(wǎng)絡(luò)安全專業(yè)人員了解AI和機(jī)器學(xué)習(xí)的攻守方面。

他說(shuō)：“我的勞動(dòng)力將不得不發(fā)展。”“攻擊者越來(lái)越多地使用[AI]逃避我的安全技術(shù)。我們必須使用它來(lái)攻擊他們并阻止他們。但不僅如此。攻擊者開(kāi)始學(xué)習(xí)如何利用AI自身的弱點(diǎn)來(lái)?yè)魯I。我的安全團(tuán)隊(duì)需要能夠充分了解AI，以便他們能夠?qū)贯槍?duì)AI本身的攻擊，并…利用它來(lái)加快檢測(cè)和防御的速度。”

衛(wèi)生與公共服務(wù)部CIO高級(jí)顧問(wèn)Oki Mek建議使用區(qū)塊鏈作為保護(hù)數(shù)據(jù)集免受攻擊并同時(shí)利用它們進(jìn)行AI和機(jī)器學(xué)習(xí)的一種方法。