網(wǎng)絡(luò)中的AI需要復(fù)雜的成本與收益分析

可能表示攻擊或由于攻擊而丟失的數(shù)據(jù)量要求監(jiān)控水平超出人類網(wǎng)絡(luò)安全專家團(tuán)隊(duì)所能達(dá)到的水平。威脅和異常檢測(TAD)的確切定義是自動(dòng)化的秘訣：在數(shù)據(jù)集中查找異常值，這是識別模式的重復(fù)性任務(wù)。

使用AI自動(dòng)化某些網(wǎng)絡(luò)安全任務(wù)有明顯的優(yōu)勢。這些模式的識別可以有助于建立預(yù)測模型，以在攻擊發(fā)生之前進(jìn)行識別，或者在攻擊進(jìn)行時(shí)提供決策支持。

這些AI應(yīng)用程序通?？梢詮臒o監(jiān)督學(xué)習(xí)中收集他們的見解，以進(jìn)行模型開發(fā)或神經(jīng)網(wǎng)絡(luò)，從而產(chǎn)生非常有希望的結(jié)果。但是，他們?nèi)狈閱蝹€(gè)決策提供透明解釋的能力。

網(wǎng)絡(luò)安全中的AI有兩個(gè)主要缺點(diǎn)

自動(dòng)化給網(wǎng)絡(luò)安全帶來了爭議。我們證明自動(dòng)化合理性的方法固有地需要信任。如果目標(biāo)是將寶貴的人員能力從重復(fù)的，費(fèi)時(shí)的任務(wù)中解放出來，則我們從根本上希望將人員從這些任務(wù)中解脫出來，這意味著我們必須信任該系統(tǒng)，以產(chǎn)生比團(tuán)隊(duì)負(fù)責(zé)的結(jié)果更好或更好的結(jié)果。

有一個(gè)基線假設(shè)，那就是當(dāng)我們實(shí)現(xiàn)自動(dòng)化時(shí)，這是因?yàn)槲覀兿嘈畔到y(tǒng)能夠令人滿意地完成任務(wù)。網(wǎng)絡(luò)安全中自動(dòng)化的許多好處來自AI應(yīng)用程序，這些應(yīng)用程序長期以來無法調(diào)用信任。

將AI應(yīng)用程序用于預(yù)測性和自動(dòng)化的網(wǎng)絡(luò)安全態(tài)勢，對贏得公司和受保護(hù)利益相關(guān)者的信任帶來了兩個(gè)主要挑戰(zhàn)。

首先，這些預(yù)測性網(wǎng)絡(luò)安全實(shí)施中的許多實(shí)施都依賴于無監(jiān)督的學(xué)習(xí)技術(shù)或神經(jīng)網(wǎng)絡(luò)，而這些技術(shù)或神經(jīng)網(wǎng)絡(luò)目前無法提供人類可讀的本地化解釋。

其次，這些應(yīng)用程序還展示了黑客可能利用的新漏洞，從而增加了公司的攻擊向量。對AI應(yīng)用程序的攻擊采用與傳統(tǒng)攻擊不同的形式。對AI應(yīng)用程序的攻擊不是竊取有效載荷，而是試圖改變或影響AI應(yīng)用程序的行為，從而對黑客有利。盡管在開發(fā)追溯應(yīng)用的解釋模型方面做出了努力并取得了一些成功，但在將AI用于自動(dòng)網(wǎng)絡(luò)安全策略時(shí)，目前尚無法建立高度信任。

網(wǎng)絡(luò)安全中的AI付出了代價(jià)

這兩個(gè)方面-AI非常適合許多網(wǎng)絡(luò)安全任務(wù)，以及當(dāng)前無法在不熟悉的環(huán)境中信任不熟悉的技術(shù)-意味著當(dāng)信任仍然存在時(shí)，我們將無法管理AI。我們需要針對AI的不同管理策略，尤其是對于網(wǎng)絡(luò)安全。我們需要不斷監(jiān)控，基準(zhǔn)測試，評估和改進(jìn)這些系統(tǒng)，而不是信任它們。

由于我們尚無法可靠地信任我們的AI網(wǎng)絡(luò)安全工具來提供解釋或不受后門攻擊或數(shù)據(jù)中毒的影響，因此我們必須對用來訓(xùn)練包括輸入數(shù)據(jù)的模型的框架保持懷疑，產(chǎn)生的結(jié)果以及我們對成功的衡量。