我們?nèi)绾晤A(yù)測 預(yù)防和減輕惡意使用AI的有害影響

這是由上周發(fā)布的一份長達100頁的報告提出的問題，該報告由來自14個機構(gòu)的26位作者撰寫。該報告是在英國牛津舉辦的為期兩天的研討會的結(jié)果，經(jīng)過數(shù)月的研究，提供了人工智能對安全影響的全面景觀。

作者包括來自人類未來研究所，存在風(fēng)險研究中心，OpenAI和新安全中心的代表，他們認為人工智能不僅改變了現(xiàn)有威脅的性質(zhì)和范圍，而且擴大我們將面臨的威脅范圍。他們對AI的許多有益應(yīng)用感到興奮，包括它將如何協(xié)助防御能力。但該報告的目的是調(diào)查有意惡意使用AI的安全威脅的情況。

“我們的報告?zhèn)戎赜谌藗內(nèi)绾螌θ斯ぶ悄苓M行故意傷害，”劍橋存在風(fēng)險研究中心執(zhí)行主任SeánÓhÉigeartaigh說。“人工智能可能會在網(wǎng)絡(luò)，物理和政治安全方面構(gòu)成新威脅，或改變現(xiàn)有威脅的性質(zhì)。”

重要的是，這不是關(guān)于遙遠未來的報道。所考慮的唯一技術(shù)是那些已經(jīng)可用或可能在未來五年內(nèi)的技術(shù)。因此，這一信息是緊迫的。我們需要承認風(fēng)險并采取措施來管理它們，因為技術(shù)呈指數(shù)級增長。正如記者Dave Gershgorn所說的那樣，“善人的每一次人工智能推進都是對壞人的推進。”

人工智能系統(tǒng)往往比傳統(tǒng)工具更高效，更具可擴展性。此外，人工智能的使用可以增加人們對所采取行動的匿名性和心理距離，從而可能降低和暴力行為的障礙。此外，人工智能系統(tǒng)有其獨特的漏洞，包括數(shù)據(jù)中毒的風(fēng)險，對抗性的例子，以及在設(shè)計中利用漏洞。支持AI的攻擊將超過傳統(tǒng)的網(wǎng)絡(luò)攻擊，因為它們通常會更有效，更有針對性，更難以歸因。

我們需要準(zhǔn)備的攻擊類型不僅限于復(fù)雜的計算機黑客攻擊。作者提出，有三個主要的安全域：數(shù)字安全，主要涉及網(wǎng)絡(luò)攻擊;物理安全，指用無人機和其他物理系統(tǒng)進行攻擊;和政治安全，其中包括監(jiān)視，通過有針對性的宣傳說服和通過操縱視頻欺騙等實例。這些域具有顯著的重疊，但該框架可用于識別不同類型的攻擊，其背后的基本原理以及可用于保護自己的選項范圍。

可以采取哪些措施來準(zhǔn)備在這些域中惡意使用AI?作者提供了很多很好的例子。報告中描述的情景可能是研究人員和政策制定者探索可能的未來和集體討論管理最關(guān)鍵威脅的方法的好方法。例如，想象一個商業(yè)清潔機器人被重新用作不可追蹤的爆炸裝置可能會嚇到我們，但它也暗示了為什么像機器人注冊要求這樣的政策可能是一個有用的選擇。

每個領(lǐng)域也有自己可能的控制點和對策。例如，為了提高數(shù)字安全性，公司可以提高消費者意識并激勵白帽黑客發(fā)現(xiàn)代碼中的漏洞。我們也可以向網(wǎng)絡(luò)安全社區(qū)學(xué)習(xí)，并采取措施，如人工智能開發(fā)的紅色團隊，人工智能系統(tǒng)的形式驗證，以及負責(zé)任的AI漏洞披露。為了提高人身安全，政策制定者可能希望規(guī)范硬件開發(fā)并禁止銷售致命的自主武器。同時，媒體平臺可以通過提供圖像和視頻真實性認證，虛假新聞檢測和加密來最小化對政治安全的威脅。

該報告還提供了四項高級別建議，這些建議并非旨在提供具體的技術(shù)或政策建議，而是提請注意值得進一步調(diào)查的領(lǐng)域。建議如下：

建議1：政策制定者應(yīng)與技術(shù)研究人員密切合作，調(diào)查，預(yù)防和減輕對AI的潛在惡意使用。

建議2：人工智能研究人員和工程師應(yīng)認真對待其工作的雙重性質(zhì)，允許濫用相關(guān)的考慮因素影響研究重點和規(guī)范，并在有害的應(yīng)用可預(yù)見時主動聯(lián)系相關(guān)行為者。

建議3：應(yīng)在研究領(lǐng)域確定最佳實踐，采用更成熟的方法解決計算機安全等雙重用途問題，并在適用于AI情況下導(dǎo)入。

建議4：積極尋求擴大參與討論這些挑戰(zhàn)的利益相關(guān)者和領(lǐng)域?qū)＜业姆秶?/p>

最后，該報告確定了進一步研究的幾個領(lǐng)域。其中第一個是向網(wǎng)絡(luò)安全社區(qū)學(xué)習(xí)，因為隨著基于AI的系統(tǒng)變得更加廣泛和有能力，網(wǎng)絡(luò)安全事件的影響將會增加。其他研究領(lǐng)域包括探索不同的開放性模型，促進AI研究人員的責(zé)任文化，以及開發(fā)技術(shù)和政策解決方案。

正如作者所述，“惡意使用人工智能將影響我們構(gòu)建和管理數(shù)字基礎(chǔ)設(shè)施的方式，以及我們?nèi)绾卧O(shè)計和分配人工智能系統(tǒng)，并可能需要政策和其他機構(gòu)響應(yīng)。”

雖然這只是人工智能將如何影響全球安全所需的理解的開始，但本報告推動了討論的進展。它不僅描述了許多與人工智能相關(guān)的緊急安全問題，而且還提出了我們今天可以開始為這些威脅做準(zhǔn)備的方法