您可以信任您的人工智能嗎

人工智能(AI)是當(dāng)今時(shí)代最具變革性的技術(shù)之一。在技??術(shù)開始征服世界之前，應(yīng)預(yù)見并闡明安全風(fēng)險(xiǎn)和相關(guān)問題。這就是與AI安全相關(guān)的考慮至關(guān)重要的原因。

一旦出現(xiàn)新的創(chuàng)新，人們就會(huì)開始擔(dān)心安全問題-有時(shí)為時(shí)已晚。看看從1980年代開始發(fā)展的網(wǎng)絡(luò)開始的各種技術(shù)的進(jìn)步。網(wǎng)絡(luò)安全解決方案的增長始于1990年代。此后，個(gè)人計(jì)算機(jī)和防病毒軟件時(shí)代開始于2000年代。后來，在2010年代出現(xiàn)了應(yīng)用程序和應(yīng)用程序安全熱潮。至于人工智能，由于2010年代下半年是智能技術(shù)時(shí)代，因此在2020年代，我們很可能會(huì)看到對(duì)AI安全性的需求。

問題是，我們今天應(yīng)該關(guān)心這個(gè)可能的未來。已經(jīng)發(fā)生了許多重大事件，例如Tesla車禍，并且已經(jīng)發(fā)布了數(shù)千篇研究論文。我最近發(fā)表了幾篇技術(shù)文章，描述了為什么AI安全當(dāng)前如此重要，但讓我們看一下在計(jì)劃和法規(guī)領(lǐng)域已采取的不同步驟。蒙特利爾和多倫多已成為人工智能研究的熱點(diǎn)地區(qū)。加拿大對(duì)道德的關(guān)注很快導(dǎo)致了一些最早的國際AI道德原則。在加拿大高級(jí)研究所(CIFAR)的領(lǐng)導(dǎo)下，“泛加拿大人工智能戰(zhàn)略”于2017年3月22日發(fā)布。

接下來是。2017年3月31日，在其“人工智能技術(shù)戰(zhàn)略”中主要關(guān)注人工智能開發(fā)的文化和社會(huì)方面，并且將安全性列為生產(chǎn)力，健康和移動(dòng)性四個(gè)優(yōu)先領(lǐng)域之一。

人工智能安全舉措

2019年第一季度在和啟動(dòng)了許多AI安全計(jì)劃：

2019年2月2日：“安全，有保障的智能學(xué)習(xí)系統(tǒng)(SAILS)和人工智能木馬(TrojAI)”()

2019年2月6日：“保證AI對(duì)欺騙的魯棒性(GARD)”()

2019年2月：“惡意使用人工智能：預(yù)測，預(yù)防和緩解”()

2019年4月4日：“可信人工智能的道德準(zhǔn)則”()

2019年6月26日：“人工智能倫理準(zhǔn)則：背景與實(shí)施”()

這些文檔考慮了用于創(chuàng)建可抵抗攻擊的強(qiáng)大機(jī)器學(xué)習(xí)模型的理論，并研究了可能的AI威脅的情況以及預(yù)防或更好地減輕這些風(fēng)險(xiǎn)的方法。策略和治理的不同領(lǐng)域適用于AI及其實(shí)現(xiàn)，包括技術(shù)和數(shù)據(jù)保護(hù)。

預(yù)計(jì)到2020年和2021年，全球?qū)l(fā)布AI安全文件?？梢赃M(jìn)行進(jìn)一步的研究來分析新興的AI安全解決方案和計(jì)劃。除了了解AI安全計(jì)劃外，我們還需要遵循實(shí)施建議，并對(duì)AI開發(fā)人員，網(wǎng)絡(luò)安全專家和IT團(tuán)隊(duì)進(jìn)行有關(guān)如何在組織中實(shí)施AI安全的培訓(xùn)，或采取諸如AI安全評(píng)估等更實(shí)際的步驟。

如上所述，倡議的數(shù)量正在增長，并且有望在未來增加更多?？紤]到早期采用者已于2017年開始發(fā)布其戰(zhàn)略，并準(zhǔn)備在2019年僅兩年后才顯示有關(guān)AI的可信賴性和安全性的詳細(xì)文件，因此我們可以預(yù)測，許多后來加入AI計(jì)劃的將以同樣的方式行事。