是什么東西使AI算法變得危險

歡迎閱讀AI書評，這是一系列探討人工智能最新文獻的文章。

在討論人工智能的威脅時，首先想到的是天網(wǎng)，黑客帝國和機器人啟示錄的圖像。排名第二的是技術失業(yè)，這是在可預見的未來的愿景，在該愿景中，人工智能算法將接管所有工作，并促使人們在不再需要人工勞動的世界中為無意義的生存而奮斗。

這些威脅中的任何一個還是兩個都是真實存在的，在科學家和思想領袖之間引起了激烈的爭論。但是AI算法也以不那么明顯和難以理解的方式構成了當今更加迫在眉睫的威脅。

在數(shù)學破壞性武器：大數(shù)據(jù)如何增加不平等并威脅民主的書中，數(shù)學家凱茜·奧尼爾(Cathy O'Neil)探索了盲目地相信算法以做出敏感決策如何傷害許多接受決策的人。

AI算法的危險可以表現(xiàn)在算法偏差和危險的反饋循環(huán)中，并且可以擴展到日常生活的各個領域，從經(jīng)濟到社會互動，再到刑事司法系統(tǒng)。

盡管在決策中使用數(shù)學和算法并不是什么新鮮事，但深度學習的最新進展以及黑匣子AI系統(tǒng)的泛濫放大了它們的影響，無論是好是壞。而且，如果我們不了解AI的當前威脅，我們將無法從其優(yōu)勢中受益。

危險AI算法的特征

我們使用算法進行建模以理解和處理許多事情。“畢竟，模型只不過是某種過程的抽象表示，無論是棒球比賽，石油公司的供應鏈，外國政府的行為，還是電影院的出席，”奧尼爾在《數(shù)學武器》中寫道破壞。“無論是在計算機程序中運行還是在我們的頭腦中運行，該模型都會利用我們所知道的知識，并用它來預測各種情況下的響應。”

但是，由于深度學習的進步以及我們生活各個方面的數(shù)字化日益增強，越來越多的模型已經(jīng)從我們的頭腦轉移到了計算機上。得益于寬帶互聯(lián)網(wǎng)，云計算，移動設備，物聯(lián)網(wǎng)(IoT)，可穿戴設備以及一系列其他新興技術，我們可以收集和處理越來越多關于任何事物的數(shù)據(jù)。

對數(shù)據(jù)和計算能力的這種不斷增長的訪問幫助創(chuàng)建了可以自動執(zhí)行越來越多任務的AI算法。以前僅限于研究實驗室的深度神經(jīng)網(wǎng)絡已經(jīng)進入許多以前對計算機具有挑戰(zhàn)性的領域，例如計算機視覺，機器翻譯，語音和面部識別。