讓我們把精力放在建立安全的人工智能上

伊隆馬斯克最近評論了規(guī)范人工智能的必要性，并稱其為人類存在的風(fēng)險。正如任何人類創(chuàng)造的情況一樣，增加的杠桿技術(shù)可以為人類提供善或惡，但我們需要害怕人工智能并在其發(fā)展的早期對其進行規(guī)范的前提并不是很有根據(jù)。我們可能會考慮的第一個問題是，我們擔(dān)心的是人工智能可能會變得冷漠或惡意。

我提出這個問題是因為馬斯克本人之前已經(jīng)將人工智能的發(fā)展稱為“召喚惡魔”，將邪惡的形象與之聯(lián)系起來。對人類歷史的任何誠實評估都向我們表明，最令人震驚的惡意意圖可能來自人類的心靈和思想。

然而，歷史也表明，技術(shù)壓倒性地推動了我們共享的人類經(jīng)驗。從印刷機到互聯(lián)網(wǎng)，一直有反對者宣傳對新技術(shù)的恐懼。然而，當(dāng)領(lǐng)導(dǎo)者為集體利益引導(dǎo)時，這些技術(shù)雖然破壞了已知的生活方式，但卻在我們的人類經(jīng)歷中創(chuàng)造了一種積極的進化。AI也不例外。

在負(fù)責(zé)任的道德領(lǐng)導(dǎo)者手中，該技術(shù)有望以一種可以釋放無法想象的人類潛力的方式增強人的能力。與任何技術(shù)一樣，AI是中立的。技術(shù)的道德性反映了我們的集體道德，這取決于我們?nèi)绾芜x擇使用它。

想象一下歷史上任何一個擁有大型核武庫的獨裁者。如果他們的復(fù)仇武器是核彈并可以到達地球的所有地方，他們將如何塑造其余的歷史?例如，考慮一下Vlad the Impaler，Ivan the Terrible和Genghis Khan會做些什么。這些惡毒的人類不僅實際上成了男人的領(lǐng)袖和國王。技術(shù)已經(jīng)發(fā)展到一個瘋子可以為地球浪費的地步嗎?有了核武器，生物武器和化學(xué)武器，答案很遺憾，是的。我們已經(jīng)忍受了來自我們自身的惡意和技術(shù)的乘法效應(yīng)的存在風(fēng)險。我們不需要人工智能。

在這個階段陷入恐懼的犧牲將損害建設(shè)性的人工智能發(fā)展。有人認(rèn)為技術(shù)推動了歷史。如果有人的目的，那就是在學(xué)習(xí)，進化，進步和建設(shè)中找到它。發(fā)揮我們的創(chuàng)造潛力，擺脫困擾我們的資源限制以及帶來我們最壞情況的稀缺性。通過這種方式，人工智能 - 可以模仿最奇妙的人類品質(zhì)，思想品質(zhì)的技術(shù) - 可以成為一種解放力量和我們的最終成就。在這個階段，人工智能還有很多好處。

如果這還不夠，請花一點時間思考創(chuàng)新的不可逆轉(zhuǎn)性。沒有開發(fā)出有意義的技術(shù)，然后將其放回瓶中，可以這么說。當(dāng)世界被分割和斷開時，有時會丟失一些知識，但幾乎總是在一個獨立的思想家的地球的遙遠(yuǎn)角落重新發(fā)現(xiàn)，與原始發(fā)現(xiàn)無關(guān)。這就是技術(shù)和知識的本質(zhì)......它渴望被發(fā)現(xiàn)。如果我們認(rèn)為監(jiān)管和控制會阻礙人工智能的發(fā)展，那我們就錯了。他們可能做的是阻止那些有良好意愿的人開發(fā)它。他們不會停止休息。

在考慮禁令時，重要的是要考慮是否可以執(zhí)行禁令，以及受禁令明顯影響的各方如何實際行事。博弈論是一個涉及沖突與合作條件決策的數(shù)學(xué)分支，它提出了一個著名的問題叫做“囚徒困境”。

這種困境是這樣的：一個團伙A和B的兩名成員都被逮捕并獨立封鎖。如果他們互相背叛，每人都服刑兩年。如果A背叛了B，但是B并沒有暗示他的同志，那么A就會自由，但是B會服用三年。如果他們都保持沉默，他們每人服務(wù)一年。雖然似乎“光榮”的事情是保持沉默并服務(wù)一年，以便懲罰是平等和最小的，但任何一方都不能相信對方會采取這一光榮的過程。原因在于，通過背叛對方，可以獲得無恥行為的不光彩演員。B和A都必須考慮對方可能采取最適合自己情況的方法，如果是這種情況，被出賣方將遭受最大損害(即 三年監(jiān)禁)。因此，雙方可以采取的合理行動方針是相互背叛并“定居”一年。

讓我們擴展這個框架，看看它如何適用于AI禁令。人工智能顯然是一項在各個領(lǐng)域都具有變革影響的技術(shù); 從醫(yī)藥，制造業(yè)，能源到國防和政府。如果人工智能在活動中被禁止，那么會有多個政黨 - 在這種情況下的 - 在我們的囚徒困境中會開始像A和B一樣思考。如果他們尊重禁令，但其他人通過暗中繼續(xù)武器化人工智能的發(fā)展而“背叛”，那么其他人的優(yōu)勢就會最大化，而禁令追隨者的負(fù)面影響是巨大的。

如果所有各方都自愿放棄這種發(fā)展并遵守禁令，那么我們就有了最好的案例。但不能保證會出現(xiàn)這種情況......就像囚犯一樣，這些正在閉門造車，對另一方可能做的事情知之甚少。最后，如果所有各方都開發(fā)此類技術(shù)，那么情景就不如遵守禁令那么樂觀 - 存在風(fēng)險 - 但所有各方至少都意識到，如果其中任何一方?jīng)Q定使用人工智能武器，他們將面臨抵抗，即存在威懾力到位。

我們應(yīng)該希望人工智能用于良好嗎?要治愈而不是傷害?我們應(yīng)該致力于這一目標(biāo)并努力實現(xiàn)這一目標(biāo)嗎?當(dāng)然。但不要以欺騙自己為代價，認(rèn)為我們可以簡單地禁止我們的問題。AI就在這里，它就在這里。它將不斷變得更聰明，更有能力。知識希望被發(fā)現(xiàn)，沒有任何禁令可以阻止創(chuàng)新在時機到來時飆升。我們實際上需要在可解釋的人工智能，道德系統(tǒng)和人工智能安全等領(lǐng)域加倍投入更快速的人工智能推進，而不是沿著d和禁令的道路走下去。這些是并且可以成為真正的技術(shù)，能力和算法，可以安全處理事故和計數(shù)器，以便故意濫用。

除了我們的實驗室之外，在更廣泛的社區(qū)，包括德克薩斯大學(xué)奧斯汀分校，正在思考AI系統(tǒng)安全的各個方面，正在做大量的工作。讓我們走過“禁止思考”，卷起袖子，努力開發(fā)框架，讓人類積極地利用人工智能 - 我們最偉大的發(fā)明 - 讓我們的孩子獲得難以想象的獎勵。“