忘記埃隆·馬斯克的禁令 讓我們將精力投入建立安全的AI

埃隆·馬斯克(Elon Musk)最近評論了監(jiān)管AI的必要性，稱其為人類生存的風(fēng)險。就像任何人類創(chuàng)造的情況一樣，不斷增加的杠桿技術(shù)可以為人類帶來好事或壞事，但是我們在開發(fā)初期就必須擔(dān)心AI并對其進行規(guī)范的前提還不充分。我們可能要考慮的第一個問題是，我們擔(dān)心的是AI可能演變成的冷漠還是惡意。

我之所以提出這一點，是因為馬斯克本人曾將AI的發(fā)展稱為“召喚惡魔”，將邪惡的形象與它聯(lián)系在一起。對人類歷史的任何誠實評估都向我們表明，最令人震驚的惡意意圖可能來自人的心靈。

歷史還顯示，然而，技術(shù)極大地改善了我們共享的人類經(jīng)驗。從印刷機到互聯(lián)網(wǎng)，總是有反對者宣揚對新技術(shù)的恐懼。然而，當(dāng)被領(lǐng)導(dǎo)者為了集體利益而引導(dǎo)時，這些技術(shù)雖然破壞了已知的生活方式，但卻在我們的人類體驗中產(chǎn)生了積極的變化。AI也不例外。

在負責(zé)任的道德領(lǐng)導(dǎo)者手中，這項技術(shù)有望以一種可以釋放人類無法想象的潛力的方式來增強人類的能力。人工智能和其他任何技術(shù)都是中立的。技術(shù)的道德性反映了我們的集體道德，這取決于我們選擇使用技術(shù)的方式。

想象一下歷史上的任何獨裁者都擁有一個龐大的核武庫。如果他們的復(fù)仇武器帶有核尖頭并且可以到達地球的各個角落，那么他們將如何塑造其余的歷史呢?例如，考慮一下穿刺者弗拉德(Vlad the Impaler)，恐怖的伊凡(Ivan)和成吉思汗(Genghis Khan)會做的事情。這些惡毒的人不僅是人類的領(lǐng)袖，也是人類的國王。技術(shù)是否已經(jīng)發(fā)展到瘋子可以將廢物浪費到地球上的地步?對于核，生物和化學(xué)武器，答案是肯定的。我們已經(jīng)忍受了自己的惡意和技術(shù)的乘法效應(yīng)帶來的生存風(fēng)險。我們不需要人工智能。

在此階段令人恐懼的獵物將損害建設(shè)性AI的發(fā)展。有人爭論說技術(shù)驅(qū)動著歷史。如果有人類目的，就可以在學(xué)習(xí)，發(fā)展，進步和建設(shè)中找到。發(fā)揮我們的創(chuàng)造潛力，使自己擺脫困擾我們的資源限制和造成我們最糟糕情況的匱乏。這樣，人工智能(可以模仿人類最奇妙的素質(zhì)，思想素質(zhì)的技術(shù))可以成為解放力量和我們的最終成就。在這個階段，人工智能將帶來更多的收益。

如果那還不夠，請花一點時間思考創(chuàng)新的不可逆轉(zhuǎn)性?？梢赃@么說，還沒有開發(fā)出有意義的技術(shù)然后將其放回瓶子中。當(dāng)世界分裂和斷開時，有時會丟失一些知識，但是幾乎總是被某個獨立的思想家在地球的一個遙遠的角落重新發(fā)現(xiàn)，與原始發(fā)現(xiàn)無關(guān)。這就是技術(shù)和知識的本質(zhì)……它渴望被發(fā)現(xiàn)。如果我們認為規(guī)章制度會阻礙人工智能的發(fā)展，那我們就錯了。他們可能會做的是阻止有良好意愿的人發(fā)展這種愿望。他們不會停止其余的。

在考慮禁令時，重要的是要考慮是否可以執(zhí)行這些禁令，以及受禁令公開影響的各方實際上將如何行事。博弈論是與沖突和合作條件下的決策有關(guān)的數(shù)學(xué)分支，它提出了一個著名的問題，稱為《囚徒困境》。

困境是這樣的：一個團伙的兩個成員A和B都被分別逮捕和關(guān)押。如果他們兩個都出賣，則各自服刑兩年。如果A背叛B，但B沒有暗示他的同志，則A可以自由出任，而B可以任職三年。如果他們兩個都保持沉默，他們每個人都會服務(wù)一年。盡管看起來“榮譽”的事情是保持沉默并服務(wù)一年，以使懲罰是平等且微不足道的，但任何一方都不能相信另一方會遵循這一光榮的做法。原因是，通過背叛對方，這個不光彩的演員有可能獲得免于蘇格蘭的待遇。乙方和甲方都必須考慮到對方可能會選擇最適合自己情況的路線，如果是這種情況，被背叛的一方將遭受最大的損失(即 三年監(jiān)禁)。因此，雙方可采取的合理行動是相互背叛并“定居”一年。

讓我們擴展這個框架，看看它如何適用于AI禁令。顯然，人工智能是一項在每個領(lǐng)域都具有變革性影響的技術(shù)。從醫(yī)藥，制造，能源到國防和政府。如果AI被禁止用于行動，那么將有多個政黨-在這種情況下是-在我們的囚徒困境中將開始像A和B那樣思考。如果他們遵守禁令，但其他人通過秘密地繼續(xù)發(fā)展武器化的AI來“背叛”，那么對其他人的好處就會最大化，而對禁令的追隨者的負面影響則是巨大的。

如果各方自愿放棄這種事態(tài)發(fā)展并履行禁令，那么我們就有一個最好的情況。但是并不能保證會如此。就像囚犯一樣，這些在不了解對方可能會做什么的情況下，秘密地做出決定。最后，如果所有各方都開發(fā)這種技術(shù)，那么情況要比遵守禁令要容易得多，因為存在風(fēng)險。但是所有各方至少都知道，如果任何一方?jīng)Q定使用AI武器，他們將面臨抵抗，即存在威懾力到位。

我們是否應(yīng)該希望AI被永久使用?治愈而不是傷害?我們是否應(yīng)該致力于這一目標(biāo)并為之努力?當(dāng)然。但是，這并不以欺騙自己為代價，以為我們可以簡單地解決我們的問題。人工智能就在這里，而且它會一直存在。它將不斷變得更加智能和強大。知識希望被發(fā)現(xiàn)，并且在任何時候都不能禁止任何創(chuàng)新。我們實際上并不需要沿著可授權(quán)性和禁止性的道路走下去，而實際上需要在可解釋性AI，道德體系和AI安全性等領(lǐng)域更加快速地推進AI方面加倍投資。這些已經(jīng)成為并且可以成為真正的技術(shù)，功能和算法，這些技術(shù)，功能和算法將能夠安全處理事故和計數(shù)器，以蓄意濫用。

除我們的實驗室外，包括AI的德克薩斯州大學(xué)在內(nèi)的更廣泛的社區(qū)正在做大量工作來思考AI系統(tǒng)安全性的各個方面。讓我們超越“禁忌思維”，放下袖子，致力于開發(fā)框架，使人類能夠積極利用AI(這是我們的最大發(fā)明)并讓我們的孩子獲得難以想象的回報。