在即時(shí)和長(zhǎng)期人工智能安全工作之間是否存在權(quán)衡

我經(jīng)常在機(jī)器學(xué)習(xí)社區(qū)和媒體文章中聽到的一點(diǎn)是“對(duì)超級(jí)智能的擔(dān)憂會(huì)分散我們今天面對(duì)人工智能的真實(shí)問(wèn)題X”(其中X =算法偏差，技術(shù)失業(yè)，可解釋性，數(shù)據(jù)隱私，等等)。這種競(jìng)爭(zhēng)態(tài)度給人的印象是，直接和長(zhǎng)期的安全問(wèn)題都存在沖突。但他們之間真的存在權(quán)衡嗎?

我們可以更具體地提出這個(gè)問(wèn)題：這兩種類型的努力可能會(huì)爭(zhēng)奪哪些資源?

媒體關(guān)注。鑒于媒體對(duì)人工智能的興趣濃厚，有很多關(guān)于所有這些問(wèn)題的文章。關(guān)于高級(jí)人工智能安全的文章大多是危言聳聽的終結(jié)者，他們忽略了問(wèn)題的復(fù)雜性。可以理解的是，這讓許多人工智能研究人員感到惱火，并且他們中的一些人基于媒體中提出的漫畫而不是真正的論點(diǎn)來(lái)解雇這些風(fēng)險(xiǎn)。媒體關(guān)注對(duì)高級(jí)AI風(fēng)險(xiǎn)的總體影響非常不利。如果媒體完全停止撰寫有關(guān)超級(jí)智能的文章并關(guān)注當(dāng)今人工智能系統(tǒng)的安全和道德問(wèn)題，我將非常高興。

資金。高級(jí)人工智能安全工作的大部分資金目前來(lái)自對(duì)這些問(wèn)題特別感興趣的捐助者和組織，如開放慈善項(xiàng)目和伊隆馬斯克。他們不太可能資助那些不能推廣到高級(jí)人工智能系統(tǒng)的安全工作，因此他們對(duì)高級(jí)人工智能安全研究的捐款并沒有從即時(shí)問(wèn)題中獲取資金。相反，F(xiàn)LI的第一個(gè)撥款計(jì)劃為當(dāng)前的人工智能問(wèn)題(如經(jīng)濟(jì)和法律影響)提供了一些資金。沒有一個(gè)固定的資金來(lái)源，即時(shí)和長(zhǎng)期的安全性正在競(jìng)爭(zhēng) - 它更像是兩個(gè)不重疊的餡餅。進(jìn)入這兩個(gè)領(lǐng)域的資金越來(lái)越多，希望這種趨勢(shì)將繼續(xù)下去。

天賦。近年來(lái)，先進(jìn)的人工智能安全領(lǐng)域不斷發(fā)展，但仍然非常小，研究人員開展研究所產(chǎn)生的“人才流失”迄今為止微不足道。處理當(dāng)前和長(zhǎng)期問(wèn)題的動(dòng)機(jī)也往往不同，這些問(wèn)題往往會(huì)吸引不同類型的人。例如，主要關(guān)心社會(huì)正義的人更有可能研究算法偏差，而主要關(guān)心長(zhǎng)期未來(lái)的人更有可能處理超級(jí)智能風(fēng)險(xiǎn)。

總體而言，在資金或人才方面似乎沒有太大的權(quán)衡，媒體關(guān)注權(quán)衡可以(理論上)通過(guò)將基本上所有的廣播時(shí)間用于當(dāng)前的關(guān)注來(lái)解決。這些問(wèn)題不僅沒有沖突 - 解決這些問(wèn)題之間存在協(xié)同作用。兩者都受益于在人工智能研究社區(qū)培養(yǎng)關(guān)注社會(huì)影響和積極主動(dòng)地應(yīng)對(duì)風(fēng)險(xiǎn)的文化。一些安全問(wèn)題在近期和長(zhǎng)期都非常重要，例如可解釋性和對(duì)抗性的例子。我認(rèn)為我們需要更多人為當(dāng)前系統(tǒng)解決這些問(wèn)題，同時(shí)考慮到更高級(jí)的未來(lái)系統(tǒng)的可擴(kuò)展性。

人工智能的安全問(wèn)題對(duì)于討論會(huì)因“我的問(wèn)題比你的問(wèn)題更好”這樣的地位競(jìng)賽而變得非常重要。這種錯(cuò)誤的二分法本身就分散了人們的共同目標(biāo)，即確保人工智能對(duì)現(xiàn)在和將來(lái)的世界產(chǎn)生積極影響。關(guān)心當(dāng)前和未來(lái)人工智能系統(tǒng)安全的人是天生的盟友 - 讓我們?cè)趯?shí)現(xiàn)這一共同目標(biāo)的道路上相互支持。

文明的大部分好處都源于智力，那么我們?nèi)绾尾拍芡ㄟ^(guò)人工智能增強(qiáng)這些好處，而不是在就業(yè)市場(chǎng)上取而代之，而且可能完全取而代之?