Google研究人員探索確保未來AI系統(tǒng)安全的方法

對未來人工智能系統(tǒng)出現(xiàn)問題的擔憂已引起Google研究人員的關注。在公司的DeepMind小組宣布與牛津大學的研究人員合作開發(fā)無賴AI系統(tǒng)的殺傷開關后不到兩周，谷歌發(fā)布了一份致力于解決AI安全風險的技術論文。

這篇名為“人工智能安全的具體問題”的論文是與斯坦福大學，加利福尼亞大學，伯克利分校和致力于人工智能研究的非營利性公司OpenAI的研究人員合作撰寫的。

它概述了研究人員說在當今相對較小的五個基本問題，但隨著機器在未來變得越來越智能，預測將具有更大的重要性。

谷歌研究員克里斯·奧拉赫(Chris Olah)在該公司的研究博客上說，本文探索了解決這些問題并確保將AI系統(tǒng)設計為以可靠且安全的方式運行的實用方法。

Olah說：“雖然可能的AI安全風險已經引起了公眾的廣泛關注，但大多數(shù)先前的討論都是非常假設性和推測性的。” 他說：“我們認為，在真正的機器學習研究中關注問題并開始為工程AI系統(tǒng)開發(fā)實用方法至關重要。”

機器學習和人工智能是Google的重要領域。該公司表示，希望利用這些領域的進步來改善其核心技術。它已經在某些應用程序中應用了AI和機器智能技術，包括Google Translate，Google Photos和語音搜索。

公司首席執(zhí)行官Sundar Pichai 表示，Google希望看到AI能夠從根本上改變人們的出行方式，完成日常任務并解決醫(yī)療保健和氣候變化等領域的問題。

OpenAI研究人員Paul Christiano和Greg Brockman在博客文章中指出，先進的AI意味著使AI系統(tǒng)更智能，更安全，并在新發(fā)布的技術論文中宣布了公司的作用。研究人員說，這意味著“確保AI系統(tǒng)能夠完成人們真正希望他們做的事情”。

新發(fā)布的Google技術論文研究的五個問題之一是確保AI系統(tǒng)在執(zhí)行功能時不會對環(huán)境造成負面影響的一種方法。例如，Olah指出要對清潔機器人進行編程，使其不要敲倒花瓶，即使這樣做可以更快地完成任務。

其他問題涉及找出確保機器人不會從事具有負面影響的活動的方法，例如將濕拖把插入電源插座，或者以適當安全的方式在不同的環(huán)境(例如車間或辦公室)中運行。

OpenAI的克里斯蒂安諾和布羅克曼說：“許多問題并不是新問題，但是本文是在尖端系統(tǒng)的背景下進行探討的。”

這份新的技術論文似乎是對解決AI安全相關問題日益加深關注的一部分。例如，谷歌與牛津大學的研究專注于確保未來的超智能AI系統(tǒng)永遠不會主動阻止操作員的干擾。目的是確保工程師能夠以一種不穩(wěn)定或不安全的方式開始安全關閉AI系統(tǒng)。