OpenAI發(fā)布了文本生成的AI 稱它太危險了 無法共享

OpenAI研究實驗室已經(jīng)發(fā)布了文本生成的AI系統(tǒng)的完整版本，專家警告說，該系統(tǒng)可能用于惡意目的。

該機構(gòu)最初于今年2月發(fā)布了該系統(tǒng)GPT-2，但由于擔心該程序的完整版本會被用于傳播假新聞，垃圾郵件和虛假信息，因此拒絕了該程序的完整版本。從那時起，它發(fā)布了更小，更簡單的GPT-2版本，并研究了它們的接收情況。其他人也復制了工作。在本周的博客文章中，OpenAI現(xiàn)在表示“沒有明顯的濫用證據(jù)”，并已完全發(fā)布了該模型。

GPT-2可以撰寫虛假的新聞文章，故事，詩歌和代碼

GPT-2是新一代文本生成系統(tǒng)的一部分，它們以最少的提示生成連貫的文本的能力給專家留下了深刻的印象。該系統(tǒng)接受了從網(wǎng)絡(luò)上抓取的800萬個文本文檔的培訓，并且可以響應(yīng)用戶提供的文本片段。例如，給它提供一個偽造的標題，它將撰寫一個新聞故事;給它一首詩的第一行，它將提供一整節(jié)經(jīng)文。

確切地傳達GPT-2的輸出質(zhì)量是很棘手的，但是該模型通常會產(chǎn)生令人信服的，令人信服的文字，這些文字通?？梢允谷丝雌饋砗苈斆?盡管這并不是說GPT-2所做的事情涉及我們認為是認知的任何事情) 。但是，在該系統(tǒng)上玩了足夠長的時間，其局限性變得很明顯。它尤其遭受長期一致性的挑戰(zhàn);例如，在故事中始終使用字符的名稱和屬性，或者在新聞文章中使用單個主題。

感受GPT-2的能力的最佳方法是自己嘗試一下。您可以在TalkToTransformer.com上訪問Web版本，然后輸入自己的提示。(“變壓器”是用于創(chuàng)建GPT-2及其同伴的機器學習體系結(jié)構(gòu)的組成部分。)

除了GPT-2的原始功能外，該模型的發(fā)布還值得關(guān)注，這是有關(guān)AI研究人員減輕其工作造成的損害的責任的持續(xù)辯論的一部分。專家指出，對尖端AI工具的輕松訪問可以使惡意行為者發(fā)動攻擊。例如，通過使用Deepfake制作復仇色情影片，我們已經(jīng)看到了這種動態(tài)。由于這種擔憂，OpenAI限制了其模型的發(fā)布。

但是，并非所有人都對實驗室的方法表示贊賞。許多專家批評了這一決定，稱該決定限制了其他人為減輕該模型的危害而進行的研究的數(shù)量，并且對人工智能的危險進行了不必要的大肆宣傳。

“這句話‘太危險了’被隨便扔在這里沒有很多的思想或?qū)嶒灥模?rdquo;研究員Delip饒告訴瀕臨二月回來。“我認為[OpenAI]花費的時間不足以證明它實際上是危險的。”