您的位置: 首頁 >科技 >

為什么有這么多的人工智能系統(tǒng)以布偶命名

2022-06-30 16:50:16 編輯:郎飄明 來源:
導讀 最近人工智能最大的趨勢之一是創(chuàng)造了機器學習模型,可以以前所未有的流動性生成書面詞。這些程序是游戲改變者,可能會增強計算機分析和

最近人工智能最大的趨勢之一是創(chuàng)造了機器學習模型,可以以前所未有的流動性生成書面詞。這些程序是游戲改變者,可能會增強計算機分析和產(chǎn)生語言的能力。

但在很大程度上沒有被注意到的是一種次要的趨勢——第一種是陰影——這就是:這些工具中令人驚訝的數(shù)量是以木偶命名的。

到目前為止,這種新的語言人工智能包括一個ELMo,一個BERT,一個Grover,一個大的BIRD,一個Rosita,一個RoBERTA,至少兩個ERNI E(如果你包括ERNIE2.0)和一個KE RMIT。谷歌(Google)、Face book(Face book)和艾倫人工智能研究所(Allen Institute for AI)等大型科技運營商都參與其中,這股熱潮已經(jīng)波及全球,搜索巨頭百度(Baidu)和北京清華大學(Chinese University)貢獻了模式。命名慣例是如此成熟,以至于這些系統(tǒng)有時被稱為“木偶軟件”。但是誰開始了這個慣例,為什么?

正如你可能猜到的,簡單的答案是:這是一個內(nèi)部笑話,研究人員以木偶命名人工智能模型,因為其他研究人員以木偶命名人工智能模型。但這是一個笑話,恰好突出了人工智能研究的一個特殊特征,展示了實驗室如何相互尊重和建立在彼此的工作之上。

2018:語言范文要介紹芝麻街相關的縮略詞2019:語言范文需要芝麻街笑話中的標題,所有的談話至少需要一個芝麻街的形象。2020年:ACL/NAACL與《芝麻街公約》合署辦公,大鳥給出主旨。

這一趨勢始于ELMo,這是艾倫研究所設計的一種模式,并于2017年10月首次在線發(fā)布。正如打破新領域的研究經(jīng)常出現(xiàn)的情況一樣,這項工作的團隊希望為他們的模型找到一個時髦的縮略詞。該報的主要作者馬特·彼得斯(Matt Peters)在電子郵件中告訴《維格報》,他們對Slack的想法進行了頭腦風暴。

彼得斯說:“我們有一份可用縮寫字母的清單?!罢Z言模型、上下文、嵌入等”正是一位名叫喬爾·格魯斯(Joel Grus)的工程師提出了“ELMo”來代表“語言模型中的嵌入”,他說,這個名字“立刻卡住了”。

“我喜歡它,因為它有點異想天開,但令人難忘,”彼得斯說。“當時我的大兒子大約三歲,這也是我把報紙獻給他的方式。

如果不是BERT,ELMo可能是一次性的,這是谷歌AI團隊在2018年創(chuàng)建的一種語言模型。這種模式被證明是強大而有影響力的,并將許多關于語言生成的新穎想法推向了人工智能的主流。

BERT本身正式代表了來自Transformers的雙向編碼器表示,雖然谷歌拒絕了Verge的多項請求,以討論這個名字的起源,但人們普遍認為,研究人員,就像那些來自艾倫的人一樣,心中有木偶。在谷歌自己關于這個話題的博客文章中,該公司表示“BERT建立在最近在培訓前的上下文表示方面的工作基礎上-包括.ELMo?!?/p>

BERT在多項測試中取得了最先進的結(jié)果,并且非常成功,以至于谷歌最近將其納入了搜索引擎。一旦模型發(fā)布,木偶軟件的閘門就會打開,很快就會有許多聰明的算法出現(xiàn)在暴力縮略詞之后,包括ERNIE(通過知識集成增強表示)、KERMIT(Kontextuell編碼器表示)和BigBI RD(文檔的大雙向插入表示)。

但這種趨勢不僅僅是一個玩笑。正如艾倫研究所(Allen Institute)首席執(zhí)行官奧倫·埃佐尼(Oren Etzioni)所解釋的那樣,這也是承認人工智能世界內(nèi)部“智力債務”的一種嚴肅方式?!癊LMo的命名是一時興起,但BERT直接建立在ELMo的洞察力之上;Grover使用BERT等,”Etzioni在電子郵件中告訴Verge?!皬娬{(diào)ELMo的功勞對我們來說非常重要.Snuffaluffagus不可能落后太遠!

幫助創(chuàng)建KE RMIT和Big BIRD的伯克利博士學生米切爾·斯特恩(Mitchell Stern)說,命名大會大多很有趣,但也有“品牌方面”。

斯特恩在電子郵件中對《Verge》表示:“鑒于這一趨勢的廣泛性,在這一領域工作的人們自然會認識到新的文件中包含了芝麻街主題的名字。雖然并不是每個使用這些新技術的人工智能語言模型都是以一個提線木偶命名的(OpenAI的旅行豐富的GPT-2系統(tǒng)就是一個例外),但如果你看到一個木偶軟件模型,你就知道它在使用什么方法,這是一件非常確定的事情。

所有這些反過來又幫助我們理解人工智能世界如何依賴于開放和協(xié)作來產(chǎn)生和提煉想法。人工智能不是一門學科,在這門學科中,孤獨的科學家在夜間在實驗室里辛勤工作,通過處理器輸送電能,并在一條發(fā)光的命令行上咯咯地叫著“它已經(jīng)消失了”。(免責聲明:這當然會發(fā)生,但并不總是最有成效的方法。)相反,進步往往是迭代和協(xié)作的,研究人員群體建立在彼此的工作和想法之上。

雖然有可能木偶笑話很快就會穿薄,直到這種情況發(fā)生,這是一個合適的傳統(tǒng)。畢竟,協(xié)作和尊重正是《芝麻街》中人物應該引以為豪的特質(zhì)。


免責聲明:本文由用戶上傳,如有侵權請聯(lián)系刪除!

2016-2022 All Rights Reserved.平安財經(jīng)網(wǎng).復制必究 聯(lián)系QQ280 715 8082   備案號:閩ICP備19027007號-6

本站除標明“本站原創(chuàng)”外所有信息均轉(zhuǎn)載自互聯(lián)網(wǎng) 版權歸原作者所有。