研究人員正在意識到AI許多子領(lǐng)域進(jìn)展緩慢的跡象

人工智能(AI)似乎變得越來越聰明。每部iPhone都能比上一部更好地學(xué)習(xí)您的臉部，聲音和習(xí)慣，并且AI對隱私和工作構(gòu)成的威脅不斷增長。激增反映出更快的芯片，更多的數(shù)據(jù)和更好的算法。麻省理工學(xué)院計算機(jī)科學(xué)系的研究生戴維斯·布拉洛克說，但其中的一些改進(jìn)來自調(diào)整而不是發(fā)明人聲稱的核心創(chuàng)新，而且其中的某些收獲可能根本不存在。Blalock和他的同事們對改善神經(jīng)網(wǎng)絡(luò)的數(shù)十種方法進(jìn)行了比較，這些方法是松散模仿大腦的軟件體系結(jié)構(gòu)。他說：“收錄了五十篇論文，很明顯，最新的技術(shù)水平還不是很明顯。”

研究人員評估了81種修剪算法，這些程序可以通過修剪不必要的連接來提高神經(jīng)網(wǎng)絡(luò)的效率。所有人都以略有不同的方式聲稱擁有優(yōu)勢。但是很少對它們進(jìn)行適當(dāng)?shù)谋容^-當(dāng)研究人員試圖對它們進(jìn)行并行評估時，沒有明顯的證據(jù)表明10年內(nèi)性能會有所改善。該結(jié)果在3月份的機(jī)器學(xué)習(xí)和系統(tǒng)會議上發(fā)表，使Blalock的博士感到驚訝。麻省理工學(xué)院計算機(jī)科學(xué)家約翰·古塔格(John Guttag)的顧問，他說比較不平衡本身可以解釋這種停滯。“那是舊鋸，對嗎?”古塔格說。“如果您無法測量某些東西，很難使其變得更好。”

研究人員正在意識到AI的許多子領(lǐng)域進(jìn)展緩慢的跡象。一個2019薈萃分析的信息檢索算法在搜索引擎中使用達(dá)成的“高水位標(biāo)記......在2009年實際上是設(shè)置”2019年的另一項研究復(fù)制了七個神經(jīng)網(wǎng)絡(luò)推薦系統(tǒng)，這些系統(tǒng)是媒體流服務(wù)使用的那種系統(tǒng)。研究發(fā)現(xiàn)，有6種方法無法勝過幾年前開發(fā)的更簡單的非神經(jīng)算法，當(dāng)時對早期技術(shù)進(jìn)行了微調(diào)，從而揭示了該領(lǐng)域的“幻象進(jìn)展”。在另一篇論文中康奈爾大學(xué)的計算機(jī)科學(xué)家凱文·穆斯格雷夫(Kevin Musgrave)于3月發(fā)布在arXiv上，他研究了損失函數(shù)，該函數(shù)是數(shù)學(xué)上確定其目標(biāo)的算法的一部分。馬斯格雷夫在一項涉及圖像檢索的任務(wù)中比較了十多個人，發(fā)現(xiàn)與開發(fā)人員的說法相反，自2006年以來，準(zhǔn)確性一直沒有提高。“一直存在這些大肆宣傳的浪潮，”馬斯格雷夫說。

機(jī)器學(xué)習(xí)算法的收益可以來自其體系結(jié)構(gòu)，損失函數(shù)或優(yōu)化策略的根本變化，即它們?nèi)绾问褂梅答佭M(jìn)行改進(jìn)?？▋?nèi)基梅隆大學(xué)的計算機(jī)科學(xué)家Zico Kolter說，但是對這些方法進(jìn)行的細(xì)微調(diào)整也可以提高性能。他研究了圖像識別模型，這些模型經(jīng)過訓(xùn)練可以免疫黑客的“對抗性攻擊”。早期的對抗訓(xùn)練方法稱為投影梯度下降法(PGD)，在該方法中，僅對真實和欺騙性示例進(jìn)行簡單的模型訓(xùn)練，似乎已被更復(fù)雜的方法所超越。但是在二月份的arXiv論文中，Kolter和他的同事發(fā)現(xiàn)，當(dāng)使用一個簡單的技巧來增強(qiáng)它們時，所有方法的執(zhí)行效果幾乎相同。