Salesforce旨在為AI帶來(lái)更多常識(shí)

從更強(qiáng)大的語(yǔ)音和圖像識(shí)別到自動(dòng)駕駛汽車(chē)，機(jī)器學(xué)習(xí)和深度學(xué)習(xí)近年來(lái)已取得了許多突破。但是，這些試圖模仿大腦工作方式的人工智能技術(shù)的一個(gè)大問(wèn)題是，他們使用的神經(jīng)網(wǎng)絡(luò)不具備人們所擁有的常識(shí)性知識(shí)和上下文，例如社會(huì)習(xí)俗，物理學(xué)定律和原因和結(jié)果。

這可能會(huì)使他們的決策有時(shí)感到困惑或完全錯(cuò)誤—正如使用Alexa，Google助手或任何數(shù)量的客戶支持聊天機(jī)器人的人所知道的那樣。但也許不會(huì)太久。

Salesforce.com Inc.的研究團(tuán)隊(duì)今天宣布了一篇論文，概述了改善這種情況的方法。本文將在7月29日至8月的計(jì)算語(yǔ)言學(xué)協(xié)會(huì)年會(huì)上發(fā)表。2在佛羅倫薩，研究人員 建議不僅使用來(lái)自各種數(shù)據(jù)集的數(shù)據(jù)來(lái)訓(xùn)練神經(jīng)網(wǎng)絡(luò)模型，以如何準(zhǔn)確地回答許多問(wèn)題，而且還要解釋為什么這些答案是最佳的。

Salesforce聘請(qǐng)了Amazon.com Inc.的Mechanical Turk眾包服務(wù)人員，以舉例說(shuō)明今年早些時(shí)候由特拉維夫大學(xué)和艾倫人工智能研究所的研究人員提出的常識(shí)問(wèn)答或CQA數(shù)據(jù)集。

Salesforce首席科學(xué)家Richard Socher告訴SiliconANGLE：“基本上，它可以提取大量無(wú)人監(jiān)管的[未標(biāo)記](méi)文本，從該文本中提取常識(shí)，并為其提供推理。”

Salesforce研究科學(xué)家Nazneen Rajani補(bǔ)充說(shuō)，令人驚訝的結(jié)果是，僅在模型訓(xùn)練階段看到人為推理的示例后，神經(jīng)網(wǎng)絡(luò)在真實(shí)測(cè)試中的表現(xiàn)要好得多。她在博客中寫(xiě)道：“我們推測(cè)這些解釋捕獲了有關(guān)世界運(yùn)轉(zhuǎn)方式以及網(wǎng)絡(luò)在測(cè)試時(shí)根據(jù)這些信息進(jìn)行推理的有價(jià)值的信息。”

在研究的第二部分中，研究人員(包括Salesforce Research的Bryan McCann和Xiong Ximing在內(nèi))都訓(xùn)練了第二個(gè)神經(jīng)網(wǎng)絡(luò)，只是為了學(xué)習(xí)如何從大量閱讀的模仿CoS-E的人類(lèi)文本的文本中生成常識(shí)性推理。產(chǎn)生的解釋。這個(gè)常識(shí)自動(dòng)生成的解釋或CAGE框架在回答的準(zhǔn)確性方面做得更好，盡管它仍然遠(yuǎn)遠(yuǎn)落后于人類(lèi)95%的準(zhǔn)確度，但65%的分?jǐn)?shù)超過(guò)了其他最新方法。

麥肯表示，他希望隨著模型對(duì)世界知識(shí)的熟悉，結(jié)果會(huì)更好。他希望這些解釋將隨著時(shí)間的推移“填補(bǔ)空白”。

Salesforce在論文中承認(rèn)，還需要改進(jìn)的另一個(gè)領(lǐng)域，這幾天從實(shí)驗(yàn)室到華盛頓特區(qū)都引起了越來(lái)越多的關(guān)注：根除數(shù)據(jù)中的偏差，從而消除了模型中的偏差。例如，在CQA中，Salesforce研究人員注意到“明顯的性別差異和偏見(jiàn)，在負(fù)面語(yǔ)境中使用的女性代詞比例更高。”

拉賈尼說(shuō)，雖然可能需要在模型中而不是數(shù)據(jù)中發(fā)生，但尚不清楚如何解決這種偏差，目前尚無(wú)法清除所有偏差。McCann補(bǔ)充說(shuō)：“我們想研究一種減少偏見(jiàn)的旋鈕，”但至少新工作為神經(jīng)網(wǎng)絡(luò)如何解決這種偏見(jiàn)提供了更好的解釋。