互聯(lián)網(wǎng)提供了建設(shè)性對話與合作的潛力

互聯(lián)網(wǎng)提供了建設(shè)性對話與合作的潛力，但在線對話往往會淪為人身攻擊。希望能夠避免這些攻擊，康奈爾大學(xué)的研究人員已經(jīng)創(chuàng)建了一個模型來預(yù)測哪些民事談話可能會發(fā)生毒性轉(zhuǎn)變。

在對維基百科上的數(shù)百個交易所進行分析后，研究人員開發(fā)了一個計算機程序，用于掃描紅旗 - 例如重復(fù)，直接提問和在前兩個帖子中使用“你”這個詞 - 來預(yù)測最初的民事談話會出錯。

研究發(fā)現(xiàn)，早期的交流包括問候，表達感激之情，諸如“似乎”的對沖以及“我”和“我們”這兩個詞更可能保持文明。

“有數(shù)百萬次這些討論，你不可能現(xiàn)場監(jiān)控它們。這個系統(tǒng)可能會幫助人類主持人更好地引導(dǎo)他們的注意力，”信息科學(xué)助理教授兼共同作者克里斯蒂安·丹尼斯庫 - 尼庫列斯庫 - 米齊爾說。文章“對話失?。喊l(fā)現(xiàn)會話失敗的早期跡象”。

“我們?nèi)祟悓θ绾螜z測某些事情是否變壞有直覺，但這只是一種懷疑。我們不能百分之百地做到這一點。因此，我們想知道我們是否可以建立系統(tǒng)來復(fù)制這種直覺，因為人類既昂貴又忙碌，我們認為這是計算機有可能超越人類的問題，“Danescu-Niculescu-Mizil說。

計算機模型也考慮了Google的Perspective，這是一種用于評估“毒性”的機器學(xué)習工具，大約65%的時間是正確的。人類在72%的時間里正確猜對了。

人們可以測試自己的能力來猜測哪些對話會在在線測驗中脫軌。

該研究分析了1,270個對話，這些對話是從民間開始但墮落為個人攻擊，從1600萬個維基百科“談話”頁面中的5000萬個對話中挑選出來，編輯們討論文章或其他問題。他們成對地檢查了交換，比較了每個在同一個主題上取得成功的會話，所以結(jié)果并沒有受到政治等敏感主題的影響。

該論文與康奈爾大學(xué)博士共同撰寫。信息科學(xué)專業(yè)學(xué)生Justine Zhang; 博士 計算機科學(xué)專業(yè)的學(xué)生Jonathan P. Chang和Yiqing Hua; Jigsaw的Lucas Dixon和Nithum Thain; 維基媒體基金會的Dario Taraborelli將于7月15日至20日在澳大利亞墨爾本舉行的計算語言學(xué)協(xié)會年會上發(fā)表演講。

研究人員希望這種模式可用于拯救風險對話并改善在線對話，而不是禁止特定用戶或?qū)彶槟承┲黝}。一些在線海報，例如非母語英語使用者，可能沒有意識到他們可能被認為是攻擊性的，這種系統(tǒng)的警告可以幫助他們自我調(diào)整。

“如果我有找到人身攻擊的工具，那已經(jīng)太晚了，因為攻擊已經(jīng)發(fā)生，人們已經(jīng)看到了，”Chang說。“但是，如果你理解這次談話朝著一個糟糕的方向前進并采取行動，那么這可能會讓這個地方更加歡迎。”