為什么人工智能在發(fā)現(xiàn)網(wǎng)絡(luò)暴力方面仍然很糟糕

但由于每天都有大量的帖子出現(xiàn)在這些網(wǎng)站上，即便是這種人與機(jī)器的結(jié)合也很難跟上。人工智能要真正檢測出網(wǎng)絡(luò)上的仇恨言論或暴力行為還有很長的路要走。

機(jī)器學(xué)習(xí), 科技公司依靠人工智能技術(shù)發(fā)現(xiàn)令人討厭的內(nèi)容，找出如何在大量數(shù)據(jù)中發(fā)現(xiàn)模式;它可以識別特定語境中的攻擊性語言、視頻或圖片。這是因?yàn)檫@些帖子遵循人工智能可以訓(xùn)練的模式。例如，如果你給一個機(jī)器學(xué)習(xí)算法大量的槍支圖像或書面的宗教誹謗，它可以學(xué)會在其他圖像和文本中發(fā)現(xiàn)這些東西。

然而 在，人工智能并不擅長理解一些事情，比如誰在寫作或上傳圖片，或者在周圍的社會或文化環(huán)境中什么可能是重要的。

俄勒岡大學(xué)(University of Oregon)研究人工智能和機(jī)器學(xué)習(xí)的副教授丹尼爾·洛德(Daniel Lowd)說，尤其是涉及到煽動暴力的言論時，語境“非常重要”。

評論可能表面上聽起來很暴力，但實(shí)際上是對暴力的諷刺。或者，它們聽起來可能無害，但對于了解最近的新聞或創(chuàng)建它們的當(dāng)?shù)匚幕娜藖碚f，它們是危險的。

“幾個字的影響很大程度上取決于文化背景，”洛德說。他指出，即使是人類版主也很難在社交網(wǎng)絡(luò)上分析這一點(diǎn)。

識別暴力

即使暴力出現(xiàn)在視頻中，它也不總是那么簡單，人類——更不用說訓(xùn)練有素的機(jī)器——能夠發(fā)現(xiàn)它或決定如何處理它。武器可能在視頻或照片中看不到，或者看起來暴力的東西實(shí)際上可能是模擬的。

此外，燈光或背景圖像等因素也會影響電腦。

加州大學(xué)洛杉磯分校(UCLA)研究內(nèi)容適度和社交媒體的助理教授莎拉·t·羅伯茨(Sarah T. Roberts)說，尤其在計算上，人工智能很難發(fā)現(xiàn)視頻中的暴力行為。

她說:“這種媒體的復(fù)雜性，以及諸如每秒多少幀，以及如何將記錄的內(nèi)容賦予意義之類的細(xì)節(jié)，都是非常困難的。”

她說，使用人工智能從一個視頻中收集意義并不簡單。它是通過社交網(wǎng)絡(luò)每天觀看的大量視頻來做到這一點(diǎn)的。例如，在YouTube上，用戶上傳 每分鐘超過400小時的視頻——每天超過576,000小時。

“這些公司交易的是數(shù)十萬小時的視頻，”羅伯茨說?！斑@實(shí)際上是他們懇求的，也是他們想要的?！?/p>