Facebook將改變算法 將幾乎違反政策的邊緣內(nèi)容降級(jí)

Face book將改變其News Feed算法，將內(nèi)容降級(jí)，這幾乎違反了其禁止錯(cuò)誤信息、仇恨言論、暴力、欺凌、點(diǎn)擊拜特的政策，因此即使它非常吸引人，也會(huì)被更少的人看到。這一變化可能會(huì)大大減少煽動(dòng)性政治集團(tuán)、假新聞小販和Face book上更多最糟糕的東西的影響。它允許公司在網(wǎng)絡(luò)上隱藏它不想要的東西，而不采取強(qiáng)硬的立場(chǎng)，它必須為違反規(guī)則的內(nèi)容辯護(hù)。

在馬克·扎克伯格（Mark Zuckerberg）今天發(fā)表的一封5000字的信中，他解釋了如何存在一個(gè)“基本激勵(lì)問(wèn)題”，即“當(dāng)不受約束時(shí)，人們將不成比例地接觸更聳人聽(tīng)聞和更具挑釁性的內(nèi)容。我們的研究表明，無(wú)論我們?cè)谀睦飫澇鲈试S的界限，當(dāng)一部分內(nèi)容接近這一界限時(shí)，人們平均會(huì)更多地參與其中-即使他們事后告訴我們他們不喜歡這些內(nèi)容。

在沒(méi)有干預(yù)的情況下，與邊緣內(nèi)容的接觸看起來(lái)像上面的圖表，隨著它越來(lái)越接近政策線而增加。因此，F(xiàn)ace book正在進(jìn)行干預(yù)，人為地抑制了這類內(nèi)容的新聞提要分發(fā)，因此參與看起來(lái)像下面的圖表。

[更新：雖然扎克伯格在一個(gè)案例中提到過(guò)去時(shí)態(tài)的變化，但Face book告訴我，邊緣內(nèi)容降級(jí)只在有限的情況下有效。該公司將繼續(xù)重新利用其人工智能技術(shù)，積極主動(dòng)地降低違反其政策的內(nèi)容，以找到并降級(jí)接近這些政策限制的內(nèi)容。

Face book將不僅僅對(duì)“新聞提要”（News Feed）而且對(duì)其所有內(nèi)容（包括群組和頁(yè)面本身）實(shí)施懲罰，以確保它不會(huì)通過(guò)推薦他們加入社區(qū)而使人們激進(jìn)化，因?yàn)樗麄兎浅Ｔ敢鈪⑴c這項(xiàng)政策。扎克伯格指出：“分化的群體和頁(yè)面仍然會(huì)助長(zhǎng)兩極分化。

然而，有目的地想要查看邊緣內(nèi)容的用戶將有機(jī)會(huì)選擇加入。扎克伯格寫(xiě)道：“對(duì)于那些想自己做出這些決定的人來(lái)說(shuō)，我們認(rèn)為他們應(yīng)該有這個(gè)選擇，因?yàn)檫@種內(nèi)容并不違反我們的標(biāo)準(zhǔn)?！崩?，F(xiàn)ace book可能會(huì)為文化規(guī)范不同的裸體等內(nèi)容類型制定靈活的標(biāo)準(zhǔn)，比如一些妓女如何禁止女性在照片中暴露大量皮膚，而另一些人則允許在網(wǎng)絡(luò)電視上裸體。正如Zuckerber所說(shuō)，F(xiàn)ace book必須首先訓(xùn)練其人工智能，以便能夠可靠地檢測(cè)出哪些內(nèi)容越過(guò)了界限，或者有目的地接近了邊界線。

Face book此前已將算法改為降級(jí)clickbait。從2014年開(kāi)始，它的鏈接排名下降，人們點(diǎn)擊，但很快反彈，沒(méi)有回到Face book上的帖子。到2016年，它正在分析標(biāo)題中常見(jiàn)的點(diǎn)擊廣告詞，今年它禁止點(diǎn)擊廣告詞的不真實(shí)行為。但現(xiàn)在它給了其他類型的聳人聽(tīng)聞的內(nèi)容降級(jí)待遇。這可能意味著有暴力的帖子，不能顯示身體傷害，或者生殖器幾乎沒(méi)有覆蓋的淫穢圖像，或者帖子表明人們應(yīng)該為某一原因而實(shí)施暴力，而不直接告訴他們。

臉書(shū)最終可能會(huì)受到批評(píng)，特別是來(lái)自邊緣政治團(tuán)體的批評(píng)，他們依賴邊緣內(nèi)容來(lái)煽動(dòng)他們的基礎(chǔ)，傳播他們的信息。但隨著兩極分化和聳人聽(tīng)聞的言論猖獗，撕裂了社會(huì)，F(xiàn)ace book已經(jīng)確定了一項(xiàng)政策，它可能試圖維護(hù)言論自由，但用戶沒(méi)有資格對(duì)該言論進(jìn)行放大。

下面是扎克伯格關(guān)于邊緣內(nèi)容的完整書(shū)面陳述：

社交網(wǎng)絡(luò)面臨的最大問(wèn)題之一是，如果不加以控制，人們將不成比例地接觸更聳人聽(tīng)聞和挑釁性的內(nèi)容。這不是一個(gè)新現(xiàn)象。它在今天的有線新聞中很普遍，并且已經(jīng)成為一個(gè)多世紀(jì)以來(lái)小報(bào)的主要內(nèi)容。在規(guī)模上，它會(huì)破壞公共話語(yǔ)的質(zhì)量，導(dǎo)致兩極分化。在我們的情況下，它也會(huì)降低我們的服務(wù)質(zhì)量。

[圖表顯示與不斷增長(zhǎng)的接觸導(dǎo)致政策走向，然后被封鎖]

我們的研究表明，無(wú)論我們?cè)谀睦飫澇鲈试S的界限，當(dāng)一部分內(nèi)容接近這條線時(shí)，人們平均會(huì)更多地參與其中-即使他們事后告訴我們他們不喜歡這些內(nèi)容。

這是一個(gè)基本的激勵(lì)問(wèn)題，我們可以通過(guò)懲罰邊緣內(nèi)容，使它得到更少的分配和參與。通過(guò)使分布曲線看起來(lái)像下面的圖表，在下面的分布隨著內(nèi)容變得更加聳人聽(tīng)聞而下降，人們就會(huì)被激勵(lì)不去創(chuàng)建盡可能接近線的挑釁性內(nèi)容。

[圖表顯示直線下降的接觸導(dǎo)致政策線，隨后受阻]

這個(gè)調(diào)整這條曲線的過(guò)程類似于我上面描述的主動(dòng)識(shí)別有害內(nèi)容的過(guò)程，但現(xiàn)在的重點(diǎn)是識(shí)別邊緣內(nèi)容。我們訓(xùn)練人工智能系統(tǒng)來(lái)檢測(cè)邊緣內(nèi)容，這樣我們就可以減少分發(fā)這些內(nèi)容。

我們最關(guān)注的類別是點(diǎn)擊誘餌和錯(cuò)誤信息。人們總是告訴我們這些類型的內(nèi)容會(huì)使我們的服務(wù)變得更糟-盡管他們與他們接觸。正如我上面提到的，阻止錯(cuò)誤信息傳播的最有效的方法是刪除產(chǎn)生錯(cuò)誤信息的假帳戶。第二個(gè)最有效的策略是減少其分布和病毒性。（我在關(guān)于[籌備選舉]的說(shuō)明中更詳細(xì)地談到了這些辦法。

有趣的是，我們的研究發(fā)現(xiàn)，這種邊緣內(nèi)容獲得更多參與的自然模式不僅適用于新聞，而且?guī)缀踹m用于每一類內(nèi)容。例如，接近裸體線的照片，比如暴露的衣服或性暗示的姿勢(shì)，在我們改變分布曲線以阻止這一點(diǎn)之前，平均得到了更多的參與。對(duì)于那些不屬于我們對(duì)仇恨言論定義范圍但仍然令人反感的帖子也是如此。

這種模式可能適用于人們加入的群體和他們所遵循的頁(yè)面。這一點(diǎn)尤為重要，因?yàn)殡m然社交網(wǎng)絡(luò)一般會(huì)讓人們接觸到更多不同的觀點(diǎn)，而群體一般會(huì)鼓勵(lì)包容和接受，但分裂的群體和頁(yè)面仍然會(huì)助長(zhǎng)兩極分化。為了管理這一點(diǎn)，我們需要應(yīng)用這些分布變化，不僅是為了提供排名，而且是為了我們所有的推薦系統(tǒng)，為您應(yīng)該加入的東西。

一個(gè)常見(jiàn)的反應(yīng)是，我們不應(yīng)該減少分配，而應(yīng)該簡(jiǎn)單地移動(dòng)定義可接受的內(nèi)容的線。在某些情況下，這是值得考慮的，但重要的是要記住，這不會(huì)解決潛在的激勵(lì)問(wèn)題，這往往是更大的問(wèn)題。這種參與模式似乎存在，無(wú)論我們?cè)谀睦飫澇鼋缦蓿晕覀冃枰淖冞@種激勵(lì)，而不僅僅是刪除內(nèi)容。

我相信這些努力在我們的系統(tǒng)中的潛在激勵(lì)是我們?cè)谡麄€(gè)公司做的一些最重要的工作。我們?cè)谶^(guò)去的一年里取得了重大進(jìn)展，但我們?nèi)杂泻芏喙ぷ饕觥?/p>

通過(guò)在我們的服務(wù)中解決這個(gè)激勵(lì)問(wèn)題，我們相信它會(huì)創(chuàng)造一個(gè)良性循環(huán)：通過(guò)減少各種形式的聳人聽(tīng)聞，我們將創(chuàng)造一個(gè)更健康、更少兩極分化的話語(yǔ)，讓更多的人感到安全參與其中。