在反網(wǎng)絡(luò)欺凌的戰(zhàn)爭中 人工智能是如何成為Instagram的首選武器的

在一個旨在成為分享用戶生活快照的安全場所的平臺上，Instagram擁有所有社交媒體網(wǎng)站中最大的網(wǎng)絡(luò)欺凌問題。但I(xiàn)nstagram并沒有像Face book和Twitter所做的那樣，讓用戶承擔(dān)起舉報濫用的責(zé)任，而是成為了第一個利用機(jī)器學(xué)習(xí)消除其平臺上濫用語言的社交媒體出口。

來自反欺凌慈善機(jī)構(gòu)“惠譽(yù)標(biāo)簽”（Ditch The Label）的最新調(diào)查發(fā)現(xiàn)，在12歲至25歲的1萬多名英國青年中，42%的人發(fā)現(xiàn)Instagram是他們最受欺負(fù)的平臺——Face book和Twitter分別落后37%和9%。而71%的主體群體認(rèn)為所有社交媒體網(wǎng)絡(luò)在阻止網(wǎng)絡(luò)欺凌方面做得不夠。

為了正面解決網(wǎng)絡(luò)欺凌問題，Instagram最近宣布了一項新策略：整合機(jī)器學(xué)習(xí)算法，以檢測和阻止其平臺上的潛在欺凌者。這項研究的目的是在Instagram上建立善良、包容的社區(qū)，該公司首席執(zhí)行官兼聯(lián)合創(chuàng)始人凱文·西斯特羅姆（Kevin Systrom）在一篇博客文章中說。

如何處理員工的虐待和欺凌（技術(shù)專業(yè)研究）

Instagram正在使用DeepText——與Face book所有者相同的機(jī)器學(xué)習(xí)算法——試圖關(guān)閉他們的網(wǎng)絡(luò)欺凌問題。2016年6月，F(xiàn)ace book工程師推出DeepText，稱之為“基于深度學(xué)習(xí)的文本理解引擎，能夠以接近人類的精確度理解每秒數(shù)千個帖子的文本內(nèi)容?！?/p>

通過深度學(xué)習(xí)（機(jī)器學(xué)習(xí)的一個子集，它使用基于人腦神經(jīng)網(wǎng)絡(luò)的算法），F(xiàn)ace book工程師使用單詞嵌入來幫助系統(tǒng)理解人類使用語言的微妙方式。DeepText被設(shè)計成像人腦一樣工作，使用演繹推理來確定單詞在特定語境中的含義。

例如，如果有人使用“痣”這個詞，DeepText將確定用戶是指的是小型哺乳動物、皮膚缺陷或叛徒。Face book利用這一系統(tǒng)篩選成千上萬的帖子，以更好地了解其受眾，旨在創(chuàng)造更好、更個性化的用戶體驗，以迎合個人興趣。

2016年10月，Instagram推出DeepText消除垃圾郵件。該算法的目標(biāo)是尋找試圖銷售產(chǎn)品的追隨者和組織的互聯(lián)網(wǎng)巨魔，分析評論和標(biāo)題的語義，這將暗示數(shù)據(jù)是否是垃圾郵件。

但DeepText的成功導(dǎo)致Instagram考慮了該系統(tǒng)的其他用途。在2017年6月的一篇博客文章中，Systrom宣布該公司將使用DeepText作為“一個過濾器來阻止某些冒犯性的評論?！痹撈脚_使用最初由Face book創(chuàng)建的技術(shù)來創(chuàng)建一個過濾器，以幫助為用戶建立一個安全的環(huán)境。

網(wǎng)絡(luò)欺凌和仇恨言論并不是Instagram獨有的，其他主要社交媒體網(wǎng)絡(luò)已經(jīng)被迫為其用戶做出安全改變。

康奈爾大學(xué)（Cornell University）研究生湯姆·戴維森（Tom Davidson）表示：“機(jī)器學(xué)習(xí)算法已被證明是檢測仇恨言論和網(wǎng)絡(luò)欺凌的有效方法，”他是社交媒體上有關(guān)仇恨言論和網(wǎng)絡(luò)欺凌的報道的合著者，關(guān)注Twitter。戴維森告訴Tech Republic，各種不同的算法被證實是有效的，如“Logistic回歸、樸素貝葉斯、隨機(jī)森林、支持向量機(jī)”。但所有這些方法的關(guān)鍵是依賴于監(jiān)督學(xué)習(xí)，他說，這是一種使用標(biāo)記訓(xùn)練數(shù)據(jù)進(jìn)行推理的機(jī)器學(xué)習(xí)策略。戴維森的研究涉及收集數(shù)以百萬計的推特，這些推特有潛在的網(wǎng)絡(luò)欺凌暗示（種族誹謗、咒罵等）。戴維森說，給它們貼上標(biāo)簽，并將數(shù)據(jù)輸入到算法中。戴維森補(bǔ)充說，這些例子被用來訓(xùn)練算法，然后它應(yīng)該能夠自己對仇恨言論進(jìn)行分類。

推特2016年11月的博客文章宣布了通知刪除功能，以及一項可恨的行為政策，讓用戶有一個更直接的媒體報告濫用。雖然這些努力試圖防止網(wǎng)絡(luò)欺凌，但刪除攻擊性通知并不意味著推特不存在。盡管報告濫用是極其重要的，但無論Twitter需要多長時間才能做出回應(yīng)，用戶仍然處于支配之下。

見：機(jī)器學(xué)習(xí)人工智能捆綁（科技公益學(xué)院）

臉書試圖通過組建欺凌預(yù)防中心來減少網(wǎng)絡(luò)欺凌。該中心作為一個資源，供青少年，父母和教育工作者使用，當(dāng)他們或他們認(rèn)識的人被欺負(fù)。雖然該資源為啟動網(wǎng)絡(luò)欺凌對話提供了寶貴的建議，但Face book的欺凌預(yù)防中心并沒有直接采取任何措施來迎頭消除濫用內(nèi)容。該公司只使用該工具根據(jù)用戶的興趣推薦內(nèi)容。

盡管如此，這些努力還不足以完全阻止網(wǎng)絡(luò)欺凌。

Zeerak Waseem，博士謝菲爾德大學(xué)（University of Sheffield）的D.學(xué)生專注于推特上的辱罵性語言檢測和仇恨言論，他告訴Tech Republic說，“這些嘗試缺乏效果?！?/p>

為什么？雖然Twitter和Face book都在馴服網(wǎng)絡(luò)欺凌方面邁出了大步，但I(xiàn)nstagram是第一個讓攻擊性評論自動消失的社交網(wǎng)站。Systrom的博客文章和Wired都解釋了AI目前是如何在Instagram賬戶上運作的。如果用戶發(fā)布攻擊性或騷擾性語言，DeepText將立即捕獲并刪除它。據(jù)Wired報道，為了防止惡霸試圖玩弄系統(tǒng)，攻擊性語言仍然可以被施暴者看到。用戶還可以手動輸入他們想要阻塞的單詞或短語，通過阻塞可能是用戶唯一的觸發(fā)詞，使DeepText更加有效。

然而，深度文本并不完美。

Instagram的機(jī)器學(xué)習(xí)算法在平臺上自動集成，但一些仇恨言論仍然可以繞過這個工具。瓦西姆告訴Tech Republic說，暗指侮辱，如綽號或誹謗的代號，對DeepText來說很難察覺。此外，該功能可以很容易地關(guān)閉。只要輕輕一指，“隱藏攻擊性評論”的切換就可以被關(guān)閉，如果任務(wù)是消除網(wǎng)絡(luò)欺凌，這似乎是違反直覺的。自由言論和創(chuàng)造一個消除仇恨言論的環(huán)境之間的界限并不容易找到。然而，戴維森補(bǔ)充說，“機(jī)器學(xué)習(xí)并不是一顆能阻止網(wǎng)絡(luò)欺凌或網(wǎng)絡(luò)仇恨言論的靈丹妙藥?！睓C(jī)器學(xué)習(xí)可以幫助被欺負(fù)的用戶感覺更好，但沒有任何技術(shù)可以阻止個人說壞話。

Ditch the Label首席執(zhí)行官利亞姆·哈克特（Liam Hackett）告訴Tech Republic，Instagram擁有最多網(wǎng)絡(luò)欺凌問題的關(guān)鍵群體是在平臺上有賬戶的年輕人。哈克特說，由于Instagram內(nèi)容的性質(zhì)，很多騷擾都集中在人們的外表上。這些侮辱從對照片的負(fù)面評論，到惡霸創(chuàng)建假賬戶來烤他們的目標(biāo)。

哈克特稱贊Instagram的努力，告訴Tech Republic機(jī)器學(xué)習(xí)策略是多么奇妙，以及如何更多的社交網(wǎng)絡(luò)需要投資于這項技術(shù)。他提到Instagram使用人工智能如何顯示反對網(wǎng)絡(luò)欺凌運動的巨大進(jìn)步，人工智能真的改變了游戲。

除了防止欺凌外，DeepText還有其他功能，可以幫助企業(yè)深入了解客戶的利益，更好地理解信息是如何在整個公司傳播的。

見：iHate系列----不容忍接管互聯(lián)網(wǎng)（CNET）

在情感層面上幫助個人的機(jī)器學(xué)習(xí)是朝著正確方向邁出的巨大一步。然而，解決為什么在線巨魔繼續(xù)在這些平臺上濫用行為是一個更大的問題。

哈克特說：“作為一個社會，我們不知道如何在網(wǎng)上進(jìn)行接觸。哈克特補(bǔ)充說：“互聯(lián)網(wǎng)讓人失去了人性?！痹谄聊坏氖孢m感背后，在網(wǎng)上侮辱用戶比說那些侮辱人的話要容易得多。離線的人際關(guān)系有隱含的行為準(zhǔn)則-一種未經(jīng)言語但被理解的社會規(guī)范。在萬維網(wǎng)上并不總是遵循同樣的禮貌。

作為今年使用最多的社交媒體網(wǎng)絡(luò)之一，Instagram每月活躍用戶高達(dá)7億，并且增長迅速，在短短4個月的時間框架內(nèi)獲得了1億新用戶。然而，用戶的增加顯示出傷害性的帖子和攻擊性的語言的增加。

哈克特指出，用戶“沒有充分掌握如何在線行為的技能?！毕馜eepText這樣的程序可以解決這個問題。然而，編程本身可能并不是教導(dǎo)人們在網(wǎng)上相互尊重的完全解決方案。