Facebook的Deepfake禁令是真正的禁令嗎？

最近，F(xiàn)acebook官員表示，由于公司最近進(jìn)行的一系列更改，它將禁止由人工智能操縱的視頻，以防止虛假信息在其網(wǎng)站上傳播。

該公司的高管還證實(shí)，該社交網(wǎng)站將刪除被人工智能更改的視頻，稱(chēng)為Deepfake的視頻，這些視頻可能會(huì)誤導(dǎo)用戶，使他們認(rèn)為視頻內(nèi)容說(shuō)的是他們不說(shuō)的話。

領(lǐng)先的社交網(wǎng)絡(luò)平臺(tái)之一的Facebook在過(guò)去幾年中一直面臨困境。無(wú)論是在Cambridge Analytica案還是在2.67億Facebook用戶的個(gè)人數(shù)據(jù)暴露于在線數(shù)據(jù)庫(kù)的場(chǎng)合，F(xiàn)acebook都處在灰色陰影之下。此外，2016年競(jìng)選期間平臺(tái)上虛假信息的傳播導(dǎo)致對(duì)該公司的廣泛批評(píng)。

通過(guò)禁止偽造品，F(xiàn)acebook試圖使仍然沮喪的學(xué)者，議員和政治運(yùn)動(dòng)平靜下來(lái)，并質(zhì)疑該公司如何管理有關(guān)政治和政治人物的政治帖子和視頻。

假冒偽言最近在社交媒體上變得越來(lái)越普遍，它們也開(kāi)始挑戰(zhàn)公眾對(duì)真實(shí)和非真實(shí)的期望。以前，計(jì)算機(jī)科學(xué)家曾警告說(shuō)，機(jī)器用來(lái)制作圖像和聲音的新技術(shù)與真實(shí)事物相比是模糊的，可能會(huì)大大增加虛假或誤導(dǎo)性信息的數(shù)量。

例如，去年，加蓬政府發(fā)布了一個(gè)錄像帶。該錄像帶證明了他的的生活，他的在國(guó)外求醫(yī)。但是，的反對(duì)者聲稱(chēng)這是假的。

為什么這個(gè)禁令不是它看起來(lái)的樣子

這家社交媒體公司指出，任何符合刪除條件的誤導(dǎo)性和可操縱媒體內(nèi)容都將從Facebook上刪除。該公司還建立了兩套規(guī)則。

它已被修改或合成，超出了對(duì)清晰度甚至質(zhì)量的調(diào)整范圍，對(duì)普通人而言并不明顯，并且很可能會(huì)誤導(dǎo)某人以為他們說(shuō)的那些不帶視頻詞的主題。

它是人工智能和機(jī)器學(xué)習(xí)的產(chǎn)物，它將內(nèi)容組合，替換并疊加到視頻上，從而使其具有真實(shí)性。

這些Facebook政策可能不適用于公司確定為諷刺的內(nèi)容。如果有任何視頻不符合標(biāo)準(zhǔn)，F(xiàn)acebook可能仍會(huì)決定需要采取行動(dòng)，并且任何社交網(wǎng)絡(luò)第三方事實(shí)檢查小組都會(huì)對(duì)其進(jìn)行評(píng)估，該小組可以將內(nèi)容標(biāo)記為虛假。

如果發(fā)生這種情況，F(xiàn)acebook將大大降低其新聞源中內(nèi)容的可見(jiàn)性，而未看到該內(nèi)容的用戶將看到警告，指出該內(nèi)容為假。這也意味著，即使內(nèi)容完全錯(cuò)誤且經(jīng)過(guò)事實(shí)檢查，F(xiàn)acebook也不會(huì)將其從其網(wǎng)站中刪除。

如何檢測(cè)Deepfake?

Deepfake視頻很難被未經(jīng)訓(xùn)練的眼睛識(shí)別出來(lái)，因?yàn)樗鼈兎浅２滑F(xiàn)實(shí)-既可以用作報(bào)復(fù)，操縱金融市場(chǎng)或削弱國(guó)際關(guān)系的個(gè)人武器，又可以描述人們做事和講話的Deepfake視頻他們從未說(shuō)過(guò)的話，對(duì)視線相信不再有效的長(zhǎng)期觀念構(gòu)成了根本威脅。

通過(guò)顯示一個(gè)人的多個(gè)圖像的算法，然后使用它來(lái)生成新的人臉圖像，可以制作出大多數(shù)的深造品。同時(shí)，他們的聲音也得到了綜合，因此，無(wú)論是外觀還是聲音，就像該人在說(shuō)些新話一樣。

科技公司正在尋找新技術(shù)來(lái)檢測(cè)Deepfake視頻并阻止其在社交媒體上傳播。但是，如果您嘗試訓(xùn)練自己的眼睛，可以嘗試以下一些操作：

一個(gè)奇怪的眨眼。假面孔沒(méi)有真正的眼睛和淚管，無(wú)論真正的眨眼是什么樣，他們都沒(méi)有正確地做。

兩張臉的混合。它可以顯示出來(lái)，特別是在復(fù)雜的動(dòng)作中。這是因?yàn)楦嗟膭?dòng)作意味著需要更多的鏡頭和原始的角度來(lái)做出令人信服的假貨。

面部動(dòng)作和肌肉組織可能會(huì)生澀。例如，假頭的嘴巴可能會(huì)自動(dòng)移動(dòng)。

膚色和光線變化。當(dāng)頭部旋轉(zhuǎn)時(shí)，視頻可能會(huì)抽搐，就像糟糕的視頻游戲圖形一樣。

Facebook Deepfake挑戰(zhàn)

去年9月，F(xiàn)acebook發(fā)起了Deepfake檢測(cè)挑戰(zhàn)賽，旨在創(chuàng)建數(shù)據(jù)集以及可用于檢測(cè)和防止AI操縱的媒體被發(fā)布到網(wǎng)站上的伴隨技術(shù)。

目前，那些仔細(xì)觀察的人可以通過(guò)分析視頻組件(如眉毛不規(guī)則，邊界偽影和陰影不一致)來(lái)檢測(cè)深度虛假。但是，deepfake技術(shù)的技術(shù)能力正在快速增長(zhǎng)，從而導(dǎo)致了更高級(jí)的媒體操作，也很容易使受過(guò)良好訓(xùn)練的眼睛蒙上陰影。

為了解決這個(gè)問(wèn)題，F(xiàn)acebook 開(kāi)始了一項(xiàng)預(yù)算為1000萬(wàn)美元的挑戰(zhàn)，創(chuàng)建一個(gè)由現(xiàn)實(shí)世界參與者執(zhí)行的動(dòng)作數(shù)據(jù)集，以訓(xùn)練網(wǎng)絡(luò)并幫助檢測(cè)被操縱的媒體。

防御假貨

盡管Deepfake于2017年出現(xiàn)，但已經(jīng)被各種網(wǎng)絡(luò)所使用。由于Deepfake代表了一種新形式的網(wǎng)絡(luò)攻擊，因此沒(méi)有確定的措施可以應(yīng)對(duì)。但是，有一些策略可以抵御深層造假，下面將對(duì)此進(jìn)行討論：

1.檢測(cè)技術(shù)

組織可以保護(hù)自己的一種方法是找到一種可靠的方法來(lái)檢測(cè)Deepfake，最好通過(guò)自動(dòng)化技術(shù)進(jìn)行檢測(cè)。由AI驅(qū)動(dòng)的檢測(cè)軟件提供了這樣的機(jī)會(huì)?？梢杂?xùn)練用于創(chuàng)建深層偽造的深度學(xué)習(xí)算法，以識(shí)別圖像或視頻已被更改的跡象。

2.安全協(xié)議充當(dāng)預(yù)防性安全措施。

通過(guò)在組織中采用新的安全協(xié)議，您也可以保護(hù)自己。假冒騙人的可能性很高，但是如果涉及更多的人，其影響某人的能力將急劇下降。通過(guò)在可能需要深度仿造的情況下添加多個(gè)檢查，公司可以在遭受破壞之前就應(yīng)對(duì)它。

由于黑客使用Deepfake進(jìn)行電話和視頻通話，因此公司應(yīng)建立計(jì)算機(jī)安全協(xié)議，以指定員工收到此類(lèi)呼叫時(shí)應(yīng)進(jìn)行的檢查。

3.員工培訓(xùn)與教育

大多數(shù)組織仍然不知道他們所施加的深造是什么樣的危險(xiǎn)。公司可以通過(guò)向工人，經(jīng)理和高級(jí)管理人員提供有關(guān)威脅性質(zhì)的教育，以降低深層造假的風(fēng)險(xiǎn)。對(duì)員工進(jìn)行有關(guān)安全風(fēng)險(xiǎn)和預(yù)防方法的培訓(xùn)將使他們更加熟練地檢測(cè)到深層造假。

最后的想法

Deepfake可以讓我們瞥見(jiàn)網(wǎng)絡(luò)的未來(lái)。它們是技術(shù)如何誤導(dǎo)人們以可能危害我們所屬組織的方式行事的一個(gè)典型例子。隨著Deepfake威脅的威脅仍在增長(zhǎng)，公司必須開(kāi)始對(duì)Deepfake攻擊做好準(zhǔn)備，方法是對(duì)員工進(jìn)行教育，并在可行時(shí)整合技術(shù)措施。