Facebook訓(xùn)練了AI來欺騙人臉識別系統(tǒng) 并且可以在實時視頻上運(yùn)行

Facebook仍因其面部識別實踐卷入數(shù)十億美元的判決訴訟，但這并沒有阻止其人工智能研究部門開發(fā)技術(shù)來對抗公司被指控的不實行為。據(jù)VentureBeat稱，F(xiàn)acebook AI Research(FAIR)開發(fā)了一種先進(jìn)的“去識別”系統(tǒng)，該系統(tǒng)可用于視頻，甚至包括實時視頻。它通過使用機(jī)器學(xué)習(xí)實時更改視頻主題的關(guān)鍵面部特征來工作，以欺騙面部識別系統(tǒng)以不正確地識別主題。

過去已經(jīng)存在這種去識別技術(shù)，并且像以色列AI和隱私公司D-ID這樣的整個公司都致力于為靜止圖像提供該技術(shù)。您還可以穿戴一整類面部識別欺騙圖像，稱為對抗示例，它們可以通過利用對計算機(jī)視覺軟件進(jìn)行訓(xùn)練以識別某些特征的弱點來工作。以這副印有對抗圖案的太陽鏡為例，這可以使面部識別系統(tǒng)認(rèn)為您是女演員米拉·喬沃維奇(Milla Jovovich)。

AI軟件可以通過更改關(guān)鍵面部特征來欺騙面部識別系統(tǒng)

但是，這種類型的面部識別障礙通常意味著事后要更改從安全攝像機(jī)或其他來源捕獲的照片或靜止圖像?；蛟趯剐允纠那闆r下，搶先出發(fā)以欺騙系統(tǒng)。據(jù)推測，F(xiàn)acebook的研究可以實時地，通過預(yù)先錄制的和實時的錄像進(jìn)行類似的工作。FAIR聲稱，這是該行業(yè)的首創(chuàng)，足以抵御復(fù)雜的面部識別系統(tǒng)。您可以在此YouTube視頻中看到一個實際的示例，由于該視頻已被除名，因此無法嵌入其他地方。

接受VentureBeat引用的論文解釋了該公司的做法，他說：“面部識別可能會導(dǎo)致隱私喪失，面部替換技術(shù)可能會被誤用于制作誤導(dǎo)性視頻。”“有關(guān)人臉識別技術(shù)的進(jìn)步和濫用的最新世界事件引發(fā)了對理解成功處理去身份識別的方法的需求。我們的貢獻(xiàn)是唯一適用于視頻(包括現(xiàn)場視頻)的視頻，其呈現(xiàn)的質(zhì)量遠(yuǎn)遠(yuǎn)超過了文獻(xiàn)方法。”

據(jù)VentureBeat報道，F(xiàn)acebook顯然無意在其任何商業(yè)產(chǎn)品中使用該技術(shù)。但是，這項研究可能會影響為保護(hù)個人隱私而開發(fā)的未來工具，并且正如該研究在“誤導(dǎo)性視頻”中所強(qiáng)調(diào)的那樣，它會阻止某人的肖像被用于視頻偽造品中。

人工智能行業(yè)目前正在研究各種方法來打擊深度欺詐和用于創(chuàng)建深度欺詐的日益復(fù)雜的工具。這是一種方法，立法者和科技公司都在嘗試提出其他工具，例如Deepfake檢測軟件以及用于控制假視頻，圖像和音頻的傳播的監(jiān)管框架。

FAIR研究的另一個關(guān)注點是面部識別，這也是不受管制的，并引起立法者，學(xué)者和活動家的關(guān)注，他們擔(dān)心，如果繼續(xù)部署它而未受到執(zhí)法部門，政府和公司的監(jiān)督，可能會侵犯人權(quán)。