Deepfake檢測大賽的獲勝者猜錯的次數(shù)仍然有三分之一

Deepfake檢測大賽的10萬個視頻中使用了一些面孔。這些深假圖像越靠右越有說服力。

臉書發(fā)起的一項競賽顯示，在觀看人們的視頻時，很難讓電腦分辨出真實的視頻和電腦生成的名為deepfake的虛假視頻。2114名參與者提交了35000個深度造假計算機模型，平均成功率為70%，最好的為83%。

但這些分數(shù)使用的是Facebook為這場名為“深度造假檢測挑戰(zhàn)”(Deepfake Detection Challenge, DFDC)的競賽創(chuàng)建的10萬段視頻的公共數(shù)據(jù)集。通過對10萬段之前未公開過的視頻進行單獨收集，再加上一些額外的技術使其更難判斷，最高的分數(shù)是65%。

人工智能技術已經(jīng)自動化了許多以前計算機難以完成的任務，比如轉(zhuǎn)錄人類聲音、過濾垃圾郵件以及在自拍中添加梵高風格的特效。不過，該技術的一個缺點是，它也可以用來制造深度偽造，比如把一個人的聲音風格和特征映射到另一個人的視頻中。如果一名政治候選人的尷尬失態(tài)在被揭穿之前就在社交媒體上瘋傳，這可能會是個問題。

微軟、亞馬遜、Facebook和包括麻省理工學院、牛津、康沃爾和加州大學伯克利分校在內(nèi)的大學于2019年9月發(fā)起了這項比賽。主辦方向3500名演員支付了制作源視頻的費用，這些源視頻經(jīng)過各種方式的修改，生成了10萬段公開視頻，參賽者可以在這些視頻上訓練他們的人工智能模型。臉書稱，這些演員被挑選出來代表各種性別、膚色、種族、年齡和其他特征。

鑒于人們擔心虛假視頻可能在11月美國大選前夕誤導人們，Deepfake檢測挑戰(zhàn)的結果具有重大意義。專家們擔心，即使令人信服的深度贗品不多，而且大多數(shù)都被抓獲了，但深度贗品的存在可能會讓選民懷疑他們所看到視頻的可信度，從而擾亂選舉。

Facebook認為其他線索可以幫助處理深度造假。

Facebook的研究人員在一篇博客文章中表示:“當研究團體著眼于挑戰(zhàn)的結果時，我們都應該從更廣泛的角度思考，考慮超越分析圖片和視頻的解決方案?！薄翱紤]到來源和其他信號可能是改進深度造假檢測模型的方法?！?/p>

深度造假檢測的研究還沒有結束。比賽組織者計劃為該地區(qū)的新作品發(fā)布38天的原始視頻資源。

Facebook表示:“這將幫助人工智能研究人員開發(fā)新一代和檢測方法，以提高該領域的技術水平?！?/p>