這種深度神經(jīng)網(wǎng)絡(luò)可以對(duì)抗深度偽造

看到相信，直到技術(shù)出現(xiàn)了強(qiáng)大的頭腦并給了我們強(qiáng)大而廉價(jià)的照片編輯工具?，F(xiàn)在，將一個(gè)人的面部表情映射到另一個(gè)人的面部表情的真實(shí)視頻(稱為深層偽造)呈現(xiàn)出強(qiáng)大的政治武器。但無論是縱向皺紋的良性平滑，還是操縱視頻使其看起來像政治家說些冒犯性的東西，所有照片編輯都留下了正確工具的痕跡。

由加州大學(xué)河濱分校的Amit Roy-Chowdhury視頻計(jì)算小組領(lǐng)導(dǎo)的研究開發(fā)了一種深度神經(jīng)網(wǎng)絡(luò)架構(gòu)，可以高精度地識(shí)別像素級(jí)別的被操縱圖像。Roy-Chowdhury是Marlan和Rosemary Bourns工程學(xué)院的電氣和計(jì)算機(jī)工程教授以及Bourns家庭教師研究員。

深度神經(jīng)網(wǎng)絡(luò)是人工智能研究人員所稱的計(jì)算機(jī)系統(tǒng)，這些計(jì)算機(jī)系統(tǒng)經(jīng)過培訓(xùn)可以完成特定的任務(wù)，在這種情這些網(wǎng)絡(luò)以連接層組織;“架構(gòu)”是指層的數(shù)量和它們之間的連接結(jié)構(gòu)。

圖像中的對(duì)象具有邊界，并且每當(dāng)從圖像插入或移除對(duì)象時(shí)，其邊界將具有與圖像中的對(duì)象的邊界自然不同的質(zhì)量。具有良好Photoshop技能的人將盡最大努力通過平滑這些邊界使插入的對(duì)象看起來盡可能自然。

雖然這可能會(huì)愚弄肉眼，但是當(dāng)逐個(gè)像素地檢查時(shí)，插入對(duì)象的邊界是不同的。例如，插入的邊界通常比自然對(duì)象更平滑。通過檢測(cè)插入和移除的對(duì)象的邊界，計(jì)算機(jī)應(yīng)該能夠識(shí)別改變的圖像。

研究人員在大型照片數(shù)據(jù)集中標(biāo)記了非操作圖像和操縱圖像邊界區(qū)域中的相關(guān)像素。目的是教授神經(jīng)網(wǎng)絡(luò)關(guān)于照片的操縱和自然區(qū)域的一般知識(shí)。他們用一組前所未見的圖像測(cè)試了神經(jīng)網(wǎng)絡(luò)，并且大部分時(shí)間都檢測(cè)到了改變過的圖像。它甚至發(fā)現(xiàn)了被操縱的區(qū)域。

“我們訓(xùn)練系統(tǒng)區(qū)分被操縱和非操縱的圖像，現(xiàn)在如果你給它一個(gè)新的圖像，它能夠提供該圖像被操縱與否的概率，并定位操作發(fā)生的圖像區(qū)域， “Roy-Chowdhury說。

目前研究人員正在研究靜止圖像，但他們指出這也可以幫助他們檢測(cè)深度視頻。

“如果你能理解靜止圖像中的特征，那么在視頻中它基本上只是將靜止圖像一個(gè)接一個(gè)地放在一起，”Roy-Chowdhury說。“更根本的挑戰(zhàn)可能是弄清楚視頻中的幀是否被操縱。”

即使是單個(gè)操縱的框架也會(huì)引發(fā)紅旗。但Roy-Chowdhury認(rèn)為，在自動(dòng)化工具可以檢測(cè)到野外的深度視頻之前，我們還有很長(zhǎng)的路要走。

“這是一個(gè)具有挑戰(zhàn)性的問題，”Roy-Chowdhury說道。“這是一種貓捉老鼠的游戲。整個(gè)網(wǎng)絡(luò)安全領(lǐng)域在某些方面試圖找到更好的防御機(jī)制，但攻擊者也找到了更好的機(jī)制。“

他說，在不久的將來可能無法實(shí)現(xiàn)完全自動(dòng)化的深度檢測(cè)。

“如果你想看看互聯(lián)網(wǎng)上的所有內(nèi)容，一方面人類無法做到這一點(diǎn)，而自動(dòng)化系統(tǒng)可能無法可靠地完成任務(wù)。所以它必須是兩者的混合，“Roy-Chowdhury說。

深度神經(jīng)網(wǎng)絡(luò)架構(gòu)可以生成可疑視頻和圖像列表供人們查看。自動(dòng)化工具可以減少人們(如Facebook內(nèi)容審核人員)必須篩選以確定圖像是否被操縱的數(shù)據(jù)量。

對(duì)于這種用途，工具就在附近。

“這可能是這些技術(shù)可能會(huì)在很短的時(shí)間內(nèi)產(chǎn)生的，可能在幾年后，”Roy-Chowdhury說。

該論文“用于圖像偽造檢測(cè)的混合LSTM和編碼器 - 解碼器架構(gòu)”發(fā)表在IEEE圖像處理交易問題上，由DARPA資助。其他作者包括Jawadul H. Bappy，Cody Simons，Lakshmanan Nataraj和BS Manjunath。

在相關(guān)工作中，他的小組開發(fā)了一種除了對(duì)象插入和移除之外還用于檢測(cè)其他類型的圖像處理的方法。該方法將模糊邊界的識(shí)別擴(kuò)展為關(guān)于操縱區(qū)域和非操縱區(qū)域之間的過渡類型的一般知識(shí)，以比當(dāng)前工具更準(zhǔn)確地預(yù)測(cè)篡改。