Deepfake檢測大賽的獲勝者猜錯(cuò)的次數(shù)仍然有三分之一

Deepfake檢測大賽的10萬個(gè)視頻中使用了一些面孔。這些深假圖像越靠右越有說服力。

臉書發(fā)起的一項(xiàng)競賽顯示，在觀看人們的視頻時(shí)，很難讓電腦分辨出真實(shí)的視頻和電腦生成的名為deepfake的虛假視頻。2114名參與者提交了35000個(gè)深度造假計(jì)算機(jī)模型，平均成功率為70%，最好的為83%。

但這些分?jǐn)?shù)使用的是Facebook為這場名為“深度造假檢測挑戰(zhàn)”(Deepfake Detection Challenge, DFDC)的競賽創(chuàng)建的10萬段視頻的公共數(shù)據(jù)集。通過對10萬段之前未公開過的視頻進(jìn)行單獨(dú)收集，再加上一些額外的技術(shù)使其更難判斷，最高的分?jǐn)?shù)是65%。

人工智能技術(shù)已經(jīng)自動(dòng)化了許多以前計(jì)算機(jī)難以完成的任務(wù)，比如轉(zhuǎn)錄人類聲音、過濾垃圾郵件以及在自拍中添加梵高風(fēng)格的特效。不過，該技術(shù)的一個(gè)缺點(diǎn)是，它也可以用來制造深度偽造，比如把一個(gè)人的聲音風(fēng)格和特征映射到另一個(gè)人的視頻中。如果一名政治候選人的尷尬失態(tài)在被揭穿之前就在社交媒體上瘋傳，這可能會是個(gè)問題。

微軟、亞馬遜、Facebook和包括麻省理工學(xué)院、牛津、康沃爾和加州大學(xué)伯克利分校在內(nèi)的大學(xué)于2019年9月發(fā)起了這項(xiàng)比賽。主辦方向3500名演員支付了制作源視頻的費(fèi)用，這些源視頻經(jīng)過各種方式的修改，生成了10萬段公開視頻，參賽者可以在這些視頻上訓(xùn)練他們的人工智能模型。臉書稱，這些演員被挑選出來代表各種性別、膚色、種族、年齡和其他特征。

鑒于人們擔(dān)心虛假視頻可能在11月美國大選前夕誤導(dǎo)人們，Deepfake檢測挑戰(zhàn)的結(jié)果具有重大意義。專家們擔(dān)心，即使令人信服的深度贗品不多，而且大多數(shù)都被抓獲了，但深度贗品的存在可能會讓選民懷疑他們所看到視頻的可信度，從而擾亂選舉。

Facebook認(rèn)為其他線索可以幫助處理深度造假。

Facebook的研究人員在一篇博客文章中表示:“當(dāng)研究團(tuán)體著眼于挑戰(zhàn)的結(jié)果時(shí)，我們都應(yīng)該從更廣泛的角度思考，考慮超越分析圖片和視頻的解決方案。”“考慮到來源和其他信號可能是改進(jìn)深度造假檢測模型的方法。”

深度造假檢測的研究還沒有結(jié)束。比賽組織者計(jì)劃為該地區(qū)的新作品發(fā)布38天的原始視頻資源。

Facebook表示:“這將幫助人工智能研究人員開發(fā)新一代和檢測方法，以提高該領(lǐng)域的技術(shù)水平。”