扎克伯格的一段深度偽造視頻給Facebook帶來了新的挑戰(zhàn)

當被問及扎克伯格被篡改的視頻是否會得到與佩洛西被篡改的視頻同樣的待遇時，Facebook的公共政策主管尼爾·波茨(Neil Potts)上個月在加拿大的一次議會聽證會上說，“如果是扎克伯格為佩洛西議長插入的同一段視頻，也會得到同樣的待遇?！?/p>

一名Instagram的發(fā)言人周二告訴CNN商業(yè)，該網站將“像對待所有Instagram上的錯誤信息一樣”對待這段視頻。該發(fā)言人表示，如果第三方事實核查人員將其標記為虛假，該網站的算法將不會推薦人們觀看。

周二晚些時候，哥倫比亞廣播公司(CBS)要求Facebook和Instagram刪除這段視頻，這可能會讓Facebook和Instagram的處境更加復雜。扎克伯格用來制作deepfake的視頻片段來自哥倫比亞廣播公司(CBS)的在線新聞廣播。“CBS已經要求Facebook撤下這個假冒的、未經授權的CBSN商標的使用，”CBS的一位發(fā)言人告訴CNN商業(yè)。

佩洛西的視頻不像扎克伯格的新視頻那樣是假的，而是用傳統(tǒng)的視頻編輯技術處理的。有線電視新聞網(CNN)曾詢問Facebook，是否有針對深度假貨的具體規(guī)定。

扎克伯格的視頻 Vice首先報道了此事，此時國會正準備就deepfake視頻構成的潛在威脅舉行首次聽證會。今年早些時候，情報總監(jiān)警告稱，的對手可能會在未來針對該國的虛假信息活動中使用deepfake技術。

在首次被新聞媒體報道之前，這段視頻的點擊量不到5000次，但Facebook如何對待這段視頻，可能會為它未來處理deepfake視頻樹立一個先例。

直到最近，視頻騙局還相對少見，因為它們比靜止圖像的贗品更難得逞，但由于GANs(即生成式對抗網絡)的興起，這種情況正在迅速改變。GANs可以使用數據來產生新的東西。這種技術也用于制作深度贗品。

Ben-Ami說，在這個例子中，精明的人工智能選擇了一個不到一分鐘的場景，扎克伯格說話，然后用電腦將其與演員的聲音和適當的面部動作融合在一起。他說，制作視頻的最初版本花了大約一天的時間，其中一名藝術家的聲音代替了配音演員對扎克伯格的印象和面部動作。制作最終版本又花了兩到三個小時。

CNN商業(yè)聯系了幽靈黨背后的藝術家 但沒有立即收到回復。

Ben-Ami的公司專注于從一種語言到另一種語言的視頻配音，他對這段視頻以及其他一些精明的人工智能在沒有語境的情況下傳播的視頻表示擔憂，這些視頻被創(chuàng)造為藝術。但他表示，他也想對此類媒體的創(chuàng)建提出質疑。

“人們需要知道這是可能做到的，”他說。

上個月，Facebook宣布將花費數百萬美元資助研究圖像和視頻分析的學術機構。其中一些工作涉及到處理深度假貨， 該公司表示。