從換臉技術(shù) Deepfake 初次在論壇出現(xiàn)，到“神奇女俠”蓋爾·加朵的臉被嫁接到成人片女星身上，再到換臉應(yīng)用 ZAO 一夜間風靡朋友圈，僅僅只過了兩年。

基于深度學習的 AI 換臉技術(shù)正在創(chuàng)造出越來越多真假難辨的視頻。但與此同時，AI 造假技術(shù)也在滋生恐慌，這背后是關(guān)于隱私、真實、版權(quán)等等懸而未決的問題。

監(jiān)管已經(jīng)跟了上來。11 月 29 日，國信辦引發(fā)了《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》(以下簡稱“規(guī)定”)，提到了對深度學習視頻內(nèi)容的管控。

規(guī)定第 11 條指出，網(wǎng)絡(luò)音視頻信息服務(wù)提供者和使用者利用基于深度學習、虛擬現(xiàn)實等的新技術(shù)新應(yīng)用制作、發(fā)布、傳播非真實音視頻信息的，應(yīng)當以顯著方式予以標識;不得利用基于深度學習、虛擬現(xiàn)實等的新技術(shù)新應(yīng)用制作、發(fā)布、傳播虛假新聞信息;轉(zhuǎn)載音視頻新聞信息的，應(yīng)當依法轉(zhuǎn)載國家規(guī)定范圍內(nèi)的單位發(fā)布的音視頻新聞信息。

也就是說，普通人和服務(wù)商發(fā)布非真實 AI 音視頻時，要以顯著方式標清它運用 AI 技術(shù)進行了二度創(chuàng)作，且不得使用它制作假新聞。

在視頻分享網(wǎng)站 Bilibili 上，能看到大量素人 UP 主制作的 AI 換臉視頻。徐錦江、凌瀟肅、倪大紅、范偉、趙本山等人的形象是最受歡迎的換臉模版。這些視頻大多以娛樂為目的，制作水平不一，使用的視頻背景大多是影視劇“名場面”。雖然創(chuàng)作者一般都會標清內(nèi)容運用了 AI 換臉技術(shù)，但常常會被評論調(diào)侃(夸贊)為“拿原片出來騙人”。

除此之外，規(guī)定還對服務(wù)商提出了額外要求，包括“展開安全評估”、“部署非真實音視頻鑒別技術(shù)”、“及時停止傳播未顯著標識的非真實 AI 音視頻內(nèi)容”、“建立健全辟謠機制”等。新規(guī)將于明年 1 月 1 日起施行。

作為一項“天生帶有攻擊性”的技術(shù)，Deepfake 從誕生之日起就伴隨著驚嘆聲和質(zhì)疑聲。相比國內(nèi)，海外互聯(lián)網(wǎng)平臺對于此類“非自愿內(nèi)容”的展示似乎得更嚴苛一些。

2018 年 1 月 31 日，Gfycat 從其站點中刪除了所有 Deepfake 內(nèi)容。同年 2 月，Reddit 與 Pornhub 也宣布因違反“非自愿色情”政策而禁止此類內(nèi)容。同月，Twitter 表示將暫停涉嫌發(fā)布未經(jīng)許可的 Deepfake 內(nèi)容的帳戶。2018 年 9 月，Google 也將“非自愿合成色情圖片”添加到了其禁令列表中。

2016 年 6 月，一段以 Facebook CEO 馬克·扎克伯格(Mark Zuckerberg)的臉為素材的 Deepfake視頻在 Facebook 和 Instagram 上傳播，F(xiàn)acebook 隨后表示，他們不會從其平臺中刪除 Deepfake 內(nèi)容，但這些視頻會被第三方標記為偽造，然后被降低優(yōu)先級。

關(guān)鍵詞：