國內的首個監管“AI換臉術”規定還要追溯到2019年，目的在于打擊利用AI 技術制作的虛假音視頻，控制此類“新型謠言”的傳播。

最廣為人知的，是2019年初，一段借助AI換臉技術制作的94版《射雕英雄傳》大火，黃蓉飾演者朱茵的臉被換臉技術“偷天換日”變成了楊冪的，雖然五官大不相同，但換臉后的表情、動作卻很自然流暢，一石激起千層浪，引發眾網民嘩然。

當年7月，媒體也對AI換臉黑產進行了走訪調查，發現100元打包200部換臉情色片，囊括國內一二線女明星，5張照片就可以幫你定制換臉視頻，400元就可以購買換臉軟件及教程并包教包會……令人咋舌的交易之下，AI換臉黑產已經形成了完整的產業鏈。

單純的換臉術并不讓人過于擔心，真正引起公眾擔憂的，是虛假視頻+虛假音頻的融合：各個“AI主播”的出現就是一個例證，兩者一旦更加深度地進行融合，對于目前的音視頻鑒定技術是一個巨大的考驗。

近日，國家互聯網信息辦公室、工業和信息化部、公安部聯合發布《互聯網信息服務深度合成管理規定》（以下簡稱《規定》），自2023年1月10日起施行。

《規定》明確了深度合成技術服務提供者、使用者、應用程序分發平臺等應承擔的責任和義務，以及深度合成數據和技術管理規范以及監督檢查與法律責任。其中提出，深度合成服務提供者和技術支持者提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等生成或者顯著改變信息內容功能的服務的，應當進行顯著標識，避免公眾混淆或者誤認。

“AI換臉”流行已久

在很多人的概念中，換臉可能還停留在P圖的地步。然而，AI換臉技術已經能將動態視頻中的人臉，替換成其他人的人臉，在深度偽造技術的助攻下，替換上的人臉不再是僵硬的五毛特效，而是富有表情神態，甚至到了肉眼難辨的境界。

據悉，AI換臉技術最早出現在2017年，也被叫做“深度偽造技術”。

2017 年，國外名為“DeepFakes”的用戶在Reddit上發布了一個假視頻，利用深度學習和AI 新技術將《神奇女俠》的扮演者蓋爾·加朵的臉換到了成人電影上，從此AI 換臉技術逐漸泛濫成災。

2019年，國內掀起“換臉”風潮。B站up主“換臉哥”將94版《射雕英雄傳》的影視片段中朱茵的臉替換成楊冪，迅速在網上發酵并引發爭議，B 站視頻截止刪除前點擊量超出 20 萬，微博話題閱讀量 1.3 億。

后來“AI明星換臉”成為一條灰色產業鏈。AI換臉泛濫的一個重要原因，是它能夠被低成本低門檻地獲取和運用。從一個AI換臉制作者那里了解到，“五分鐘視頻換臉100元”、“學教程2000元包教包會”、“進行一對一教學”、“不限視頻內容”、“所有明星都能換臉”、 “大約一個星期就可以掌握AI換臉視頻制作”。

后來，更壞的消息傳來了——可以實時生效、作用于視頻聊天的AI換臉技術也出現了！那些軟件的使用很簡單，進入到主界面后，即可看到當前攝像頭捕捉的畫面，以及軟件的其他功能。

那些軟件本身內置了很多人臉可選擇，例如愛因斯坦、蒙娜麗莎、奧巴馬乃至C羅等名人。你可以選擇軟件預設的人臉進行替換，也可以自己載入一張人臉照片來替換。

你的臉瞬間就變成了另一張臉，你做什么動作，這張人臉也會做什么動作，無論是眨眼、張嘴、點頭等等，非常逼真。

監管加速 給黑產帶上枷鎖

可以說，“AI換臉”已經變成了很多黑產盈利的工具，不法分子能讓明星“AI脫衣換臉”，那么，普通大眾會不會遭受此害呢？面對愈演愈烈的“AI換臉”技術與工具，公眾難免會對AI換臉濫用的擔憂，什么情形下AI換臉會侵害當事人權利？如何依法規范AI換臉技術的使用？

除了文章開頭提及，國家網信辦、文旅部和廣電總局等三部門再2019年聯合發布了《網絡音視頻信息服務管理規定》，明確“利用基于深度學習、虛擬現實等的虛假圖像、音視頻生成技術制作、發布、傳播謠言的……應當及時采取相應的辟謠措施”等針對換臉技術的新規定。

當下，已實施的《民法典》又做出規定，換臉視頻都需要以肖像權人同意為前提，否則即為侵權。而制作、復制、販賣、傳播淫穢視頻，已經觸犯了刑法。受害人可以依法進行維權。因此，未經當事人同意的AI換臉違法。

《民法典》第一千零一十九條明確規定：任何組織或者個人不得以丑化、污損，或者利用信息技術手段偽造等方式侵害他人的肖像權。未經肖像權人同意，不得制作、使用、公開肖像權人的肖像，但是法律另有規定的除外。法律另有規定的五種情形，包括為個人學習等目的在必要范圍內使用、新聞報道不可避免地使用、國家機關依法為依法履行職責使用等。這意味著，無論是普通公眾還是明星，除了以上這五種情形，一切其他的換臉視頻都需要以肖像權人同意為前提，否則即為侵權。

對于深度合成技術的監管，此前在《互聯網信息服務算法推薦管理規定》《網絡信息內容生態治理規定》等法規中均有提及。

2022年12月11日，國家互聯網信息辦公室、工業和信息化部、公安部聯合發布《互聯網信息服務深度合成管理規定》（以下簡稱《規定》），自2023年1月10日起施行。

深度合成技術涵蓋了內容合成、人臉合成、語音合成以及虛擬人全身合成等技術類型，如今大熱的AI作畫、AI創作、AI換臉以及虛擬人制作等，都屬于深度合成技術支持下的應用。

12月12日發布的《<互聯網信息服務深度合成管理規定>答記者問》提到，《規定》出臺主要基于多個方面考慮，一是深入貫徹落實黨中央決策部署，進一步加強對新技術新應用新業態的管理；二是維護網絡空間良好生態，避免影響傳播秩序和社會秩序，損害人民群眾合法權益，危害國家安全和社會穩定。三是促進深度合成服務規范發展，明確各類主體的信息安全義務。

此次出臺的《規定》，則對深度合成內容更有針對性地進行規制，也標志著監管部門針對互聯網信息內容監管版圖的進一步細化。

“和之前相對碎片化的法規相比，新規的針對性非常強，且全鏈條管理?！笔垒x律師事務所合伙人王新銳對界面新聞記者表示，《規定》通過一系列的管理制度要求來管控深度合成帶來的風險。

最后

標識可以讓受眾明白內容是否屬于深度合成，一定程度上可以減少深度合成內容產生的社會偏差。對于技術支持公司來說，對輸出內容增加標識難度不大。不過，對于平臺型公司而言，如何識別出不同上傳者的深度合成內容標識將成為一個難點。

隨著AI技術的不斷發展，相關法規會逐漸完善，針對Deepfake等的檢測技術也會變得越來越準確、高效。