AI換臉軟體在網路上公開販售，法律邊界在哪裡？

近日，因AI換臉技術導致的詐騙案件引發了人們的關注。伴隨著AI大模型的發展，「換臉」技術應用範圍越來越廣，技術的突破也使得換臉後的人物表情、動作細節更為逼真，一旦被不法分子利用，可能會帶來嚴重危害。記者調查發現，在網路上，AI換臉軟體的取得非常容易，利用AI換臉軟體的法律邊界在哪裡？如何做好事前監理？

01

網路上出現付費AI換臉軟體

套餐價格從499元到2888元不等

當下，依賴大模型及演算法的突破，AI換臉正在實現更大範圍的應用，引發更多擔憂。在網路上，示範換臉軟體使用方法及效果的教學比比皆是。有別於大量給一般人「嚐鮮」的免費軟體，記者發現，在網路上還有很多高價的付費AI換臉軟體，這些付費軟體與免費軟體有什麼樣的不同？

記者搜尋「AI換臉軟體」後聯繫上了一個開發者，他給記者提供了一段使用其軟體實現換臉的示範視頻——雙視窗頁面左側是換臉之前的原始視頻，右側則是換臉之後的視頻，肉眼來看，換臉之後的「數字人」口型、表情、微小的動作幾乎毫無破綻。

△賣家展示的素人換臉效果（S為原視頻，D為更換之後）

在其銷售網站上，該軟體開發者也展示如何將兩位知名女星的眼睛和嘴巴拼接到一起，產生全新「數位人」的影片。

△賣家展示的局部五官更換

這項付費軟體提供從初級（LV1）到超級（LV4）再到全套（LV5）的不同版本。以初級套餐來說，499元提供軟體介面、視訊指導、換臉模型等，如果花2888元，則可以得到全套（LV5）等級的視訊換臉模型。

△網路上提供多種不同等級的換臉軟體產品

02

#「想換什麼臉都可以」

AI大模型可整合多種功能打造「數字人」

# 打開網站，底部沒有任何文字顯示其經過了備案。 賣家也很謹慎，全程只用文字溝通。他表示，與初級（LV1）至超級（LV4）套餐相比，全套（LV5）版本迭代更多，能力更強，也可以理解為換臉效果更為逼真，同時，不僅可以實現視頻換臉，也支援直播換臉。

記者進一步詢問，能否依照自己的需求換臉？軟體開發者表示：「想換什麼樣的臉拿素材訓練就可以」。

△軟體開發者在與記者的聊天截圖

一位從事AI開發的技術人員表示，這意味著可能會有更多難以控制的風險。 「類似deepfake這樣的AI換臉技術是開源的，最近的AI大模型火起來，它的演算法又有了更新，就可以整合文生圖、文生文，文生音訊、文生視訊、換臉，這樣的功能結合起來，就可以打造出一個完全嶄新的'數字人'或者叫'AI人'，監管的成本和難度高了好幾個數量級。”

△賣家展示的用戶回饋

03

#專家：有效的識別監管系統

能提前釐清AI換臉帶來的模糊邊界

#

北京嘉维律师事务所律师、IT法律专家赵占领表示，从事后打击的角度来说，刑法中有关于诈骗罪的规定；民法典明确，公民享有肖像权、姓名权、名誉权等等相应的民事权利。也就是说，如果发生使用他人的肖像进行诈骗的相关案例，不法分子能够在事后被法律约束与制裁。但在人工智能技术飞速发展的当下，还应探讨如何能够做到有效的事前防范。

例如，在《互联网信息服务深度合成管理规定》中要求，深度合成服务可能导致公众混淆或者误认的，深度合成服务提供者应当在生成或者编辑的信息内容的合理位置、区域进行显著标识。

《生成式人工智能服务管理办法（征求意见稿）》要求，利用生成式人工智能产品向公众提供服务前，应当按照有关规定向国家网信部门申报安全评估；要尊重他人合法利益；产品提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责等。

浙江大学国际联合商学院数字经济与金融创新研究中心联席主任盘和林认为，从目前来说，如果能够有效落实标识的要求，形成有效的监管体系，可以在很大程度上提前厘清AI换脸所带来的模糊边界。

盘和林：当前AI换脸的标识监管体系还没有形成，要针对不标注的内容，通过技术的手段来辨别，并且对不标注的个人或者是单位组织要有具体的处罚的措施和标准以及制度。

赵占领认为，从长远来看，监管与处罚措施还需要随着技术发展不断“迭代”，才能形成立体有效的治理方案。

来源：中国之声微信公号

转自：人民日报客户端

以上是AI換臉軟體在網路上公開販售，法律邊界在哪裡？的詳細內容。更多資訊請關注PHP中文網其他相關文章！