分辨难度堪比“真假美猴王” 防不胜防的“AI换脸+AI拟声”

分辨难度堪比“真假美猴王” 防不胜防的“AI换脸+AI拟声”

AI换脸创意图图据CFP

网上“AI孙燕姿”演唱的众多歌曲截图

一秒改变容貌——在AI浪潮下，“变脸”也开始实现技术迭代了。如今，在直播间、短视频里，主播时而像迪丽热巴、时而像易烊千玺，你能点出的明星名字，不论男女老幼，充当明星带货的主播都能通过以手遮脸后在屏幕之后实现。

视频AI换脸，是指通过人工智能大数据技术，根据用户需求，通过技术手段将视频中某个人物的脸替换成另一个人的脸。当前，AI换脸技术已经广泛应用于短视频、广告、电影等领域，带来了不少的创意效果。

但是，这一技术也被一些不法分子用于违法犯罪活动，即AI换脸诈骗。面对“AI换脸+AI拟声”，就像让你在屏幕前辨认“真假美猴王”一样困难，你无法轻易分辨出孙大圣的真假。

“AI诈骗”冲上微博热搜

据“平安包头”微信公众号消息，近日，包头市公安局电信网络犯罪侦查局发布一起使用智能AI技术进行电信诈骗的案件，福州市某科技公司法定代表人郭先生10分钟内被骗430万元，随后话题#AI诈骗正在爆发#冲上微博热搜。

已经对公共利益构成威胁的AI变脸，到底是怎么进行诈骗的？

具体来说，不法分子会利用AI换脸技术制作虚假的视频或图片，以此进行诈骗活动。比如，通过将某个人物或名人的脸替换到色情影片中，制造虚假事件，或者通过将受害者的脸替换到一些不雅或违法视频中，以此进行敲诈勒索。这些诈骗行为不仅侵犯了受害者的个人隐私和合法权益，还可能对受害者造成巨大的精神伤害和财产损失。

实际上，AI诈骗此前也在我国发生过多起。据华西都市报、封面新闻记者此前调查报道，浙江温州公安曾发布消息，2021年拱宸桥派出所接到报警，受害人小陈称他在与女网友视频聊天后被对方敲诈勒索。根据警方调查，对方使用了人工智能换脸技术，将小陈的面部合成到不雅视频中，然后利用此视频对其进行勒索。

2020年，上海某公司高管因对方使用AI换脸与人工生成的语音技术制作成公司领导的面孔，并要该高管转账，致使该高管被诈骗150万元。

“用户利用AI换脸技术伪装，导致被伪装人的肖像权等权利被侵犯，或导致其他人的感情和财产大量受损时，平台在未尽到合理审核义务、未有效规制该类行为发生的情况下，需要承担一定的帮助侵权甚至直接侵权法律责任。”泰和泰律师事务所律师刘青告诉记者，除非平台故意为之或协助诈骗人进行诈骗行为，否则很难认定平台构成诈骗罪。

“用户在使用AI技术介入的软件或互联网产品时，一方面应当注意勿恶意利用AI技术进行不法行为，另一方面也应注意识别、核对交流方的真实身份，切勿轻信表象，在需要转账或花销采购时谨慎考虑。”刘青指出，若民众遭遇诈骗应当第一时间报警寻求警方的帮助，注意保留相关材料以供警方尽快掌握案情、严惩犯罪分子。“此外，一旦发现自己的肖像被盗用或者‘被换脸’，应当第一时间保留证据，以便后续维权；同时还可以向网络平台运营商提出投诉，要求强制下架侵权图片或视频；最后，也可以提起人格权诉讼，用法律武器维护合法权益。”

最近，中国互联网协会发布了一份声明，呼吁广大公众应该提高警惕，加强对利用人工智能技术的新型骗局的预防措施。在AI时代，文字、声音、图像和视频都有可能是深度合成的，在转账汇款、资金往来这样的典型场景，要通过回拨对方手机号等额外通信方式核实确认，不要仅凭单一沟通渠道未经核实就直接转账汇款，无论对方是谁。

明星也难逃AI“魔法”

日前，在AI孙燕姿火爆全网之后，歌手孙燕姿在网站上发布了《我的AI》一文，首度回应了对AI技术的看法。孙燕姿形容自己像是坐在电影院最佳位置，享受着爆米花的观众一样，面对威势逼人的AI技术。“在这无边无际的存在之海中，凡事皆有可能，凡事皆无所谓，我认为思想纯净、做自己，已然足够。”

但事实上，如果“AI”技术使用了明星的语音信息，可能会侵犯其隐私权。根据我国《民法典》第一千零三十四条规定，自然人的个人信息受法律保护。个人信息是以电子或者其他方式记录的能够单独或者与其他信息结合识别特定自然人的各种信息。如果未经明星同意在其直播间使用“AI换脸”或“AI变声”技术，可能会侵犯其隐私权。

有人在网络上发布了一些“换脸直播”的教程，声称使用相应的软件可以更好地在直播带货中用明星的脸来代替自己的脸。对此，刘青说，根据我国《民法典》第一千零二十四条规定，任何组织或者个人不得以侮辱、诽谤等方式侵害他人的名誉权。这种行为有可能侵犯艺人的肖像权和名誉权，并且如果用于商业行为，还可能涉嫌虚假宣传。

当记者查询民法典时，发现AI换脸技术牵涉到多种权利，包括肖像权、名誉权和隐私权。据我国《民法典》第一千零一十九条规定，任何组织或者个人不得以丑化、污损，或者利用信息技术手段侵犯他人肖像权的方式，制作、使用、展示他人肖像。通过使用人工智能换脸技术制作虚假肖像，会侵犯他人的肖像权，并有可能导致侵权纠纷。

谁打开了AI换脸潘多拉魔盒？

AI换脸直播的发展史可以追溯到2018年，当时DeepFaceLab等工具的发布开启了AI换脸技术的发展。各大直播平台已开始应用AI换脸直播技术，这一技术正不断得到优化和升级。

2020年，美国的真力（Zoom）公司推出了AI面部替换功能，允许用户在Zoom视频会议中将自己的面部替换为他人面部。AI换脸技术的发展和应用得到了广泛的关注和讨论，这项功能也为此功不可没。

2021年，随着AI换脸技术的不断成熟和完善，AI换脸直播的应用范围也不断扩大。越来越多的平台和企业推出了自己的AI实时换脸服务，例如抖音的“Faceu秀颜”和“Perfect”等。这些应用不仅可以实现面部替换，还可以实现声音、动作、表情等多种维度的替换和合成，使得AI换脸直播更加真实和生动。

然而，随着AI换脸直播的普及和应用，也出现了不少争议和问题。有人认为AI换脸直播可能会侵犯个人隐私和肖像权，也有人担心AI换脸直播可能会被用于虚假宣传和色情内容等非法用途。因此，许多国家和地区已开始制定相关政策和法规，以规范人工智能换脸直播的应用与发展。

2021年，我国某知名电商平台开始在直播中使用AI换脸技术，用户可以通过该功能将自己的面部替换为明星或网红的面部，从而实现更生动、更真实的展示效果。此外，该电商平台还推出了自己的AI换脸直播服务，通过该服务，品牌方可以在直播中使用更为真实和生动的展示效果。

AI换脸技术未来受多方影响

目前，AI换脸直播已经成为我国直播行业的一种趋势，越来越多的平台和企业开始在直播中应用AI换脸技术。同时，随着技术的不断发展和应用，AI换脸直播在我国的应用前景也将更加广泛和多样化，但仍受多种因素的影响。

某头部直播平台工作人员张蕾（化名）向记者透露，据她从业以来的经验，AI技术的发展将推动AI换脸直播的进步。随着AI算法的不断优化和升级，AI换脸直播将会更加精确和真实，从而更好地满足品牌方的需求。“市场需求和消费者行为也将影响AI换脸直播的发展。如果市场需求持续上升，AI换脸直播的发展就会得到更强劲的促进。AI换脸直播的发展方向会受到消费者行为和喜好的影响，比如消费者更喜欢观看哪类直播内容。”

张蕾在回答记者有关政策法规对AI换脸的影响时，坦承政策和法规对AI换脸直播的未来发展有着极大的影响。“如果政策法规对AI换脸直播的发展持积极态度，那么AI换脸直播的发展可能会更加迅速和广泛，但一切都还是未知的。”

华西都市报-封面新闻记者 边雪

以上是分辨难度堪比“真假美猴王” 防不胜防的“AI换脸+AI拟声”的详细内容。更多信息请关注PHP中文网其他相关文章！