欧亚联合证券APP下载 AI换脸、声音克隆…… 人工智能技术滥用该如何应对？

近日，有演员被多个直播间AI换脸冒用形象直播带货的现象引发关注，然而，这种情况并非个例。此前，中国之声就曾报道过，运动员、演员等知名人士深受AI换脸的困扰。实际上，AI换脸与声音克隆技术形成的灰色产业链已对个人权益、平台监管都构成了严重威胁。

尽管监管部门已出台相关规定，明确要求AI生成内容必须标注，平台在采取措施加强管理，但仍有不法分子通过各种手段规避监管。面对技术滥用不断翻新的挑战，如何治理无底线AI换脸与声音克隆的乱象，来真正守护住我们的“面孔”和“声音”？

前不久，有网友发现一位演员同时现身三个不同的直播间，身着不同服装推广着不同的产品，动作神态与本人高度相似。后经了解，这三个直播间或是录屏抠图，或是商家盗用该演员过往的直播素材，经过深度合成，重塑形象与语音嵌入直播间进行模拟。

这位演员的团队工作人员发现虚假视频在网络传播后便持续进行举报，一天内曾集中举报50个假冒账号，有的造假账号被平台下架处理，有的则刚下架就换个形式重新出现。据介绍，部分商家只需截取一段影像，用简易工具就能生成虚假内容，而取证申诉的过程却要花费很大的精力。

演员团队工作人员：他们喜欢在凌晨3点、4点，大家都在休息的时候打时间差，去发这个东西。我们送达了律师函，包括他们的侵权行为、产品，所对应的公司主体，这其实只是一部分。早些前我们已经陆陆续续处理了很大一批了。

AI换脸乱象，不仅让名人深受其扰，普通人遭遇AI换脸侵犯权益的现象也时有发生。上个月，山东济南的陈先生在某社交平台网购了两条裤子，却只收到了一袋小苏打，商家表示货发错了，由此双方起了争执。没想到，商家竟用AI换脸，冒用陈先生妻子的形象在社交媒体发布不雅视频。

陈先生：起了争执，我说了他一句，他给我打电话就辱骂我，长达10多分钟，挂了之后，我就向平台举报了，因为我是有录音的。但是后期他发布了视频AI换脸，换的是我爱人的。

陈先生称，商家通过购物记录找到他在社交平台上的账号，起初在陈先生已发布的视频下方恶意评论，而后注册账号盗用陈先生妻子的形象发布不雅视频。陈先生随后向平台方投诉，并向警方报警，最终侵权账号被封。

滥用AI换脸技术，不仅出现在侵犯肖像权的民事案件中，甚至已触及刑事犯罪。此前，江苏省南京市玄武区人民法院审理了一起“AI换脸”诈骗案。被告人符某利用非法获取的195万多条公民个人信息和AI换脸软件，登录了被害人的支付账户，盗刷银行卡进行消费。

南京市玄武区人民检察院检察官助理张海月告诉记者，符某通过AI换脸软件，以“人脸识别”的方式，登录了23名被害人的金融平台支付账户。其中，非法更改了5人的支付密码和绑定手机号，冒用了1人的支付账户绑定的银行卡购买了两部手机，共计人民币15996元。

南京市玄武区人民检察院检察官助理张海月：通过技术融合，AI生成一个动态视频，左摇头、右摇头、张嘴，这样一些金融视频可能会常对用户登录时做的一些指令，突破金融支付平台的防线。

其间，符某曾试图利用AI换脸，突破多个金融支付平台的“人脸识别”认证系统。

南京市玄武区人民检察院检察官徐佳：他不断去尝试，也尝试了很多平台，但是别的平台可能因为风控系统比较严格，这个平台可能存在一些漏洞，最终得逞。

而后，法院以侵犯公民个人信息罪、信用卡诈骗罪数罪并罚，判处符某有期徒刑4年6个月，并要求其承担15996元公益损害赔偿金、删除存储的所有公民个人信息。另外，针对本案暴露的某金融支付平台存在的技术风险问题，检察机关及时发出法律风险提示函。目前，该金融支付平台已完成整改。

记者在多个社交平台发现，AI换脸教程及服务可以轻易搜索到，也有一些博主上传相关软件使用技巧。而在网购平台，该类软件或服务定价较低。记者也注意到，监管部门已针对AI虚假直播出台治理措施，国家网信办等多部门共同发布《人工智能生成合成内容标识办法》，明确要求AI生成的肖像视频需标注AI生成，否则将面临最高10万元罚款。但很多博主将标注藏在视频或者直播剪接的角落，或者用极小的字体显示，消费者很难注意到。

中国政法大学刑事司法学院教授谢澍：AI换脸与声音克隆技术形成的灰色产业链，是网络黑灰产的典型形态。此类犯罪涉及全链条，需要系统审查，综合判断。

中国政法大学刑事司法学院教授谢澍：其上下游行为可被现行刑法有效规制。当前的核心挑战在于侦查中的证据固定以及对各环节“主观明知”的准确认定。必须坚持全链条打击思路，同时压实平台主体责任，对拒不履行网络安全管理义务的平台追究刑事责任。现有刑法罪名体系已能对此类技术滥用形成有力威慑，关键在于通过严格执法与精准司法，将法律条文转化为实际的治理效能。

目前，已有平台针对AI仿冒名人带货行为采取专项治理。但平台相关负责人称，AI侵权识别是行业性难题，黑灰产通过凌晨发布、频繁更换账号等手段规避监管，未来将持续加强治理力度，对违规行为严格处置。