演员温峥嵘在浏览短视频时，意外发现“自己”正在直播。她在评论区提出质疑后，被拉黑并踢出直播间，而对方仍在用“她的脸”直播带货。
温峥嵘近期遭遇的“冒牌直播”事件，是AI换脸技术滥用的典型例子。11月14日，中央网信办官方账号发文表示，有网络账号利用AI技术仿冒公众人物形象，在直播、短视频等环节发布营销信息，误导网民，涉嫌虚假宣传和网络侵权，严重破坏网络生态，造成不良影响。网信部门严厉处置一批违法违规网络账号，并督促网站平台发布治理公告，开展集中清理整治。目前已累计清理相关违规信息8700余条，处置仿冒公众人物账号1.1万余个。
记者调查发现，AI换脸与声音克隆的教程及服务在网络平台流通。虽然平台会弹出官方提示，提醒用户使用需合法合规、注意辨别，但相关内容仍在网络空间大量存在。例如，有相当数量以“AI科普”为标签的账号在各平台公开分享换脸教程。这些视频通常详细列出可访问的网站地址，逐步演示操作流程，并附有技术细节说明，如建议用户尽量保证替换素材与原素材的人物尺寸一致、画面干净无遮挡，以保证生成效果。
根据教程指引，记者登录相关网站验证发现，部分平台确实免费提供AI换脸或声音制作服务，支付几十元购买会员后，还能解锁去水印、高清放大等进阶功能。除公开教程外，更为隐蔽的交易正通过网盘渠道进行。有一些打包出售的“完整教程”价格低至8元，且卖家声称没有市面主流软件那么多限制。这类教程通常包括云端工作流地址资料和详细的操作说明，以及图片去AI化、舞蹈动作模仿、人脸精修等扩展功能与相关的提示词教学。
声音克隆类的教程售价低至9.9元，并在宣传中强调支持任何形象和声音。记者询问商家了解到，只要购买此安装包，无需注册会员即可免费破解使用对口型、克隆音色等功能。据商家描述，只需提供一段音频文件，系统便可以在无身份认证的情况下进行克隆，单次支持30秒音频，且不限次数。
记者购买了一份标价8元的换脸教程。该教程包含一段5分钟的视频教程和两份文字材料，明确提供了平台访问链接、新用户福利信息和操作步骤，并特别注明对敏感词限制极少、生成内容无水印。记者发现，该平台提供多种功能模板，涵盖替换视频人物、给人物指定部位更换衣物、对图片中人物身体部位进行放大或动态处理等不同功能。每个模板均配备相应的提示词教学和详细操作步骤，用户只需上传参考图片、视频或待处理素材，等待一段时间即可生成内容。记者实测使用一段时长5秒的视频进行换装操作，约3分钟后成功生成视频。画面中，人物动作与神态还原度很高，被遮挡部位的服装贴合效果也较为自然、精准。
记者注意到，该平台内容生成功能采用运行时长计费模式，每秒收费0.2虚拟币。教程中附有专属邀请码，使用者可凭此免费领取1000虚拟币。平台还设置了虚拟币奖励机制：每天登录赠送100虚拟币，邀请新用户可获500虚拟币。
此外，在电商平台上，有商家为AI换脸服务披上伪装售卖。记者在某购物平台直接搜索“AI换脸”，显示无任何结果。但部分商家会在商品详情页用表情符号隐喻其能提供换脸“服务”；也有商家以“啥都能做”“不限视频内容，懂的都懂”为宣传语，暗示私聊客服了解商品详情。记者了解到，10秒换脸视频报价从15元至300元不等。例如，有商家提出，20秒内视频（包括仅生成音频的）统一收费80元；部分商家还推出298元200分钟生成时长、490元年卡等套餐，承诺一对一教学指导，宣传语中不乏让朋友客户难辨真伪等诱导性表述。多数商家仅核查素材内容，对用途与来源未作甄别。
近年来，利用知名人士形象进行AI换脸换声的视频层出不穷，一些有心人士将其用于直播带货甚至诈骗。京都律师事务所律师常莎表示，通过AI技术生成明星抑或普通民众的人脸形象，前提是要采集、提取其面部特征生物识别信息。这些信息属于法定的敏感个人信息，未经授权使用，构成对公民个人信息权益的侵害，还可能侵犯他人肖像权、名誉权等。若平台明知侵权方利用AI换脸实施诈骗、销售假冒商品等犯罪，仍为其提供帮助，则可能构成帮助信息网络犯罪活动罪。AI换脸直播事件中，侵权方的直播带货属商业广告行为，其通过AI伪造明星肖像与声音，营造名人本人推荐的虚假表象，使消费者因信任明星作出购买决策，违反诚信原则，符合虚假广告认定标准。同时，AI换脸行为还可能涉嫌不正当竞争。此外，伪造特定名人形象、虚构事实以获取非法收入，主观上具有非法占有目的，客观上实施了欺骗行为，符合诈骗罪的基本构成要件，该行为涉嫌构成诈骗罪。
对于AI换脸换声技术背后潜藏的法律风险，该如何有效治理？中央财经大学法学院教授王叶刚认为，应进一步明确删除、篡改、伪造、隐匿标识行为的法律责任。现有相关规定只是规定行为人不得实施恶意删除、篡改、隐匿标识的行为，但行为人实施相关行为需要承担何种法律责任，相关规定亟待进一步明确。对于通过技术手段能够发现的AI换脸直播带货行为，平台应当尽到必要的审核义务，在发现相关行为后，可以考虑采取禁止或者限制直播、下架产品或者服务等措施。实现多部门联合执法，网信部门、市场监管部门等在行使本部门职权的基础上，与其他部门进行沟通、配合，实现对违法AI换脸换声等行为的全过程监管和治理。
京都律师事务所律师常莎建议，在技术方面，防范与创新并重，支持研发反深度合成技术，提升鉴别能力，为监管部门和个人提供可靠的技术工具。个人应提高对肖像权和隐私权的保护意识，谨慎发布包含个人清晰肖像、独特声线的影像资料，避免给不法分子可乘之机。同时，如果侵权行为发生，则应积极通过法律途径维护自身合法权益，及时收集并保留相关证据侵权内容截图、传播记录等，以便在后续维权过程中提供有力支持。
汇盈策略提示：文章来自网络，不代表本站观点。
