2025年10月，某平台在AI仿冒专项治理中，累计处罚了1.1万个侵权仿冒达人账号，下架了6700多个仿冒商品。 其中，演员温峥嵘的仿冒视频就被下架超过1万条。

这些仿冒账号使用AI换脸技术，冒充明星进行直播带货。有的账号直接用AI生成温峥嵘的肖像和声音推销产品，有的则用特效制作高度相似的卡通形象混淆视听。

这类骗局并非首次出现。四五年前，演员靳东就曾是AI换脸的受害者。 当时，不法分子利用AI技术伪造靳东的视频，以“恋爱”为名诱导中老年女性转账购物，甚至导致一位61岁阿姨离家出走追寻“真爱”。

2025年4月，中央网信办在全国范围内部署开展了为期三个月的“清朗·整治AI技术滥用”专项行动。 专项行动分两个阶段进行，第一阶段强化AI技术源头治理，第二阶段聚焦利用AI技术制作发布谣言、假冒他人等突出问题。

这些AI仿冒账号往往有明显的技术破绽。 警方提醒，如果在直播中看到AI换脸，当人物转脸时侧脸会变虚，上下左右晃动时会出现虚影。 还有的仿冒直播会出现口型对不上的情况。

AI换脸技术的滥用已经造成多起严重诈骗案件。2023年，内蒙古包头一名公司老板在视频通话中被AI伪装的“好友”骗走430万元，整个诈骗过程仅用了10分钟。 2025年5月，上海警方破获一起利用AI生成虚假网恋女友的诈骗案，涉案金额达200余万元。

2021年4月，主持人白岩松在节目中公开打假，声明自己没有任何微博、微信、公众号，“网上同名号没一个是我”。 类似的高仿号还出现在钟南山、马未都、陈道明等名人身上。

针对AI换脸诈骗，警方建议采取多种措施防范。 在视频通话时，可以要求对方上下左右晃晃头，观察是否有虚影；或者说一句方言测试对方，因为AI难以模仿真实的声音和方言。 银行汇款时，将到账时间设置为“24小时到账”，为处理问题预留时间。

未经授权使用他人肖像进行AI换脸，或用AI生成虚假内容进行商业宣传，都是侵权行为。 受害者可要求停止侵害、消除影响、赔偿损失。 像AI数字人虚假带货、AI生成虚假测评误导消费的，还构成虚假宣传，涉事方需承担相应法律责任。

日常生活中，警方提醒消费者应注意保护个人隐私，不随意上传包含个人信息的图片、视频。 如果要在网上发布照片，尽量避免透露个人信息或联系方式，还有位置、工作地点，这样能降低被诈骗的风险。