记者实测AI“魔改”明星：1分钟报价数百元，平台审核存盲区，多明星同陷骗局

“太可怕了。”

2月26日，演员王劲松在个人微博发文，表示某微信视频号视频盗用其本人形象，“把我AI了”，修改其视频文案、口型，用于广告宣传。

新京报贝壳财经记者调查发现，涉事的AI“魔改”视频中，王劲松本人的穿着、神态，视频背景等几乎与抖音账号@抖音电视剧（抖音电视剧官方账号）在2020年发布的一条视频完全一致，原视频左上角标有《冰雨火》的水印，视频主题为宣传防毒禁毒。

新京报贝壳财经记者找到的AI魔改“原视频”与被魔改后的视频截图对比。

而被AI“魔改”后，“王劲松”在视频中开始推销一个包含“CRC”“RWA”等概念的所谓“财富平台”。对此，王劲松本人在微博回复中直言：“声音，口型完全看不出来真假”“我家里人都分不清是不是真是我了”。

目前，微信视频号已第一时间下架了该视频。但是，在这背后，值得追问的问题包括AI“魔改”明星视频有多简单？各大视频平台对此是否有防范措施？技术上AI视频和真实视频还能否被区分？包括王劲松在内，于和伟、李连杰等都有代言视频流传出来的所谓“CRC、RWA”又是“何方神圣”？

【实测】 

生成“AI魔改视频”容易吗？

首先，使用AI生成一个王劲松“同款”假视频，容易吗？

答案是：并不简单。

新京报贝壳财经记者测试发现，如果只是普通用户使用目前市面上常用的AI视频工具，并不能达到“以假乱真”的效果。要生成“同款”假王劲松AI视频，仍然对技术有要求。

为进行测试，贝壳财经记者将@抖音电视剧发布的原视频分别投喂给即梦AI、可灵AI、剪映、豆包四款有AI视频生成功能的软件，并要求其按照给定广告文案生成AI视频。

结果，即梦AI的“对口型”功能仅支持匹配自带音色，生成视频的口型并不能完全契合文案；可灵AI生成的AI视频中，人物并未按照给定的文案生成“对口型”视频；剪映可通过“克隆音色”的功能复刻所上传视频中人物的音色，但“修改口型”的功能同样不能让视频中人物的口型做到无痕契合文案内容；豆包使用的Seedance2.0视频生成模型暂不支持上传真实人脸素材作为参考，无法对原视频进行修改。此外，上述四个App生成的视频均带有“AI生成”水印。

由此看来，上述四款App均难以一次生成“同款”假王劲松AI视频。

不过，市面上具备此类能力的AI模型还有很多，也由此已经衍生出一门借助AI修改人物口型的生意。在电商平台上很容易即可找到“AI影音修改”的服务，支持修改视频人物说话内容并同步口型，保持声音音色不变。

新京报贝壳财经记者在某电商平台咨询得知，多家店铺都支持AI修改明星视频，同时可以在视频上传后不显示“AI生成”的提示，1分钟“魔改”视频的报价在130元-400元不等。如一个“AI数字人视频对口型”商家显示其服务“已售1000+”。对方表示，支持“拿名人视频换成别的话和口型”。

记者在电商平台咨询到支持AI“魔改”的店铺。

而当记者表示想要了解店家使用的具体AI方式时，有店家表示使用的是“自有系统”，也有店家解释使用的是数字人技术。

贝壳财经记者注意到，随着技术的发展，近几年来，此类“虚假明星”的视频已经从“AI让图片动起来”进化到“AI换脸”，现在又直接升级为了“AI对口型”，每一次技术升级都在挑战肉眼辨认的难度。

对于王劲松形象“被AI”，中国政法大学知识产权中心特约研究员赵占领在接受贝壳财经记者采访时表示，对于AI技术的提供者，如果该AI工具被专门用于制作虚假名人代言视频，且未尽到显著的标识义务或管理责任，也可能需要承担相应责任。依据《生成式人工智能服务管理暂行办法》，服务提供者应当采取有效措施，防范生成虚假信息，并确保生成的视频进行显著标识，以防止混淆和误认。

北京中闻律师事务所合伙人赵虎对贝壳财经记者表示，责任方应该包括视频制作者、平台、提供工具的AI公司三方，“未经授权使用名人肖像和声音的人存在侵权行为，平台依照‘避风港原则’有删除侵权视频的责任。最难判断的是AI公司，从技术视角来看，技术是中立的，但产品的设计本身是否有问题，是否有考虑保护他人权益，是否变成了他人犯罪的工具也值得考量。不得不说，AI技术发展很快，相应的法律规定不一定完善。”

【审核】

平台审核AI伪造视频有多难？

当前主流视频平台对此类“AI生成”视频的审核力度如何？

2025年9月，新京报贝壳财经记者曾将AI生成的虚拟人物视频上传至哔哩哔哩、微博、抖音、快手、小红书5个平台，结果发现除了抖音和快手外，其他视频平台均未能识别出视频为AI生成。

2月27日，新京报贝壳财经记者再次尝试将上述记者使用AI工具生成的明星视频上传至抖音、快手两个短视频平台，结果发现仅抖音在视频左下角提示“作品含AI生成内容”。

事实上，随着AI技术的升级，平台对AI视频的检测也变得越来越难。

某视频平台业务人士向贝壳财经记者透露，该平台已为社会知名人士建立了肖像保护库，并且对仿冒营销内容进行了有效拦截，但是从平台治理的情况看，依然存在较大的难度，主要体现在部分用户通过各种手段与平台进行对抗，如通过形象微调、面部遮挡、画面分屏、跳帧出现等问题，使得平台也在不断迭代策略应对处置这些变体，而且用户利用AIGC可以很快地更换“形象”进行创作，进一步加大了治理难度。此外，人耳听起来相似的声纹，在算法角度对应的特征差异很大，因此更难泛化识别变体；同时因为人耳无法准确辨别AI声纹，实锤假声纹的成本高。

也有熟悉视频审核业务的人士告诉贝壳财经记者，对于仿冒名人营销，一些社会知名人士本身在平台上存在营销行为，如自媒体、代理商在平台上传播带货直播切片、代言视频等，因此仅凭视频难以区分虚假营销与真实带货，处置难度也很高。

多位AI行业专家均对贝壳财经记者表达过一种观点：AI生成技术与AI检测技术正呈“螺旋上升”态势，即“道高一尺，魔高一丈”。

中国传媒大学数据科学与智能媒体学院副教授张三义告诉贝壳财经记者，从技术的角度，虽然生成技术在迭代更新，但通常是可以发现一些生成或者伪装痕迹。一般会从这里来深挖视频背后的线索，来帮助判别。未来这种视频伪造比较困难的点在于不开源，“如果解锁不了视频生成的技术路线。从检测的角度就很难了。如果能够大概知道视频生成的技术路线，就可以作为突破口去做检测。”

在张三义看来，虽然目前AI生成视频大模型的技术路线基本都是用扩散模型生成，但每家企业会在此基础上再研发自己的核心技术，这就会存在许多不公开的细节。

在这样的情况下，如果有人使用了最新版本AI模型生成的视频，确实存在盲区。“平台的检测模型也需要一定的时间来更新应对这些新版本生成模型。这的确是个隐患。”张三义告诉记者。

据贝壳财经记者不完全统计，腾讯方面从2024年就开始打击利用AI仿冒知名人士进行营销宣传的行为。1月18日，微信方面表示，“平台从速从严打击利用AI仿冒知名人士进行违规拼接、不当营销、恶意博取流量等行为。最近一个月，累计处置内容12091条，关闭账号3281个。”

根据2月25日，抖音电商发布的2025年度报告，过去一年里，平台治理“侵权仿冒名人”等热点问题，“严厉打击未经授权利用AI、特效仿冒名人进行虚假宣传或侵权行为。截至目前，共处置违规侵权仿冒达人账号1.1万个，主动拦截侵权视频过万条。”

【骗局】

王劲松等明星“被代言”，幕后黑手涉非法集资

新京报贝壳财经记者调查发现，在王劲松展示的“被AI”的视频里，发视频的用户名为“CRC数字资产配置导师”，视频宣传的内容包括“CRC”“RWA生态”。

值得注意的是，虽然目前该视频号已经被封禁，一个发布过CRC明星代言视频的微信公众号“RWA数字生态”也显示“该账号涉嫌欺诈，已被停止使用”。不过同样打着“CRC”“RWA生态”旗号的视频和账号还有很多，且分散在视频号、抖音等平台上，涉及的明星还有李连杰、于和伟、唐国强、张国立、李亚鹏等，视频中明星的口型与文案几乎都能做到真假难辨。

社交平台上关于CRC的帖子。

针对这些视频的真伪，新京报贝壳财经记者已向上述明星或工作室的微博留言求证，截至发稿，尚未得到回应。

而对于这些视频中涉及的“CRC”“RWA生态”概念，记者发现这场“资金盘”骗局已经持续数年，幕后推手疑似通过炒作上述概念，进行非法集资。

对于“CRC”，华润集团早在2023年6月就发布了公告，称发现有商号以“顶峰数字金融集团”“海外华润CRC”“CHINA RESOURCES CAPITAL LIMITED”的名义在英国注册并开展经营活动。华润集团表示“该等商号及其关联公司或人士与本集团不存在任何隶属或股权关系，也不存在任何投资、合作、业务等合作关系。”并提醒社会公众避免上当受骗。

2025年10月17日，大连市委金融委员会办公室发布公告称，近期有不法分子利用RWA（现实世界资产通证化）概念炒作投资项目，以“金融创新、高收益”为噱头诱导公众投资。此类活动暗藏“资金盘”陷阱，涉嫌非法集资，严重扰乱金融秩序。

2026年2月12日，江西证监局也发布风险提示，指出不法分子借RWA、稳定币、区块链等名义，通过夸大宣传诱导公众投资。这类骗局滋生非法集资等犯罪活动，严重危害财产安全，套路与大连公告提及的情况如出一辙。

对此，赵占领表示，在该起事件中，AI内容的生成者，即视频制作者是责任的起点。制作者未经王劲松本人许可，擅自使用其肖像和表演片段，通过AI技术合成虚假广告，首先侵犯了王劲松的肖像权。根据《中华人民共和国民法典》，除法律另有规定外，未经肖像权人同意，不得制作、使用、公开其肖像。同时，该视频将王劲松与“存疑资金盘”绑定，可能导致公众对其产生负面评价，还涉嫌侵犯其名誉权。

“广告所推广的‘CRC数字资产’项目方是整个事件的最终受益者和幕后推手。如果该资产盘确实涉嫌诈骗或非法集资，其利用王劲松的名人效应制作AI视频进行虚假宣传，不仅构成了民事欺诈，更可能触犯刑法，涉嫌构成诈骗罪或非法吸收公众存款罪。”赵占领对贝壳财经记者表示。

新京报贝壳财经记者 罗亦丹 张晓慧 编辑 陈莉 校对 穆祥桐

网址：记者实测AI“魔改”明星：1分钟报价数百元，平台审核存盲区，多明星同陷骗局 https://m.mxgxt.com/news/view/2021503

相关内容

时报观察：AI新骗局 平台责任大
AI造假与明星骗局：从黄百鸣到“假靳东”的揭秘
“AI魔改”经典视频背后 1分钱撬动“一本万利”灰色产业链
文体明星陷廉价房骗局 被卷数千万
让哪吒扛枪?AI魔改太离谱
“卢某某录音”系AI合成 记者实测：3分钟你的声音就可被克隆
一通“奶奶救我”来电：AI换声“假孙子”设局，换脸低至1元
广电总局开展专项治理——“AI魔改”红线不能踩
【知识科普】“AI换脸”诈骗，怎么防？
蔡徐坤直播被封真相：英语太多竟成平台审核雷区

随便看看