李梓萌说“我信你”，骗子笑了，你信吗？

有人在短视频里看见李梓萌卖鱼油，她笑得挺自然，说话声也跟真人一样，说同事都在吃，劝大伙儿买，不少人信了，下单的人一堆，没过几天就有人觉得这鱼油味道不对，糖精味太冲，北京市监局、网信办和公安一起查，发现根本不是李梓萌本人。 李梓萌自己发了声明，说她从来没带过货，央视也出来解释了，那段视频是AI做的，技术团队比对过后确认，脸是换的，声音是合成的，不是真人直播，是机器拼出来的假人，可还是很多人买了，因为他们觉得央视主播不会骗人。 不光李梓萌，全红婵、孙颖莎、王楚钦也被人拿来做文章了，有人把他们几张穿国家队队服的照片拼在一起，说是卖土鸡蛋，视频里他们笑得自然，说的话也像平常人一样，全红婵的哥哥马上出来澄清，说妹妹从来没给任何东西做过代言，三个人的团队也都查过了，确实没签过合同，骗子挑上他们，就是觉得老人最信奥运冠军，觉得这种人不会骗人。 做这种假视频，成本低得离谱，用个AI工具，花不到五百块就能弄出来，素材全是从公开视频里截的，新闻联播、颁奖礼，随便抓，生成的视频一点不假，说话的节奏跟真人一样，眨眼、微笑，全跟真的一样，比真人直播还稳，以前有个配音演员，声音被偷了，维权半年才赔五千，连句道歉都没有，技术能复制，法律却跟不上。 我们以前信电视里的人，是因为他们经过检查，现在AI做的东西比真人还整齐，人反而更容易相信，有人看了假视频还问，她是不是偷偷接了广告，这说明我们不是不信人，是分不清谁真谁假了。 不只是主播和运动员，连中科院院士、退休老师也被人拿去仿冒，有人用AI模仿院士说保健品有效，还有人装成老师开养生课，2025年《数字身份保护法》征求意见稿提了AI造假的事，可证明是假的还得靠受害者自己，执法赶不上技术变快，欧洲2024年就要求所有AI生成的内容必须加水印，中国还没全面这么做。 骗子没想出新花样，只是换了工具，他们知道你最信谁，就装成谁，几百块的程序就能做出一个比真人还像真人的假人，李梓萌出来澄清了，冠军们也站出来说话了，骗子账号被封了，可下一个被模仿的会是谁，当你看到一张熟面孔，听到熟悉的声音，第一反应是不是她终于肯带货了，而不是这可能是假的。