“双11”期间，多条AI合成带货视频引发消费者质疑，部分视频中人物出现“穿模”等物理失真现象，暴露技术漏洞。调查发现，电商从业者利用AI工具批量制作营销视频，甚至通过换脸、变声技术伪造名人代言，如张伯礼院士、央视主持人李梓萌等均被冒名用于虚假宣传。北京某公司因伪造李梓萌形象推销“治疗型鱼油”被市场监管部门处罚，成为首例AI虚假广告案。平台已加强治理，第三季度拦截超84万条涉AI违规素材，采用多模态大模型提升识别能力。监管部门强调，将严厉打击AI换脸、虚假广告等违法行为，呼吁消费者留存证据并举报。

本文内容由开放的智能模型自动生成，仅供参考。