近日，女星张馨予在社交媒体上发声，揭露有商家利用先进的AI技术复制其声音，并制作虚假广告推销减肥药，此事迅速引起了公众的广泛关注。
张馨予在帖文中愤慨地表示，她近期发现某些品牌未经授权，就擅自使用AI技术模仿她的声音，剪辑并发布广告视频，其中甚至包括减肥药广告。她坚决否认自己曾推荐过任何减肥产品，并誓言将对这种非法行为追究到底。
不少网友在评论区留言，表示自己也曾刷到过类似的视频，这些视频制作精良，如果不仔细分辨，很容易上当受骗。
张馨予因多次涉及“减肥”话题而成为热搜常客，但这次的事件显然超出了她的预料。
事实上，张馨予并非首位遭遇此类事件的明星。近年来，随着AI技术的快速发展，越来越多的公众人物卷入“AI合成”风波。从知名企业家雷军被恶搞，到张文宏医生的音视频被不法分子用于带货，再到刘德华的声音被AI模仿进行诈骗，AI深度合成音视频侵权现象愈演愈烈。
今年3月，演员刘晓庆也遭遇了类似的情况。有网友向她反馈，有人在视频号上利用AI技术生成视频假冒她。刘晓庆随后转发相关视频并配文，表达了自己的惊讶和不解。
同样在3月，演员古天乐和林峯也“被代言”了某款带有赌博性质的游戏。不法分子利用AI技术，将他们的肖像、声音及过往视频片段合成制作为代言宣传片。尽管这些宣传片制作粗糙，AI合成痕迹明显，但仍可能对不明真相的观众造成误导。
针对日益泛滥的“AI谣言”，多家社交平台已经采取行动。微博率先宣布启动治理计划，重点打击社会民生、突发事件、科普医疗和个人权益等领域的未标识AI内容。如果账号发布的AI内容未主动标识，微博将主动打标提示，并视情况限制流量分发或禁言乃至封号。
除微博外，抖音、快手、微信、小红书和哔哩哔哩等国内日活量最大的社交平台也已要求用户在上传内容时声明是否由AI生成，共同维护一个清朗的网络空间。
