近年来，人工智能（AI）技术的飞速发展带来了诸多便利，但同时也引发了新的社会问题，尤其是AI深度合成音视频技术的滥用现象日益严重。
从模仿企业家雷军的搞笑视频，到利用AI技术制作张文宏医生的音视频进行商品推广，甚至有不法分子通过AI深度合成的视频进行诈骗活动。这些案例无不显示出AI深度合成技术在被错误使用后所带来的恶劣影响。
此前，有网友利用AI技术模仿刘德华的声音，以此吸引流量。刘德华的电影公司迅速发表声明，警告公众不要上当受骗，这是伪造刘德华声音的AI语音合成技术骗局。记者最近的调查发现，制作AI深度合成的音视频并不复杂，甚至在购物平台上，这种技术已成为一些网店盈利的手段。消费者只需支付几十元，就可以定制名人的AI深度合成音视频。
网络主播们也在直播中教授如何使用AI深度合成技术。记者在应用商城搜索“换脸换声”，发现了许多相关工具。然而，这些工具的逼真度普遍不高，且场景固定。那么，网店是如何制作出高逼真度的AI深度合成音视频的呢？
据中国网络空间安全协会人工智能安全治理专业委员会的专家薛智慧介绍，目前网络上有许多开源软件和工具可以实现换声和换脸效果，网民可以自由下载并在自己的电脑上使用。这些软件虽然有一定的技术门槛，但并非遥不可及。
专家指出，这些软件多达数十种，虽然操作起来步骤较多，属于半专业软件，但在短视频平台上，已有不少主播在教授如何使用这些软件。这进一步降低了AI深度合成技术的使用门槛。
那么，在购物平台上使用AI深度合成技术制作并出售名人的音视频，是否违法呢？专家明确表示，相关法律法规严禁未经授权深度合成制作发布他人信息。网店接单制作名人视频的行为已构成侵权，应承担相应的法律责任。
北京航空航天大学法学院副教授赵精武提到，国内已经审结了一起AI生成声音人格权侵权案。在这起案件中，一名配音演员的声音在未经授权的情况下被AI生成并出售。法院最终认定被告方构成侵权，并判决其书面赔礼道歉，赔偿原告各项损失25万元。
面对AI深度合成音视频技术的滥用，专家建议从多个层面进行防范。从技术角度看，可以利用AI技术来检测和对抗AI。目前已有一些AI技术能够检测图片或音视频是否经过后期加工和合成。
法律专家吕延辉认为，需要从法律、平台和公众等多个层面综合施策。法律层面应完善相关立法，细化AI克隆技术的法律条款，明确侵权行为的定义和责任，并加强执法力度。平台层面则应强化政策法规的宣贯和执行，利用技术手段规避AI克隆侵权问题的发生，同时建立健全内容审核和侵权举报机制。
法律专家还提醒AI深度合成制作和信息发布者，不要抱有侥幸心理。法律没有灰色地带，任何违法行为都将受到法律的制裁。
赵精武强调：“法律并不是禁止使用AI合成技术，而是禁止不合法、不合理的使用，尤其是禁止不进行任何显著标识和提示的AI合成信息的发布和传播。”
