近年来，AI深度合成技术在网络上掀起了一场风波，从对企业家雷军的恶搞，到假冒张文宏医生音视频进行商品推销，甚至出现了利用该技术实施诈骗的犯罪活动。这些事件频发，揭示了AI深度合成音视频侵权现象的日益严重。
据报道，早前有网民通过AI技术模仿刘德华的声音，以此吸引流量。刘德华的电影公司迅速发表声明，警告公众不要落入伪造刘德华声音的AI语音合成技术陷阱。央视新闻的记者近期调查发现，制作AI深度合成音视频并非难事，在某些购物平台上，这种技术已成为网店盈利的手段，仅需几十元即可定制名人音视频。
那么，这些高度逼真的AI合成声音和换脸视频是如何制作的呢？记者发现，相关深度合成软件在网络上并不难获取，甚至有网络主播通过直播教授网友如何使用这些软件。虽然手机应用商城中有不少换脸换声工具，但它们的逼真度往往不高，且场景固定。相比之下，网店制作的AI深度合成音视频则更为逼真。
中国网络空间安全协会人工智能安全治理专业委员会的专家薛智慧指出，当前网络上有许多开源软件和工具可以实现换声和换脸效果，公众可以自由下载并在自己的电脑上安装使用。这些软件虽然有一定的技术门槛，但并非遥不可及，已有数十种在网络上流传。
专家表示，这些软件的使用需要调整不同场景下的参数，步骤繁琐，属于半专业软件。尽管如此，仍有不少短视频平台的主播在教授如何使用这些软件。这引发了公众对于个人隐私和信息安全的担忧。
针对网络购物平台上使用AI深度合成技术制作并出售名人音视频的行为，专家指出，这已构成侵权。相关法律法规明确规定，未经授权，不得深度合成制作发布他人信息。网店接单制作名人视频的行为，不仅侵犯了他人的肖像权和声音权，还应承担相应的法律责任。
北京航空航天大学法学院副教授赵精武提到，国内已经审结了首例AI生成声音人格权侵权案。在该案中，一名配音演员的声音未经授权被AI生成并出售，法院最终认定被告行为构成侵权。这一判决为类似案件提供了法律依据。
面对AI深度合成音视频侵权的严峻形势，专家建议提高公众的防范意识。薛智慧指出，从技术角度来看，可以利用AI技术来检测和对抗AI。当前已有一些典型的AI技术能够对图片或音视频进行检测，判断其是否经过后期加工或合成。
中国计算机学会计算机安全专业委员会委员吕延辉认为，防范AI侵权问题需要从法律、平台和公众等多个层面综合施策。法律层面应完善相关立法，细化AI克隆技术的法律条款，明确侵权行为的定义和责任，并加强执法力度。平台层面则应强化政策法规的宣贯和执行，做好数据保护，应用技术手段规避AI克隆侵权问题的发生，同时建立健全内容审核和侵权举报机制。
法律专家提醒AI深度合成制作和信息发布者，不要抱有侥幸心理。法律没有灰色地带，任何不合法、不合理的使用AI合成技术的行为都将受到法律的制裁。赵精武副教授强调，法律并不禁止使用AI合成技术，而是禁止不合法、不合理的使用，尤其是禁止不进行任何显著标识和提示的AI合成信息的发布和传播。
