近期，AI深度合成技术在网络上引发的侵权问题日益严峻，从模仿企业家雷军到伪造张文宏医生的音视频进行商品推广，甚至有不法分子利用该技术制作深度合成视频实施诈骗，这些事件频频曝光。
此前，有网民利用AI技术模仿刘德华的声音吸引流量，迫使刘德华的电影公司紧急发布声明，提醒公众警惕伪造刘德华声音的AI语音合成技术诈骗。记者近日的调查显示，制作AI深度合成音视频并非难事，甚至在部分电商平台，AI深度合成技术已成为网店盈利的工具，仅需花费少量金钱，即可定制名人AI深度合成音视频。
那么，这些高度逼真的AI换声和换脸视频是如何制作的呢？记者发现，虽然手机应用商城中存在众多换脸换声工具，但大多效果不够逼真，且使用场景固定。真正高逼真度的AI深度合成音视频制作，需要更为专业的软件和技术。
据中国网络空间安全协会人工智能安全治理专业委员会专家薛智慧介绍，目前网络上有数十种开源软件和工具可以实现换声和换脸效果，供网民自由下载和使用。这些软件虽然属于半专业软件，有一定的技术门槛，但已有众多网络主播在短视频平台上教授如何使用。
针对电商平台使用AI深度合成技术制作并出售名人音视频的行为，专家指出，这已违反相关法律法规。未经授权，不得深度合成制作发布他人信息，网店接单制作名人视频的行为构成侵权，应承担相应的法律责任。
北京航空航天大学法学院副教授赵精武表示，国内已审结首例AI生成声音人格权侵权案。在该案中，配音演员的声音未经授权被AI生成并出售，法院最终认定被告行为构成侵权。这显示了法律对未经授权使用AI深度合成技术的严厉态度。
对于如何防范AI深度合成音视频侵权问题，专家建议从技术、法律和平台等多个层面综合施策。技术上，可以利用AI技术对抗和检测AI，目前已有一些典型的AI技术能够检测图片或音视频是否经过后期加工和合成。法律层面，应完善相关立法，细化AI克隆技术的法律条款，明确侵权行为的定义和责任，并加强执法力度。
平台方面，应加强政策法规的宣贯和执行，保护已有数据，应用技术手段规避AI克隆侵权问题，建立健全内容审核和侵权举报机制，及时发现和处理侵权问题。法律专家还提醒AI深度合成制作和信息发布者，切勿心存侥幸，法律没有灰色地带。
赵精武副教授强调，法律并不禁止使用AI合成技术，而是禁止不合法、不合理地使用，尤其是禁止不进行任何显著标识和提示的AI合成信息的发布和传播。公众也应提高防范意识，共同维护网络环境的健康与安全。
