近期，AI深度合成技术引发的音视频侵权事件频发，从戏谑企业家雷军到冒充张文宏医生带货，乃至利用该技术实施诈骗，种种乱象层出不穷。
早前，网络上曾出现利用AI模仿刘德华声音吸引流量的案例，迫使刘德华的电影公司发布紧急声明，警示公众警惕此类AI语音合成骗局。记者最新调查显示，制作AI深度合成音视频门槛并不高，甚至在电商平台上，该技术已成为不少网店盈利的手段，仅需小额费用，即可定制名人音视频。
记者发现，网络上存在众多开源的深度合成软件，部分网络主播甚至通过直播教授网友如何使用这些软件。尽管手机应用商店中的换脸换声工具众多，但效果往往不够逼真，且场景固定。那么，网店是如何制作出高度逼真的AI合成音视频的呢？
据中国网络空间安全协会人工智能安全治理专业委员会专家薛智慧介绍，当前网络上存在数十种开源软件和工具，可实现换声换脸效果，供网民自由下载使用。尽管这些软件具有一定的技术门槛，属于半专业软件，但在短视频平台上，仍有不少主播教授使用方法。
针对电商平台使用AI深度合成技术制作并出售名人音视频的行为，法律专家表示，相关法律法规明确规定，未经授权，不得深度合成制作发布他人信息。此类行为已构成侵权，并需承担法律责任。中国计算机学会计算机安全专业委员会委员吕延辉指出，《中华人民共和国民法典》明确规定，自然人享有肖像、声音等权益，任何组织或个人利用信息技术伪造均属侵权行为。国家网信办、工信部、公安部联合发布的相关规定也要求，不得利用深度合成服务制作、复制、发布、传播法律禁止的信息。
北京航空航天大学法学院副教授赵精武透露，国内已审结首例AI生成声音人格权侵权案。在该案中，一名配音演员的声音未经授权被AI生成并出售，法院最终认定被告行为构成侵权。
对于如何防范AI深度合成音视频侵权问题，专家建议，从技术角度看，可利用AI技术对抗和检测AI。目前已有一些典型技术能够检测图片或音视频是否经过后期加工和合成。吕延辉强调，防范AI侵权需从法律、平台和公众等多个层面综合施策，包括完善立法、加强执法力度、强化平台政策执行和技术手段应用，以及建立健全内容审核和侵权举报机制。
法律专家同时提醒AI深度合成制作和信息发布者，切勿心存侥幸。赵精武副教授表示，法律并不禁止使用AI合成技术，但禁止不合法、不合理的使用，尤其是未经显著标识和提示的AI合成信息的发布和传播。
