近年来，AI深度合成技术在网络空间内引发了诸多争议，从恶搞企业家雷军，到AI制作的张文宏医生音视频被用于带货，甚至有不法分子借此进行诈骗活动，这一系列事件让AI深度合成音视频侵权问题日益凸显。
早前，有网友利用AI技术模仿刘德华的声音博取流量，这一行为迫使刘德华的电影公司发布紧急声明，警告网民不要落入伪造声音的AI语音合成技术陷阱。近日，记者深入调查发现，AI深度合成音视频的制作门槛并不高，甚至在一些购物平台上，这项技术已成为网店牟利的工具，消费者仅需花费几十元，便可定制名人AI深度合成音视频。
更令人惊讶的是，这些AI深度合成技术的学习门槛并不高。记者在手机应用商城搜索“换脸换声”关键词，发现众多相关工具。尽管一些工具的逼真度不高，且场景固定，但网店制作的AI深度合成音视频却能达到高度逼真。这究竟是如何做到的？
据中国网络空间安全协会人工智能安全治理专业委员会专家薛智慧介绍，当前网络上有众多开源软件和工具可以实现换声换脸效果，网民可以自由下载并在自己的电脑上安装使用。这些软件虽有一定的技术门槛，但已有众多网络主播在短视频平台上教授如何使用。
那么，在网络购物平台上使用AI深度合成技术制作并出售名人音视频，是否触犯法律？专家指出，相关法律法规明确规定，未经授权，不得深度合成制作发布他人信息。网店接单制作名人AI深度合成视频，已构成侵权行为，并需承担相应法律责任。
中国计算机学会计算机安全专业委员会委员吕延辉引用《中华人民共和国民法典》指出，自然人享有肖像、声音等权益，任何组织或个人利用信息技术伪造都是侵权行为。国家网信办、工信部、公安部联合发布的《互联网信息服务深度合成管理规定》也明确要求，不得利用深度合成服务制作、复制、发布、传播法律禁止的信息。2024年网信办发布的《人工智能生成合成内容标识办法（征求意见稿）》还提出，对AI生成合成内容要进行标识，以防止误导性信息传播。
北京航空航天大学法学院副教授赵精武指出，国内已审结首例AI生成声音人格权侵权案。在该案中，一名配音演员的声音未经授权被AI生成并出售，法院最终认定被告行为构成侵权。这意味着，AI深度合成技术的不当使用，将受到法律的严厉制裁。
面对AI深度合成音视频侵权的严峻形势，专家建议提高公众防范意识。薛智慧表示，从技术角度来看，可以利用AI技术对抗和检测AI。当前已有一些典型的AI技术能够检测图片或音视频是否经过后期加工和合成。
吕延辉则强调，防范AI侵权问题需要从法律、平台和公众等多个层面综合施策。法律层面要完善立法，细化AI克隆技术的法律条款，明确侵权行为的定义和责任；平台层面要强化政策法规的宣贯和执行，应用技术手段规避AI克隆侵权问题，同时建立健全内容审核和侵权举报机制。
法律专家也提醒AI深度合成制作和信息发布者，切勿心存侥幸。法律没有灰色地带，任何违法行为都将受到严厉制裁。
