近年来，人工智能（AI）深度合成技术在音视频领域的应用引发了广泛关注，尤其是在侵权现象频发的背景下。从模仿企业家雷军到伪造医生张文宏的音视频用于带货，再到利用该技术实施诈骗，AI深度合成技术的滥用已成为不容忽视的社会问题。
此前，有网友通过AI技术合成刘德华的声音，企图以此吸引流量。对此，刘德华的电影公司迅速发表声明，警告公众不要上当受骗，这是伪造刘德华声音的AI语音合成技术所为。
记者近日调查发现，制作AI深度合成音视频并非难事。在一些网购平台上，AI深度合成技术已成为网店盈利的手段，消费者仅需支付几十元，即可定制名人音视频。这一现象不仅涉及名人权益，更触及了法律底线。
据中国网络空间安全协会人工智能安全治理专业委员会专家薛智慧介绍，目前网络上存在多种开源软件和工具，能够实现换声和换脸效果，网民可自由下载并在个人电脑上使用。然而，这些软件具有一定的技术门槛，需要调整参数和多个步骤，因此并不为普通网民所熟知。
尽管如此，记者发现短视频平台上仍有众多主播教授如何使用这些软件。这些主播的直播内容，无疑为AI深度合成技术的普及提供了便利。
针对网购平台上使用AI深度合成技术制作并出售名人音视频的行为，法律专家指出，这已构成侵权。中国计算机学会计算机安全专业委员会委员吕延辉表示，根据《中华人民共和国民法典》的规定，自然人享有肖像、声音等权益，任何组织或个人未经授权利用信息技术伪造这些内容，均构成侵权行为。
2023年国家网信办、工信部、公安部联合出台的《互联网信息服务深度合成管理规定》明确要求，任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息。2024年，网信办发布的《人工智能生成合成内容标识办法（征求意见稿）》也提出，对AI生成合成内容应进行标识，以防止误导性信息的传播。
北京航空航天大学法学院副教授赵精武指出，国内已经审结了首例AI生成声音人格权侵权案。在这起案件中，一名配音演员的声音在未经授权的情况下被AI生成并出售，法院最终认定被告行为构成侵权。
面对AI深度合成音视频侵权的严峻形势，专家建议从多个层面加强防范。从技术角度看，可以利用AI技术对抗和检测AI。目前已有一些典型的AI技术能够检测图片或音视频是否经过后期加工和合成。
法律层面，则需进一步完善相关立法，细化AI克隆技术的法律条款，明确侵权行为的定义和责任，并加强执法力度。平台方面，应强化政策法规的宣贯和执行，做好数据保护，应用技术手段规避AI克隆侵权问题的发生，同时建立健全内容审核和侵权举报机制。
法律专家还提醒AI深度合成制作和信息发布者，不要心存侥幸。法律没有灰色地带，任何违法行为都将受到法律的制裁。AI技术的使用应在合法、合理的框架内进行，尤其是发布和传播AI合成信息时，应进行显著标识和提示。
