近年来，AI深度合成技术在网络上引发的侵权事件层出不穷，从对企业家雷军的恶搞，到假冒张文宏医生进行商品推广，甚至有不法分子利用该技术制作高度逼真的视频进行诈骗，这一系列事件引发了广泛的社会关注。
早前，有网友利用AI技术模仿刘德华的声音，企图借此吸引流量。对此，刘德华的电影公司迅速发表声明，提醒公众警惕这种利用AI语音合成技术的诈骗行为。
经过记者的深入调查，发现制作AI深度合成的音视频并非难事。在一些购物平台上，AI深度合成技术已成为不少网店谋取利益的手段。消费者只需花费数十元，就能定制到名人的AI深度合成音视频。
据中国网络空间安全协会人工智能安全治理专业委员会的专家薛智慧介绍，目前网络上有许多开源软件和工具可以实现换声和换脸效果，公众可以自由下载并在自己的电脑上安装使用。这些软件虽然有一定的技术门槛，但在短视频平台上，已有不少主播开始教授如何使用这些软件。
针对网络购物平台上利用AI深度合成技术制作并出售名人音视频的行为，法律专家指出，这已明显违反了相关法律法规。根据《中华人民共和国民法典》，自然人享有肖像权和声音权等人格权益，未经授权，任何组织或个人都不得利用信息技术进行伪造，否则将构成侵权行为。
北京航空航天大学法学院副教授赵精武提到，国内已经审结了一起利用AI生成声音侵犯人格权的案件。在这起案件中，一名配音演员的声音在未经授权的情况下被AI生成并出售，法院最终认定被告的行为构成侵权。
面对AI深度合成技术的普及，公众应如何提高防范意识？薛智慧专家建议，从技术角度来看，可以利用AI技术来对抗和检测AI。目前已有一些AI技术能够对图片或音视频进行检测，判断其是否经过后期加工或合成。
中国计算机学会计算机安全专业委员会委员吕延辉强调，防范AI侵权问题需要从法律、平台和公众等多个层面综合施策。法律层面需完善相关立法，明确侵权行为的定义和责任，并加强执法力度。平台层面则需强化政策宣贯和执行，应用技术手段规避AI克隆侵权问题，同时建立健全内容审核和侵权举报机制。
赵精武副教授进一步指出，法律并不禁止使用AI合成技术，而是禁止不合法、不合理的使用，特别是禁止未进行显著标识和提示的AI合成信息的发布和传播。
