近年来，AI深度合成技术引发的侵权问题日益凸显，从恶搞企业家雷军到制作张文宏音视频带货，甚至有不法分子利用该技术合成视频进行诈骗，社会影响恶劣。
去年，AI深度合成音视频侵权现象频发，引发广泛关注。有网友曾利用AI技术模仿刘德华的声音，以此博取流量，刘德华的电影公司也不得不紧急发布声明，提醒公众注意。
记者调查发现，实现AI深度合成音视频的技术门槛并不高。在一些购物平台上，AI深度合成技术已成为众多网店牟利的工具，只需花费少量金钱，即可定制名人音视频。
更令人担忧的是，网络上存在大量教授如何使用AI深度合成技术的直播内容。这些主播不仅提供软件下载链接，还亲自演示如何制作换声和换脸效果。尽管一些手机应用商城也能搜索到换脸换声工具，但效果逼真度普遍不高。
中国网络空间安全协会人工智能安全治理专业委员会专家薛智慧指出，当前有众多开源软件和工具可以实现换声换脸效果，这些软件可供网民自由下载和使用。然而，此类软件多属于半专业软件，有一定的技术门槛，但仍有众多主播在短视频平台上教授使用方法。
针对这一现象，法律专家表示，未经授权，不得深度合成制作发布他人信息。网店接单制作名人视频的行为已构成侵权，并应承担相应的法律责任。事实上，国内已经审结了首例AI生成声音人格权侵权案，法院最终认定被告方构成侵权，并判决赔偿原告损失。
为了防范AI深度合成音视频侵权问题，专家建议从技术、法律和平台等多个层面综合施策。从技术角度来看，可以利用AI技术对抗和检测AI，目前已有一些典型的AI技术能够对图片或音视频进行检测，判断其是否经过后期加工和合成。法律层面，则需要进一步完善相关立法，细化AI克隆技术的法律条款，并加强执法力度。
平台也应强化相关政策法规的宣贯和执行，做好数据保护，应用技术手段规避AI克隆侵权问题，同时建立健全内容审核和侵权举报机制，及时发现和处理侵权问题。法律专家还提醒AI深度合成制作和信息发布者，不要心存侥幸，法律没有灰色地带。
