近期，AI深度合成技术在网络上引发的侵权现象日益严峻，从对企业家雷军的恶搞，到冒充张文宏医生进行带货直播，再到利用该技术实施诈骗，一系列事件引起了广泛关注。
据报道，一些不法分子已掌握了AI深度合成技术，并以此为工具牟取利益。例如，曾有网友利用该技术模仿刘德华的声音，以此吸引流量。刘德华的电影公司迅速发表声明，提醒公众警惕此类利用AI语音合成技术的骗局。媒体进一步调查发现，制作AI深度合成音视频并非难事，在某些购物平台上，这项技术已成为网店盈利的手段，仅需花费少量金钱，就能定制名人音视频。
那么，这些高度逼真的AI深度合成音视频究竟是如何制作的呢？调查发现，网络上存在多种深度合成软件，部分软件甚至可以通过手机应用商城轻松下载。然而，这些软件的逼真度往往有限，因为它们预设了固定场景。相比之下，网店制作的音视频则更加逼真。专家指出，这是由于使用了开源的深度合成软件，这些软件虽然有一定的技术门槛，但经过调整参数和多个步骤，仍能实现高质量的换声和换脸效果。
针对这一现象，中国网络空间安全协会人工智能安全治理专业委员会的专家薛智慧表示，当前网络上有数十种开源软件可以实现换声和换脸效果，公众可以自由下载并在自己的电脑上使用。然而，这些软件属于半专业软件，需要一定的技术基础。
关于网店制作并出售名人音视频的行为，法律专家指出，这已构成侵权。相关法律法规明确规定，未经授权，不得深度合成制作并发布他人信息。北京航空航天大学法学院副教授赵精武提到，国内已经审结了首例AI生成声音人格权侵权案，法院最终认定被告的行为构成侵权。这起案件中，一名配音演员的声音在未经授权的情况下被AI生成并出售。
面对AI深度合成技术的普及和侵权问题的加剧，专家建议从多个层面进行防范。从技术角度看，可以利用AI技术对抗和检测AI。目前已有一些AI技术能够判断图片或音视频是否经过后期加工和合成。中国计算机学会计算机安全专业委员会委员吕延辉强调，法律层面需要完善相关立法，细化AI克隆技术的法律条款，并加强执法力度。平台层面则应强化政策法规的宣贯和执行，应用技术手段规避AI克隆侵权问题的发生，同时建立健全内容审核和侵权举报机制。
法律专家还提醒AI深度合成制作和信息发布者，不要抱有侥幸心理。赵精武副教授指出，法律并不禁止使用AI合成技术，而是禁止不合法、不合理的使用，特别是禁止未经显著标识和提示就发布和传播AI合成信息。
对于这一系列AI深度合成技术引发的侵权问题，社会各界反响强烈。你对此有何看法？欢迎在评论区留言。
