近期，AI深度合成技术在网络空间引发了广泛的关注与争议，一系列侵权事件频发，从恶搞企业家雷军到假冒张文宏医生进行带货，甚至有不法分子利用该技术实施诈骗，社会影响恶劣。
早前，有网友利用AI技术模仿刘德华的声音博取流量，刘德华的电影公司迅速发表声明，警告公众警惕伪造刘德华声音的AI语音合成技术骗局。记者近日的调查显示，AI深度合成音视频的制作门槛并不高，在一些购物平台上，该技术已成为网店盈利的工具，仅需几十元，即可定制名人的AI深度合成音视频。
记者发现，网络上下载深度合成软件相对容易，更令人惊讶的是，一些网络主播甚至通过直播教授网友如何使用这些软件。在手机应用商城搜索“换脸换声”，可以找到多款相关工具，但这些工具通常预设固定场景，逼真度有限。那么，网店如何制作出高度逼真的AI合成音视频呢？
据中国网络空间安全协会人工智能安全治理专业委员会专家薛智慧介绍，当前存在许多开源软件和工具，可以实现换声和换脸效果，网民可以自由下载并在个人电脑上安装使用。这些软件种类繁多，但由于涉及多个场景和复杂参数调整，属于半专业软件，具有一定的技术门槛。
针对网络购物平台使用AI深度合成技术制作并出售名人音视频的行为，专家指出，这违反了相关法律法规。未经授权，不得深度合成制作发布他人信息，此类行为已构成侵权，并应承担相应的法律责任。
北京航空航天大学法学院副教授赵精武指出，国内已经审结首例AI生成声音人格权侵权案。在该案中，一名配音演员的声音未经授权被AI生成并出售，法院最终认定被告行为构成侵权。这表明，我国民法典已将自然人的声音视为一种具有人身专属性的人格权益。
面对AI深度合成音视频侵权的蔓延，专家建议公众提高防范意识。薛智慧提出，可以利用AI技术对抗和检测AI。目前已有一些AI技术能够检测图片或音视频是否经过后期加工和合成。
中国计算机学会计算机安全专业委员会委员吕延辉强调，防范AI侵权需要从法律、平台和公众等多个层面综合施策。法律层面需完善相关立法，明确AI克隆技术的法律条款和侵权责任，加强执法力度。平台层面则需强化政策法规的宣贯和执行，保护已有数据，应用技术手段规避AI克隆侵权，同时建立健全内容审核和侵权举报机制。
法律专家提醒AI深度合成制作和信息发布者，切勿心存侥幸。法律没有灰色地带，任何不合法、不合理的使用都可能引发严重的法律后果。
赵精武副教授进一步强调，法律并不禁止使用AI合成技术，而是禁止不合法、不合理的使用，尤其是禁止未进行显著标识和提示的AI合成信息的发布和传播。
