近期，AI深度合成技术在网络空间引发的侵权问题日益凸显，从对企业家的恶搞到利用AI制作名人音视频进行商业推广，甚至诈骗活动，这一技术被不法分子滥用的情况愈演愈烈。
刘德华的声音曾被网友利用AI技术模仿，以此博取网络流量，这一事件促使刘德华的电影公司紧急发布声明，警告网民防范利用AI语音合成技术的骗局。记者深入调查发现，制作AI深度合成音视频并非难事，在某些购物平台上，这项技术已成为网店盈利的手段，消费者仅需支付数十元，即可定制名人音视频。
那么，这些高度逼真的AI换声和换脸视频是如何制作的呢？记者发现，相关深度合成软件在网络上并不难获取，甚至一些网络主播还在直播中教授网友如何使用这些软件。尽管一些手机应用商城提供的换脸工具效果并不逼真，但网店制作的高度逼真音视频却让人惊叹。
中国网络空间安全协会人工智能安全治理专业委员会专家薛智慧指出，目前有许多开源软件和工具可以实现换声和换脸效果，网民可以自由下载并在自己的电脑上安装使用。然而，这些软件属于半专业软件，有一定的技术门槛，因此不为大众所熟知。尽管如此，短视频平台上仍有众多主播在教授如何使用相关软件。
对于在购物平台上使用AI深度合成技术制作并出售名人音视频的行为，专家表示这已触犯相关法律。根据相关法律法规，未经授权，不得深度合成制作发布他人信息。网店接单制作名人视频的行为已构成侵权，并应承担相应的法律责任。
北京航空航天大学法学院副教授赵精武提到，国内已经审结了首例AI生成声音人格权侵权案。在这起案件中，一名配音演员的声音在未经授权的情况下被AI生成并出售，法院最终认定被告的行为构成侵权。这一案例强调了自然人声音作为人格权益的重要性。
面对AI深度合成音视频侵权的日益严重，专家建议提高公众的防范意识。薛智慧表示，从技术角度来看，可以利用AI技术来检测和对抗AI。目前已有一些典型的AI技术能够对图片或音视频进行检测，以判断其是否经过后期加工或合成。
中国计算机学会计算机安全专业委员会委员吕延辉强调，防范AI侵权问题需要从法律、平台和公众等多个层面综合施策。法律层面需要完善相关立法，细化AI克隆技术的法律条款，并加强执法力度。平台层面则需要强化政策法规的执行，应用技术手段规避AI克隆侵权问题的发生，同时建立健全内容审核和侵权举报机制。
法律专家提醒AI深度合成制作和信息发布者，不要心存侥幸。法律没有灰色地带，任何不合法、不合理的使用都可能面临法律责任。赵精武副教授强调，法律并不禁止使用AI合成技术，而是禁止不合法、不合理的使用，尤其是禁止不进行任何显著标识和提示的AI合成信息的发布和传播。
随着AI技术的普及，公众也应提高警惕，学会识别AI合成的音视频，以避免被误导或欺骗。
