近年来，AI深度合成技术在网络上引发了诸多争议，从模仿企业家雷军到伪造张文宏医生的音视频，甚至被不法分子用于诈骗活动，这一系列事件让公众对该技术的滥用感到担忧。据报道，过去一年中，AI深度合成音视频侵权事件频发，不仅损害了名人的权益，也对社会造成了不良影响。
其中，一起引人注目的案例是，有网友利用AI技术模仿刘德华的声音，以此吸引流量。这一行为迫使刘德华的电影公司紧急发布声明，警告网民不要上当受骗，因为这是一种利用AI语音合成技术的骗局。记者调查发现，制作这样的AI深度合成音视频并非难事，一些购物平台上的网店甚至以此为生，只需支付几十元，就能定制名人音视频。
那么，这些高度逼真的AI换声和换脸是如何制作的呢？记者发现，虽然手机应用商城中有许多换脸换声工具，但效果并不理想，逼真度不高。相比之下，网店制作的AI深度合成音视频则更加真实。据专家解释，目前网络上有许多开源软件和工具可以实现换声和换脸效果，但这些软件属于半专业软件，需要调整参数和多个步骤，因此不为普通网民所熟知。然而，一些网络主播在短视频平台上直播教学，教授如何使用这些软件。
对于网店使用AI深度合成技术制作并出售名人音视频的行为，法律专家指出，这已构成侵权。根据相关法律法规，未经授权，不得深度合成制作发布他人信息。网店的行为不仅违反了民法典中关于肖像权和声音权的规定，也违反了国家网信办、工信部、公安部联合发布的《互联网信息服务深度合成管理规定》。网信办发布的《人工智能生成合成内容标识办法（征求意见稿）》也要求，对AI生成合成内容要进行标识，以防止误导性信息的传播。
那么，网店使用AI深度合成技术制作名人视频，应该承担什么样的法律责任呢？法律专家表示，国内已经审结了首例AI生成声音人格权侵权案。在这起案件中，一名配音演员的声音在未经授权的情况下被AI生成并对外出售，法院最终认定被告的行为构成侵权。这意味着，网店的行为同样可能面临法律制裁。
面对AI深度合成音视频侵权的严峻形势，专家提醒公众要提高防范意识。从技术角度来看，可以利用AI技术来检测和对抗AI。目前已有一些AI技术能够对图片或音视频进行检测，判断其是否经过后期加工和合成。同时，法律、平台和公众也需要共同努力，防范AI侵权问题的发生。法律层面需要完善相关立法，细化AI克隆技术的法律条款，并加强执法力度。平台层面需要强化政策法规的宣贯和执行，应用技术手段规避AI克隆侵权问题的发生，并建立健全内容审核和侵权举报机制。
法律专家还提醒AI深度合成制作和信息发布者，不要心存侥幸。法律没有灰色地带，任何不合法不合理的使用AI合成技术的行为都将受到法律的制裁。因此，公众和相关从业者应自觉遵守法律法规，共同维护一个健康、安全的网络环境。
