AI深度合成乱象:雷军刘德华音视频遭滥用,法律责任谁来担?

   时间:2025-02-17 08:46 来源:天脉网作者:陆辰风

近年来,AI深度合成技术引发的音视频侵权问题日益凸显,从对企业家雷军的恶搞,到利用AI制作张文宏医生的音视频进行带货,甚至有不法分子借此实施诈骗,这一系列事件引发了广泛关注。

此前,有网友通过AI技术模仿刘德华的声音以博取流量,此举迫使刘德华的电影公司紧急发布声明,提醒公众警惕伪造刘德华声音的AI语音合成技术骗局。近期,记者调查发现,实现AI深度合成音视频的技术门槛并不高,甚至在一些购物平台上,AI深度合成技术已成为网店盈利的工具,消费者只需支付几十元,即可定制名人音视频。

为了探究这些高度逼真的AI深度合成音视频是如何制作的,记者进行了深入调查。结果显示,网络上存在多种深度合成软件可供下载,且部分网络主播通过直播教授网友如何使用这些软件。尽管手机应用商城中也能找到一些换脸换声工具,但这些工具的效果往往不够逼真,且场景固定。

AI深度合成软件示例

据中国网络空间安全协会人工智能安全治理专业委员会专家薛智慧介绍,当前网络上存在大量开源软件和工具,均可实现换声换脸效果,网民可以自由下载并在自己的电脑上安装使用。这些软件虽然种类繁多,但由于涉及复杂的参数调整和操作步骤,属于半专业软件,因此并不为普通网民所熟知。然而,记者发现,短视频平台上已有众多主播在教授如何使用这些软件。

针对网络购物平台上使用AI深度合成技术制作并出售名人音视频的行为,专家指出,这已构成侵权行为。根据相关法律法规,未经授权,不得深度合成制作发布他人信息。因此,这些网店应承担相应的法律责任。

AI侵权案例

北京航空航天大学法学院副教授赵精武提到,国内已经审结了一起AI生成声音人格权侵权案。在这起案件中,一名配音演员的声音在未经授权的情况下被AI生成并对外出售。法院最终认定被告方构成侵权,并判决其书面赔礼道歉,同时赔偿原告各项损失25万元。

为了防范AI深度合成音视频侵权问题,专家提出了多项建议。从技术角度来看,可以利用AI技术来检测和对抗AI。当前已有一些典型的AI技术能够对图片或音视频进行检测,以判断其是否经过后期加工或合成。薛智慧还提到,防范AI侵权需要法律、平台和公众等多个层面的综合施策。法律层面应完善相关立法,细化AI克隆技术的法律条款,并加强执法力度。平台层面则需强化政策法规的宣贯和执行,应用技术手段规避AI克隆侵权问题的发生,同时建立健全内容审核和侵权举报机制。

AI检测技术

法律专家也提醒AI深度合成制作和信息发布者,不要心存侥幸。法律没有灰色地带,任何违法行为都将受到法律的制裁。赵精武强调,法律并不禁止使用AI合成技术,而是禁止不合法、不合理的使用,尤其是禁止不进行任何显著标识和提示的AI合成信息的发布和传播。

 
反对 0举报 0 收藏 0
 
更多>同类天脉资讯
全站最新
热门内容
媒体信息
新传播周刊
新传播,传播新经济之声!
网站首页  |  关于我们  |  联系方式  |  版权隐私  |  网站留言  |  RSS订阅  |  违规举报