近日,国家互联网信息办公室携手工业和信息化部、公安部及国家广播电视总局,共同颁布了《人工智能生成合成内容标识办法》,该法规将于2025年9月1日正式生效。此举旨在推动人工智能技术的健康发展,规范其内容生成与合成的标识管理,从而有效保护公民、法人及其他组织的合法权益,维护社会的整体公共利益。
随着生成式人工智能和深度合成技术的迅猛发展,创建文本、图片、音频、视频等合成内容变得前所未有的便捷。这些技术不仅促进了经济的增长,丰富了网络内容,还极大地便利了公众生活。然而,与此同时,虚假信息的传播和网络生态的破坏问题也日益凸显,引发了社会对加强立法、技术监管及平台责任的广泛呼吁。
为积极回应社会关切,相关部门联合制定了《标识办法》。该办法以内容标识为核心,细化了前期相关规章的要求,旨在通过内容标识的提醒提示和监督溯源作用,构建一个开放、公正、有效的治理机制,为人工智能产业的健康有序发展营造公平有序的环境。
根据《标识办法》,人工智能生成合成内容的标识主要分为显式标识和隐式标识两种形式。显式标识以文字、声音、图形等方式,在内容或交互场景界面中明显呈现,使用户能够轻易感知;而隐式标识则通过技术措施嵌入内容文件数据中,不易被用户直接察觉。
《标识办法》明确要求,服务提供者在进行生成合成服务时,必须遵循《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》及《生成式人工智能服务管理暂行办法》的相关规定。对于符合特定情形的生成合成内容,服务提供者需按要求添加显式标识,并在文件元数据中添加隐式标识。
值得注意的是,《标识办法》还强调,任何组织和个人都不得恶意删除、篡改、伪造或隐匿生成合成内容的标识,也不得为他人实施上述行为提供工具或服务,更不得通过不正当手段损害他人合法权益。为配合《标识办法》的实施,国家市场监督管理总局和国家标准化管理委员会还批准发布了强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》,该标准将于2025年9月1日与《标识办法》同步生效。
同时,全国网络安全标准化技术委员会还制定了配套实践指南《网络安全标准实践指南——人工智能生成合成内容标识 服务提供者编码规则》,为服务提供者开展文件元数据隐式标识提供了明确的编码指引。未来,该委员会还将继续组织编制一系列推荐性标准和实践指南,以进一步规范人工智能生成合成内容的标识管理。
随着《人工智能生成合成内容标识办法》的正式颁布与实施,我国将迈入人工智能内容标识管理的新阶段,这不仅有助于提升公众对合成内容的辨识能力,还将为人工智能产业的持续健康发展奠定坚实基础。