文 | 陈斌寅 马傲 王梓清

- 01 -

为什么“还要”出台《办法》

来监管虚假内容传播？

本次办法的出台是为了进一步杜绝网络虚假信息的泛滥，同时为人工智能技术规范发展扫清侵权顾虑。

但针对这一目标，此前颁布的《中华人民共和国网络安全法》（“《网络安全法》”、《互联网信息服务算法推荐管理规定》（“《算法推荐规定》”）、《互联网信息服务深度合成管理规定》（“《深度合成规定》”）、《生成式人工智能服务管理暂行办法》（“《AIGC暂行办法》”）等法律、行政法规和部门规章已作出类似规定。

其中，《网络安全法》第47条对网络运营者施以严格的用户内容审核责任，“发现法律、行政法规禁止发布或者传输的信息的，应当立即停止传输该信息，采取消除等处置措施，防止信息扩散，保存有关记录，并向有关主管部门报告”。《算法推荐规定》则进一步聚焦算法推荐服务提供者，其中第9条明确规定，算法推荐服务提供者“发现未作显著标识的算法生成合成信息的，应当作出显著标识后，方可继续传输”。《深度合成规定》第16条、第17条则进一步将标识方式细化为“不影响用户使用的标识”和“显著标识”，要求深度合成服务提供者对特定信息采取上述不同标识方式。《AIGC暂行办法》第12条要求生成式人工智能服务提供者应当按照《深度合成规定》对图片、视频等生成内容进行标识。

那么为什么已有调整相同事项法规的情况下，还要出台《办法》呢？

我们看到，即便已有前述法规，利用AI深度伪造、合成虚假信息的案件仍然频发，且从具有个体性的诈骗、涉黄，逐步上升至具有全社会影响力的事件，包括利用AI换脸拟声伪造社会名人发言，甚至是利用AI深度合成能力编造虚假社会事件，且相较于利用AI诈骗、涉黄，后者的行为显然具有更强的破坏力。不完全列举如下：

在既有法规无法有效杜绝虚假内容传播的情况下，本次《办法》通过扩充主体控制和织密节点控制来进一步监管虚假信息信息，具体是在利用算法向用户推荐信息、应用深度合成技术提供信息、提供生成式人工智能服务等环节对应的网络运营者、算法推荐服务提供者、深度合成服务提供者、生成式人工智能服务提供者等提供合成生成能力和传播合成内容的企业之外，将分发合成工具、使用合成内容和合成工具的主体（甚至个人）一并纳入监管范畴。

- 02 -

显隐标识如何相互配合

达成监管目的？

为此，《方法》及配套强制性国家标准GB 45438-2025《网络安全技术 人工智能生成合成内容标识方法》（以下简称“《标识标准》”）通过“显式标识”与“隐式标识”的二元化设计构建起了显隐结合的标识体系。

根据《方法》及《标识标准》规定，显式标识的内容旨在向公众明确指示内容乃是由人工智能技术生成或合成的产物。而隐式标识则旨在记录生成合成内容从生成（合成）到对外传播全链条各个节点的参与主体的相关信息。

换言之，《办法》不仅试图解决“哪些是生成的”“谁生成的”“从哪里生成的”等问题，更希望通过技术手段（隐式标识）规范生成合成内容从生成到传播的各个环节，即实现全流程安全管理。

当侵权事件发生时，仅凭显式标识有时无法追溯侵权内容从生成（或合成）到传播的每一个关键环节中的相应责任主体，抑无法对侵权内容的生成（合成）、传播过程进行还原。而隐式标识则可以发挥相应的内容溯源、责任主体定位作用，一旦出现侵权事件，执法机关、权利主体等可以根据隐式标识所记载的相关信息迅速而准确地进行内容溯源，定位产生侵权行为的所在环节以及所涉的责任主体，为司法取证和监管执法提供技术支撑。

综上所述，显式标识与隐式标识一表一里，通过不同的标识内容承担不同的的功能属性。显式标识如同表面的旗帜，宣告着内容的智能生成属性；而隐式标识则是隐藏于后的精密罗盘，指引相关主体进行责任溯源。二者结合一方面保障公众知情权，另一方面强化技术的可问责性，从而为人工智能生成合成内容的合规治理提供制度-技术双重保障。

但值得注意的是，虽然《标识标准》要求文件元数据隐式标识应包括“生成合成服务提供者要素”、“内容制作编号要素”、“内容传播服务提供者要素”、 “内容传播编号要素”，也在附录E、F中提供相应示例，但在目前实践中，提供生成合成服务的平台、产品对生成合成内容的编码内容、方式等并不统一，且目前互联网存在大量使用境外生成合成服务的、无任何标识的生成合成内容。

显然，监管部门也已考虑到上述情形，即使是在生成合成内不包含隐式标识的情况下，内容传播服务提供者仍然需要履行标识义务（《办法》第六条）。但在实践中，内容传播服务提供者解决这一问题主要依赖于其识别算法能力及配套人工审核，对能力不足的相关经营者而言，无疑是需要承担更多合规成本。

对此，监管部门除履行监管职责外，还可向生成合成服务提供者、内容传播服务提供者提供进一步支持，例如统一编码方式，降低识别成本等，共同推进，使得隐式标识能在实践中起到内容溯源、责任主体定位作用。

关键词：虚假内容、fake news、双轨标识、责任溯源、内容监管

- 03 -

标识：谁来标识？

谁来监督我的标识？

不标识又会怎样？

（一）关键环节、主体与标识要求及监管部门

根据《办法》的有关规定，生成合成内容标识监管所涉及的关键环节、每个环节对应的主体与标识要求，以及对应的监管部门基本如下：

在监管部门上，自《个人信息保护法》《数据安全法》《网络安全法》以来，国家互联网信息办公室（“网信办”）、工业和信息化部（“工信部”）和公安部已成为相关领域监管核心，并深度参与了《算法推荐规定》《深度合成规定》《AIGC暂行办法》的制定及执行，三部门在既往工作中也已形成较为成熟的监管方式、执法流程。

但值得注意的是，《办法》另一位发文机构——国家广播电视总局（“广电总局”），此前并未参与2022年出台的《算法推荐规定》《深度合成规定》制定，而是在2023年《AIGC暂行办法》出台后才逐渐开展AI生成合成内容监管。

2024年12月9日，国家广播电视总局网络视听节目管理司还针对AI生成合成内容发布了《管理提示（AI魔改）》，指出近期AI“魔改”视频以假乱真、“魔改”经典乱象频发，认为这些视频为博流量，毫无边界亵渎经典IP，冲击传统文化认知，与原著精神内核相悖，且涉嫌构成侵权行为。要求各相关省局督促辖区内短视频平台排查清理AI“魔改”影视剧的短视频，严格落实生成式人工智能内容审核要求，对各自平台开发的大模型或AI特效功能等进行自查，对在平台上使用、传播的各类相关技术产品严格准入和监看，对AI生成内容做出显著提示。

结合广电总局自身定位及工作内容，可见广电总局将主要关注AI生成合成内容本身，即内容是否涉及违法违规，是否冲击了中华传统文化、社会主义核心价值观等。

（二）监管对象及其不遵守《办法》的法律责任

在监管对象上，除网络信息服务提供者外，《办法》相较于《算法推荐规定》《深度合成规定》《AIGC暂行办法》还将生成、传播生成合成内容用户的纳入规制范围。

1. 网络信息服务提供者的法律责任

网络信息服务提供者不遵守《办法》对标识人工智能生成合成内容的规范要求，既是对《办法》本身的违反，同时也是对《办法》上位法相关条款的违反，网信、电信、公安和广播电视等有关主管部门有权基于上位法处理违反《办法》的行为。同时，还需将《办法》要求置于网信、电信、公安等部门对针对《个人信息保护》《网络安全法》《数据安全法》监管要求之下进行分析。

首先，当网络信息服务提供者未对生成合成内容添加标识时：

（1） 影响应用分发：网络信息服务提供者无法按照《办法》提供生成合成内容标识相关材料，将无法通过互联网应用程序分发平台的核验（《办法》第7条）。

（2） 影响算法备案、安全评估：网络信息服务提供者无法按照《办法》提供生成合成内容标识相关材料，将影响算法备案、安全评估等手续（《办法》第8条）。

其次，当网络信息服务提供者未在用户服务协议中明确说明生成合成内容标识的方法、样式等规范内容，或虽在用户服务协议中说明，但未提示用户仔细阅读并理解相关的标识管理要求时（《办法》第8条），属于未尽到用户协议条款的合理提示义务，不符合《个人信息保护法》对保障用户“知情-同意”的要求，而用户协议是否符合法律要求，正是网信部门在开展“违法违规收集个人信息”查处工作的重点执法方面。若因用户协议不规范而被认定为“违法违规收集个人信息”，则网信部门一般将给予限期整改，逾期未完成整改的，依法依规予以下架处置。

最后，用户申请服务提供者提供没有添加显式标识的生成合成内容的，网络信息服务提供者提供不含显式标识的生成合成内容，但未依法留存提供对象信息等相关日志不少于六个月，既是《办法》第9条的要求，也是《数据安全法》第21条第（三）项的规定，且对日志留存时间要求，是网安、公安开展相关检查、执法活动中的重点检查对象，早在2017年重庆网安总队便因未依法留存用户登录相关网络日志开出第一张《行政处罚通知书》，情节严重的，甚至有可能构成《刑法》第286条之一“拒不履行信息网络安全管理义务罪”。

2.用户的权利与义务

首先，《办法》保障了用户一定权利，包括知情权和选择权：（1）用户有权通过服务协议了解生成合成内容标识的方法、样式等规范内容（《办法》第8条），以及（2）用户有权申请服务提供者提供没有添加显式标识的生成合成内容（《办法》第9条）。

相应的，用户在使用生成合成服务及享有上述权利的同时，也需要承担主动标识义务，即在使用网络信息内容传播服务发布生成合成内容的，应当主动声明并使用服务提供者提供的标识功能进行标识（《办法》第10条第1款）。

此外，无论个人或组织是否使用生成合成服务，《办法》均对其提出了普遍的禁止性要求，包括：（1）不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识，（2）不得为他人实施上述恶意行为提供工具或者服务，（3）不得通过不正当标识手段损害他人合法权益。

但对于用户未履行主动标识义务，以及个人或组织违反禁止性要求，《办法》均未明确其具体应承担的法律责任。考虑到《办法》的效力位阶，以及实践中存在“用户-平台”、“用户-用户”、“用户-第三方”多种、多重权利义务关系，《办法》未对用户、个人、组织设置法律责任，可能是相关部门有意为之，有待后续执行实践过程中予以厘清、完善。

关键词：全链接规制、多头监管、立法衔接、个人信息保护法、网络安全法、数据安全法、APP违法违规