文 | 万波

2025年，北京互联网法院审结了一起具有里程碑意义的网络服务合同纠纷案件，该案被视为"平台判定用户内容AI生成第一案"。案件原告为某网络平台的注册用户，被告为该平台的运营者。我们将案件的要点列表如下：

"算法解释义务"的认定是本案最“吸引眼球”的部分。中国人民大学法学院副教授黄尹旭对本案的点评指出，本案认定平台在即时性创作文本场景下，对使用算法自动化决策结果承担适度说明义务，为司法审查阶段的算法解释说明程度确立了标准。

但是，除“算法解释义务”外，AI生成内容的标识义务、AI生成内容的标识审查义务、标识审查不通过的处理、标识审查不当的法律风险，也都是可以引发思考的问题，本文兹以上述案例为引，为您细细分说。

如上述义务主体未履行上述标识义务的，需要承担什么样的法律责任呢？从现有的法规看，只有《互联网信息服务算法推荐管理规定》有专门涉及，该规定规定：“算法推荐服务提供者违反上述标识义务的，法律、行政法规有规定的，依照其规定；法律、行政法规没有规定的，由网信部门和电信、公安、市场监管等有关部门依据职责给予警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停信息更新，并处1万元以上10万元以下罚款。构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。”

虽然处罚规定相对较少，但并不意味着相关义务主体可以高枕无忧，特别是作为用户，虽然上述法规中并没有直接规定用户的罚则，但从实践看，监管部门对包括用户在内的义务主体AI无标识等滥用行为已经开始了专项整治。如：中央网信办自2025年4月启动的“清朗·整治AI技术滥用”专项行动，聚焦AI换脸拟声侵犯公众权益、AI内容标识缺失误导公众等AI技术滥用乱象，深入推进第一阶段重点整治任务，部署各地网信部门加大违规AI产品处置力度，切断违规产品营销引流渠道，督促重点网站平台健全技术安全保障措施，推动生成合成内容标识加速落地；第一阶段累计处置违规小程序、应用程序、智能体等AI产品3500余款，清理违法违规信息96万余条，处置账号3700余个。

另据媒体报告，2024年6月中旬，浙江温州苍南公安成功打掉一个编传旧案谣言的MCN机构“网络水军”团伙，经侦查发现，相关账号和视频由某网络科技有限公司(实为以MCN模式运营的“网络水军”团伙)使用发布，该MCN“网络水军”团伙搜集全网敏感热点，随意设置虚假剧情，利用AI软件根据剧情自动生成多处关键情节虚假的文案，安排真人出镜解说，拼接网络中误导性素材后剪辑成所谓“原创”视频。该团伙明知上述视频充斥大量虚假、挑动群众情绪类信息，为博取流量、不法牟利，在多个平台公开发布，后造成虚假视频信息被大量浏览、传播，从而牟取非法流量返利。

除了行政责任和刑事风险外，不对AI生成内容进行标识，客观上会使公众误认为内容为真实或原创，也容易引发对著作权人等权利主体的民事侵权风险。

虽然上述办法字面上并未明文算法推荐服务提供者、深度合成服务提供者、生成式人工智能服务提供者具有标识审查义务，但3类生成服务提供者作为平台，对用户的标识行为进行审查监督，当是应有之义，因此，其作为标识审查义务主体，当无异议。上述北京互联网法院的案例中，平台作为生成服务提供者，其角色定位与《标识办法》第六条完全对应。法院认定平台有权依据合同约定对AI生成内容的标识进行审查，这与《标识办法》的规定精神一致。可见，两者都强调了平台审查的正当性。

除了上述3类生成服务提供者外，《标识办法》构建了"生成-传播"全链条责任体系，明确区分了内容传播服务提供者、应用程序分发平台两类主体的义务，具体如下表：

将北京互联网法院的这一判例与即将实施的《人工智能生成合成内容标识办法》（以下简称《标识办法》）进行对比分析，就可以发现，虽然《标识办法》及之前的三个办法构建了"生成-传播"全链条标识责任体系，但并未提供更细颗粒度的操作办法，譬如，以北京互联网法院的这一案子为例，当生成服务提供者的标识审查结论与用户的认知发生分歧时，审查义务主体应当如何处理？

举例而言，《标识办法》第六条规定了传播平台对疑似AI生成内容的分级处理机制：（1）对于元数据中明确标明为生成合成内容的，应添加显著标识；（2）对未核验到隐式标识但用户声明的，添加可能为生成合成的提示；（3）对既无隐式标识又无用户声明但检测到生成痕迹的，识别为疑似生成合成内容并添加相应标识。当传播平台按照前述规则添加AI生成标识时，如用户提出反对，坚持并非AI生成时，传播平台该如何处理呢？

从北京互联网法院判例中平台的处理流程“先机器识别、后人工复核”来看，基本符合《标识办法》的规定精神，但法院特别指出平台机器识别算法不透明、人工复核标准过于主观，缺乏科学依据。这表明，仅建立抽象的处理流程还不够，平台还需确保判断标准的客观性和可解释性。

北京互联网法院案例连同《人工智能生成合成内容标识办法》以及《网络安全技术 人工智能生成合成内容标识方法》（GB45438—2025），共同为企业在AI生成内容时代的合规运营提供了指引，同时也带来了一系列实操层面的挑战。

我们认为，AI生成平台、传播平台、应用程序分发平台都需要从制度建设、技术保障、流程优化等多个维度进行系统性调整，才能有效应对这一新的监管环境。

一是算法治理机制的完善。《标识办法》赋予了平台的标识审查义务，但对审查的标准未予明确。北京互联网法院案例则明确要求平台对AI内容判定算法有进行适度解释的义务，这意味着企业不能仅依靠算法"黑箱"作出影响用户权益的决策。企业应当建立算法影响评估制度，对用于内容识别的AI模型进行定期准确率测试和偏差检测。同时，企业需准备通俗易懂的算法说明文档，在不披露商业秘密的前提下，向用户解释判定机制的基本原理和主要考量因素。例如，可以说明算法检测的是哪些文本特征(如词汇丰富度、句式复杂度、情感表达等)。

二是在标识技术体系建设。根据《标识办法》，需要同时实现显式标识和隐式标识两种方式。显式标识相对简单，可在内容展示界面添加可视化标签；隐式标识则技术要求更高，特别是跨平台的内容追踪需要标准化的元数据格式。北京互联网法院案例中平台未能证明其识别技术与AI生成特征的关联性，这警示企业必须研发或采购可靠、可解释的标识检测技术。

三是责任豁免条件的规定也值得关注。《标识办法》第九条规定，用户申请不添加显式标识的，平台可通过用户协议明确用户义务和责任后提供不含显式标识的内容。北京互联网法院案例中平台的服务协议虽规定了AI生成内容的标识要求，但未涉及用户申请豁免的情形。这提示企业在制定用户协议时，需考虑《标识办法》的规定，建立标识例外管理机制。

四是用户协议与社区规范的修订是另一项重要工作。本案中法院认可了平台通过社区公告形式明确AI生成内容标识要求的做法，《标识办法》第八条也明确规定服务提供者应在用户协议中说明标识方法和规范。企业应适时全面审查现有用户协议和社区规范，特别要注意处理流程的规范化与透明化，以在法规不明确的情况下，减少发生法律纠纷乃至败诉的风险。

最后，企业需要认识到，AI生成内容治理不仅是法律合规问题，更是用户体验和社会责任问题。过度依赖自动化决策可能导致大量误判，损害用户创作热情；而过于宽松的管理又可能使平台充斥低质AI内容，影响信息生态环境。本案判决所倡导的"适度"、"比例"原则，也提醒企业要在技术效率、商业利益与用户权益、社会责任之间寻找平衡点，如此才能在AI时代获得可持续的发展空间。