02 | 自主与控制:能自主,为何责仍归人——自主愈深,问责愈严
2026-07-08

转载自公众号戎戎熊智讼

文 | 戎朝




目 录

01
总纲

当 AI 开始替你行事——全书的两把尺与立场

02
自主与控制



能自主,为何责仍归人——自主愈深,问责愈严

03
责任归属

智能体致害,谁来担——从"AI 乱承诺赔 10 万"一案说起

04
授权归属

你授智能体多大权,就担多大责——授权的阶梯

05
交互竞争

智能体替你出手,哪些算越界——代理还是抓取

06
数据安全

智能体看得越多、记得越久,企业守得越严

07
分级准入

风险越高,门槛越重——把追责前移为防控

08
知识产权

智能体生成的归谁,用的谁担——进料与出活

09
全球图景

路径殊异,问责归一——中、新、美、欧四法域




本篇导读:

先问一个看似简单的问题:智能体做的事,到底是谁做的?这一问,问到了智能体法律责任的根上。本篇从这一问出发,讲清三件事:智能体可以自主,行为为何仍须归人;既要归人,归于哪个人;以及一个反直觉的道理——智能体越自主,企业的责任不是越轻,而是越重。



PART 01

一问到底:这事是谁做的


你让智能体订一张机票。是你订的,还是它订的?多半你会说,当然是我订的——它只是替我跑腿。

那么再进一步:你只说了一句"帮我安排下周去北京的行程",它自己比了价、选了航班、改了酒店,还顺手退订了一个你没提起的会员。这一连串它自己拿的主意,还是你做的吗?

再进一步:它替你签下了一份你从未逐字过目的协议。这份协议,约束的是你,还是它?

一问比一问难答。难就难在:智能体越自主,"是它做的还是你做的"就越说不清。这便是本篇要解开的结。


PART 02

自主与可归属:一对张力


把上面的为难拆开看,是两股力在相互拉扯。

一头是自主:智能体能自行规划、决策、行动,不必人一步步指令。自主越深,它离"自己做主"越近。

另一头是可归属:法律要求任何一个行为都能归到某个责任主体身上,否则一旦致害,便无人可究。

二者构成一对张力:自主越深,归属越难,却越不能不归。 智能体时代法律的第一道功夫,就是在这对张力中,为每一个自主行为重新找回它的责任人。


PART 03

为何行为必须归人


法律为何执意要把智能体的行为归于人,而不让它自己担责?

因为智能体不是法律上的主体。在现行法上,能享有权利、负担义务、承担责任的,只有自然人、法人、非法人组织三类。智能体不在其中。它是否该被赋予某种拟制的人格,是立法者的决断之事,而目前的答案是否定的。

否定的顾虑很实在:一旦承认智能体能独立担责,它极可能沦为真正责任人脱身的"挡箭牌"——出了事,把责任推给一个既无财产、又无意志、还关不进监狱的"它",受害者将求偿无门。故而通说仍把智能体视为工具,其行为归属于工具背后的人。智能体可以自主,行为却必须归人——这不是技术跟不上,而是责任不容落空。


PART 04

控制定归属:归于哪个人


既然必须归人,接下来的问题就是:归于哪个人?

答案是:归于控制它的人。 控制,是把放出去的自主行为重新系回人身的那根缆绳。具体而言,看三件事:

  • 目标谁设:是谁给它定下了要达成的目的?

  • 权限谁授:是谁授予了它行动的权限与边界?

  • 约束谁能施:是谁能够预见它的行为、并施加约束或令其停止?

谁在这三件事上居于主导,谁就该为它的行为负责。自主性把行为从人的手中放了出去,控制则把责任从行为那一头收了回来。这正是本书贯穿始终的支点在此篇的落定:行为必归人,而归于何人,由控制划定。


PART 05

一个反直觉的道理:自主愈深,问责愈严


讲到这里,须破一个常见的错觉。

直觉似乎是:智能体越自主,人越控制不住它,那出了事,人岂不越该免责?

恰恰相反。智能体的自主不是凭空冒出来的,而是人一分一分授予的——从只让它提建议,到准它代为执行,到许它自主决策,再到放手任它自主缔约,自主一层深似一层,对应的是人一次比一次更大的授权、更深的放手。自主愈深,意味着你交出去的权限愈大;权愈大,则责愈重。 因为是你,选择了把更大的自主托付给它。

故而本书反复申明一句:自主愈深,问责愈严。 这条脉络贯穿其后各篇——你给智能体多大的自主,便要备多大的担责。自主的层级如何对应授权的边界与责任的分配,第四篇专门展开(详见第四篇)。


PART 06

控制的两面:能力与义务


"控制"二字,还须分作两面看,否则易生误会。

一面是控制能力:你在技术上能不能约束住它。另一面是控制义务:你应不应该、有没有尽力去约束它。

归责主要看的,是后者。法律不苛求你事实上把每一个输出都控制得严丝合缝——生成式技术的输出本就带有不确定性。它问的是:你是否尽到了与自身能力相匹配的、合理的注意与约束之责。该控制、能以合理成本控制,却怠于控制,才是过错之所在。至于这"合理"二字如何衡量、为何把责任系于最能控制的那一方,本书第三篇以专门的尺度作答(详见第三篇)。


PART 07

落到部署:把四个问题答在前头


这一篇的法理,落到企业,凝成一句话:你给智能体多大的自主,就要备多大的控制与担责。 部署之前,先把四个问题答明白——

  • 目标谁设:这个智能体要达成的目的,由谁设定、是否清晰、有无越界之虞?

  • 权限谁授:它的行动权限有多大、边界在哪、由谁授予并记录?

  • 谁能叫停:谁能预见它的行为、在何处设下检查点、能否随时令其停止?

  • 出事谁担:一旦致害,责任归于链条上的哪一方,事先是否约定明确?

这四问答清楚了,归属链才稳;答不清楚,再先进的智能体也是悬在企业头上的未定之责。



本篇小结



智能体做的事究竟是谁做的——答案是:归于控制它的人。智能体可以自主,但它不是法律主体,行为必须归人;归于何人,由谁设目标、授权限、施约束来划定。尤须记取那个反直觉的道理:自主愈深,不是责任愈轻,而是愈重,因为更深的自主出于更大的授权。

自主者,权之所放也;归属者,责之所收也。
放权愈多,收责愈重——此智能体担责之枢机。

一处仍须言明:智能体的法律地位、自主行为的归属规则,现行法尚无专门成文规定,本篇结论系以现行主体制度与侵权法理为据的建构,须随立法与司法的演进而校准。


本篇合规清单

  • 答四问:部署前明确目标谁设、权限谁授、谁能叫停、出事谁担,并落于书面。

  • 配权责:按授予智能体的自主深浅,匹配相应的控制措施与担责安排,自主愈深愈从严。

  • 设缆绳:为自主行为设检查点与中止机制,确保人能预见、能干预、能叫停。

  • 重义务:以与自身技术能力相匹配的合理注意与约束之责为准绳,勿以"控制不了"自我开脱。

  • 存痕迹:目标设定、权限授予、约束与干预全程留痕,备归责之据。

现状与时效附注

  • 本篇所依"民事主体仅自然人、法人、非法人组织三类"为现行民事基本制度;智能体的法律地位与拟制人格问题,立法尚未给出肯定答案。

  • 智能体自主行为的归属规则、自主层级与责任的对应关系,现行法尚无专门成文规定,本篇结论系建构,以裁判时规范与个案判断为准。

  • 时效核查时点:2026 年 6 月。


图片

BOSS & YOUNG


律师介绍


图片
戎朝
邦信阳律师事务所 合伙人 📍上海

   rongchao@boss-young.com

戎朝律师,邦信阳律师事务所合伙人、知识产权及文化体育产业部负责人,擅长知识产权领域,涉及文化、体育、影视、娱乐、艺术品等行业,尤其在体育产业及影视娱乐领域深耕多年。在诉讼领域,戎律师曾经代理过多个业内影响力极大的案件,包括2008年北京奥运会系列维权案、新浪诉凤凰网中超赛事体育作品第一案、慧鱼模型作品案、“黑猫警长”著作权转换性使用案等典型案例,多年连续获得各级法院评选的十大案例、全国律协知产委、各地版权局等官方评选的十大案例,拥有较为专业和丰富的知识产权前沿疑难纠纷处理和出庭经验。在非诉领域,戎律师曾担任央视国际、CBA公司、中超公司、新浪网、PPTV等知名企业的顾问律师,并处理多个重大商业项目的专项顾问律师。

执业期间,戎朝律师获得多个权威奖项,被评为2011年上海市第四届优秀青年律师,2007-2008年度静安区优秀青年律师。目前是中国法学会体育法学研究会理事、上海律协知识产权专业委员会委员。戎朝律师先后在2021年被评为2021年ALB十五佳知识产权律师;2022-2024连续三年被评为商法“A-list 法律精英”;2023年被评为2023年度Legalband娱乐法律师十五强,2023-2026连续四年荣登钱伯斯大中华区域指南:媒体娱乐律师榜单,2023-2026连续四年入选Legalband中国顶级律师排行榜:体育娱乐;2024-2025连续两年ALB年度亚洲争议解决律师;2025-2026连续两年荣登钱伯斯大中华区域指南:知识产权律师榜单;2026年荣登钱伯斯全球指南:媒体娱乐律师榜单。


邦信阳律师事务所

Boss & Young Since 1995

法治兴·知行于·大道向

使   命:让律师成为法治社会的重要助推

愿   景:法治天下·诗意栖居

价值观:可靠、高效、富有创造力,守正、相与、永葆进取心


来源:邦信阳律师事务所

编辑:鱼仔

责任编辑:高兴、陈默



声明:本文仅代表作者本人观点,不得视为邦信阳律师事务所及律师出具的正式法律意见或建议。转载请注明来自“邦信阳律师事务所”公众号。如您有意就相关议题进一步交流或探讨,欢迎与我们联系,电话:+8621 23169090,邮箱:shanghai@boss-young.com


图片


点击“阅读原文”,登录邦信阳律师事务所官网了解更多资讯