目 录
安全为什么先于效率——医疗AI合规的第一性坐标
四原则与五维度——把伦理拆成可自测的4×5矩阵
训练语料的来源合法吗——敏感信息、人遗资源与出境三关
躲不开的法定前置——两部办法、专家复核与AI知情同意
上市要拿哪些证——药监、网信、卫健三线并行
算力芯片、模型技术出境与中美博弈下的贸易合规
AI误诊谁来担——两条责任线与三个接缝
护城河多半不在专利——专利、著作权与商业秘密的组合
三道关与三种监管哲学——中、美、欧的能力、权利与落地
本篇导读：
AI能读片、能提方案、能拟病历，但有三件事它碰不得：不能替医师接诊，不能自动开处方，不能做最终的诊断决策。
这条边界，不是技术能力不够画出来的，是法律划的线。它决定了一件对产品至关重要的事——功能的天花板。一款医疗AI能做到哪一步、不能越过哪一步，先看这条线在哪。更要紧的是，划线容易守线难：法律要医师当最后的把关人，可人一旦习惯了听AI的，把关就容易变成走过场。本篇讲两件事——边界划在哪，以及怎么让边界在真实诊疗里站得住。
转载自公众号戎戎熊智讼
文 | 戎朝
边界是法律划的，不是技术划的
四条法源，从三个方向合围出同一条线。
网信线——AI不得替代医师。 《互联网诊疗监管细则（试行）》（2022年施行）第13条规定：医师接诊前需进行实名认证，确保由本人提供诊疗服务，其他人员、人工智能软件等不得冒用、替代医师本人提供诊疗服务；同细则第21条进一步规定，处方应由接诊医师本人开具，严禁使用人工智能等自动生成处方。这两条最直接——AI不能接诊，也不能自动开方。
主体资格线——诊疗是医师的法定职责。 《中华人民共和国医师法》（2022年3月1日施行）第13条规定，未注册取得医师执业证书不得从事医师执业活动；诊疗由具备资格、完成注册的医师实施。AI没有、也不可能取得医师资格。该法第56条还把"未经亲自诊查，签署诊断、治疗证明文件"列为违法行为——这一条对AI场景尤其要紧：医师不能把AI的输出当成自己的"亲自诊查"，照单签字。
卫健线——政策只授"辅助"。 五部门《关于促进和规范"人工智能+医疗卫生"应用发展的实施意见》（2025年11月）在临床诊疗上通篇用"辅助诊疗""辅助诊断""提供治疗方案建议"等表述，没有一处授权AI独立诊断。
药监线——准入文件自己钉死辅助位。 不少AI三类证的适用范围明确写着"供经培训合格的医师使用，不能单独作为临床诊疗决策的依据"。产品拿证那一刻，"辅助"二字就写进了它的法定身份。
四条线指向同一个结论：AI辅助，医师决断。 这不是某一个部门的临时态度，是多条法源合围的硬边界。
辅助与替代，界在何处
边界清楚，但"辅助"和"替代"之间那道缝，才是真正要拿捏的地方。
辅助决策：AI提供信息、给出建议，医师独立判断、作出最终决策、并为决策担责。AI是参谋，医师是主官。
自动决策：AI直接给出结论，并据此行动，中间没有人实质介入。
现行法只允许前者。判断落在哪一边，标准不是技术上"AI参与了多少"，而是法律上一个问题——决策权和担责，是否仍实质地握在医师手里。 握着，是辅助；脱手，是替代。
AI越准，人越容易退场——辅助边界要对抗的真问题
"人在回路"——回路里必须有一个真实的人作最终决策与校验——是法律对AI辅助的刚性要求。临床一线对此态度鲜明，普遍强调AI是助手，医生才是主导者和校验者。但守住这条要求，比想象中难，因为它要对抗一股会随AI能力增强而自动变强的力量。
把医师"该不该听AI"看成一场博弈，结果取决于一个变量——医师心里对AI准确率的估计。沿这个估计由低到高，会落进三种状态：
AI不够准——形同虚设。 医师信不过，干脆不听，AI在与不在差不多。
AI比医师略好、又没到完美——这是健康状态。 医师部分采纳、但保持自己的判断，AI如实标明几成把握，两边互补，谁都没退场。这正是"辅助"二字本来的样子。
AI接近完美——人退场。 当AI在医师心里"几乎不会错"，最省力、最不易被追责的选择，就是照AI说的来。独立判断在这种心态下成了多余甚至吃亏的动作，"人在回路"于是退化成"人退出回路"。
要命的地方在于：AI的能力一直在涨，整个产业都在把它往"接近完美"推。也就是说，人机关系天然有一股从"协作"滑向"盲从"的下坠力——AI越准，这股力越强。自动化偏见（automation bias）是它在个体身上的表现——实证研究反复印证，错误的AI建议会促使本来判断正确的专家推翻自己的结论，而大模型流畅、像专家口吻的叙述，会让这种盲从更重，而非更轻。
看清这股下坠力，"辅助边界"的意义就变了：它不是画完就一劳永逸的静态红线，而是制度对下坠力的反向拉力。法律强制"AI不得替代医师、医师须亲自诊查、关键决策不得直接采纳AI输出"，本质是把人机关系摁在"健康协作"那一段，不让它滑进"人退场"。
同样的道理，在司法场景已被讲得斩钉截铁。《最高人民法院关于规范和加强人工智能司法应用的意见》（2022年12月9日发布）的"辅助审判原则"写明：无论技术发展到何种水平，人工智能都不得代替法官裁判，司法裁判始终由审判人员作出。"无论技术发展到何种水平"这一句尤其要紧——它正是冲着"AI越强、边界越松"的下坠力去的：技术再强，边界不退。医疗与司法，同此一理。
而医疗场景的特殊在于，"人退场"的代价不可逆：误诊酿成事故，而追责格外困难（详见第7篇）。AI越强，越需要这条边界把人摁在回路里——这不是不信任技术，是下坠规律使然。
边界对产品设计意味着什么
边界划定了功能的天花板：产品不能被设计成"一键自动诊断""自动开方"。这是底线，但只做到这一步远远不够。
真正要做的，是把"医师的实质审核"做进产品本身——让它成为一个跳不过、删不掉、留得下痕迹的环节。被动地不越界，挡不住自动化偏见；只有把审核做成产品的强制结构，边界才在真实诊疗里站得住。
总结
辅助与替代的边界，表面看是技术问题，骨子里是资格与责任问题：诊疗是法律交给医师的职责，AI没有资格承接，所以只能辅助。这一层，法律说得很清楚。
难的不在划界，在守界——而且要守的，是一条会被持续往后推的界。AI越准，医师越容易从"参考"滑向"照办"，人机关系天然朝"人退场"下坠。所以辅助边界不是一道画完就管用的静态红线，而是制度对这股下坠力的反向拉力；它守护的，是"人保持判断、AI如实辅助"那个健康状态，不让它塌缩成单向服从。
落到合规上，重心要从"画一条线"挪到"让线在诊疗现场顶得住下坠力"——把医师的实质审核做成产品里跑不掉、留得下痕迹的步骤，把AI的把握几成如实标给医师，把关键决策的"不得直接采纳"做成硬约束。这一步做扎实了，既守住本篇的边界，也为下一篇的责任切分备好证据。
AI谦抑，则人为主体；AI僭越，则人成附庸。
边界不写在说明书里，它写在每一次点击"采纳"时——医师是否真的看了，是否真的判断了。
本篇合规清单
功能不越界：产品不设"自动诊断""自动开方"功能；AI输出统一定性为"建议"，不作"结论"。
审核做成硬环节：把医师的实质审核设为不可跳过、可留痕的强制步骤，对抗橡皮图章与自动化偏见。
交互全程留痕：完整记录医师查看、修改、采纳或否决AI建议的过程——既是合规，也是责任切分的证据。
高风险场景强制退出：首诊、病情变化等情形，设AI强制退出，转由医师或实体医疗机构接手。
如实标注把握：AI每次输出标明置信度，而非一律高自信——让医师据此判断该信几分，把人留在判断里。
充分告知定位：明确标注AI的辅助定位、误差边界、禁止单独决策。
现状与时效附注
五部门《实施意见》（2025年11月）正推动临床智能辅助决策广泛落地，2025年大量基于大模型的AI接入医院信息系统；与此同时，临床一线对"AI替代医师"保持高度警惕。能力正不断往临床核心靠近，而辅助边界必须守住——这道一推一守的张力，是产品设计绕不开的约束。
资料来源
《互联网诊疗监管细则（试行）》（国家卫生健康委、国家中医药局，2022年；第13条AI不得替代医师、第21条禁AI自动生成处方）。
《中华人民共和国医师法》（2022年3月1日施行；第13、56条）。
《关于促进和规范"人工智能+医疗卫生"应用发展的实施意见》（五部门，2025年11月）。
最高人民法院：《关于规范和加强人工智能司法应用的意见》（2022年12月）。
rongchao@boss-young.com
戎朝律师，邦信阳律师事务所合伙人、知识产权及文化体育产业部负责人，擅长知识产权领域，涉及文化、体育、影视、娱乐、艺术品等行业，尤其在体育产业及影视娱乐领域深耕多年。在诉讼领域，戎律师曾经代理过多个业内影响力极大的案件，包括2008年北京奥运会系列维权案、新浪诉凤凰网中超赛事体育作品第一案、慧鱼模型作品案、“黑猫警长”著作权转换性使用案等典型案例，多年连续获得各级法院评选的十大案例、全国律协知产委、各地版权局等官方评选的十大案例，拥有较为专业和丰富的知识产权前沿疑难纠纷处理和出庭经验。在非诉领域，戎律师曾担任央视国际、CBA公司、中超公司、新浪网、PPTV等知名企业的顾问律师，并处理多个重大商业项目的专项顾问律师。
执业期间，戎朝律师获得多个权威奖项，被评为2011年上海市第四届优秀青年律师，2007-2008年度静安区优秀青年律师。目前是中国法学会体育法学研究会理事、上海律协知识产权专业委员会委员。戎朝律师先后在2021年被评为2021年ALB十五佳知识产权律师；2022-2024连续三年被评为商法“A-list 法律精英”；2023年被评为2023年度Legalband娱乐法律师十五强，2023-2026连续四年荣登钱伯斯大中华区域指南：媒体娱乐律师榜单，2023-2026连续四年入选Legalband中国顶级律师排行榜：体育娱乐；2024-2025连续两年ALB年度亚洲争议解决律师；2025-2026连续两年荣登钱伯斯大中华区域指南：知识产权律师榜单；2026年荣登钱伯斯全球指南：媒体娱乐律师榜单。
Boss & Young Since 1995
法治兴邦·知行于信·大道向阳
使 命：让律师成为法治社会的重要助推
愿 景：法治天下·诗意栖居
价值观：可靠、高效、富有创造力，守正、相与、永葆进取心
来源：邦信阳律师事务所
编辑：鱼仔
责任编辑：高兴、陈默
声明：本文仅代表作者本人观点，不得视为邦信阳律师事务所及律师出具的正式法律意见或建议。转载请注明来自“邦信阳律师事务所”公众号。如您有意就相关议题进一步交流或探讨，欢迎与我们联系，电话：+8621 23169090，邮箱：shanghai@boss-young.com
点击“阅读原文”，登录邦信阳律师事务所官网了解更多资讯。
