AI辅助诊断系统已经在肺结节筛查、眼底病变识别、病理切片分析等场景中进入临床流程。算法通过对海量影像或检验数据的学习,能够给出疑似病灶标记、恶性风险评分甚至治疗建议。问题在于,这些建议一旦出现错误,而医生又依据建议作出了诊疗决策,患者受到损害后的责任认定就会变得异常复杂。医生最终决策权与算法建议之间的法律边界,既涉及侵权责任法中的过错判断,也牵涉医疗器械的产品责任,还关系到医疗机构的组织义务。要厘清这个问题,不能简单地说医生要负责或者算法提供方要负责,而需要回到医疗行为与产品使用的具体场景中分析。

一、AI辅助诊断的法律属性:工具还是决策主体
从现行法律框架看,AI辅助诊断系统并不具备民事主体资格。无论是深度学习模型还是规则引擎,算法不能独立享有权利、承担义务,也不能成为医疗损害责任的直接承担者。即使算法给出的建议直接影响了诊疗方案,法律评价的对象仍然是人——医生、医疗机构以及算法提供方。正因如此,AI辅助诊断的法律属性更接近医疗器械或者医疗辅助工具,而不是独立决策者。
这种定性带来的直接后果是,算法建议本身不会承担法律责任,但算法背后的设计者、生产者、销售者以及使用算法的医疗机构都可能进入责任链条。对于医生而言,使用AI辅助诊断与使用听诊器、影像设备并没有本质区别,但AI建议带有一定的判断属性,容易让医生在认知上产生依赖。法律需要回答的问题是:当医生依据一个由算法生成的判断作出决策时,医生的注意义务标准是否发生变化。
另外,如果AI辅助诊断软件经过药品监督管理部门批准,作为医疗器械上市,其预期用途和说明书中载明的适用范围就非常重要。超出预期用途使用算法建议,例如将筛查用途的AI用于确诊或直接指导手术,可能改变责任分配。司法实践中,产品是否按照批准用途使用、医疗机构是否对医生进行了培训,都是判断过错的重要事实。
二、医生最终决策权的双重含义:权力与义务
医生最终决策权并不是一个新概念。在传统的医患关系中,医生根据专业知识和诊疗规范作出判断,最终决定检查、用药和手术方案。AI辅助诊断引入后,算法建议可以被视为医生获取信息的一种新来源,但最终是否采纳仍然由医生决定。这个权力配置有利于保持医疗行为的专业性和人文性,防止算法机械决定治疗方案。
然而,最终决策权也意味着最终责任。医疗损害责任以过错责任为原则,核心是医生是否尽到了与当时医疗水平相应的注意义务。如果医生面对算法给出的高风险提示未予理会,或者对明显违背诊疗常规的建议盲目采纳,都可能被认定存在过错。医生不能以算法建议为由当然免除责任,因为法律并不承认算法建议可以替代医生的专业判断。
不过,注意义务的边界并非无限扩张。医生审查算法建议的能力受到算法透明度、可解释性和临床紧急程度的制约。如果算法提供方将模型包装为黑箱,医生既无法获知建议的推理过程,也难以从现有医学知识中发现错误,此时要求医生承担全部责任并不公平。因此,医生的最终决策权与责任承担,应当与其能够实际审查和控制风险的能力相匹配。
三、算法建议错误的归责路径:医疗过错与产品责任并行
当算法建议出现错误并造成损害时,法律上存在两条主要的追责路径。第一条是医疗过错路径,即患者可以向医疗机构主张医生在诊疗过程中存在过错。此时法院会审查医生是否对算法建议进行了合理审查,是否结合患者具体情况作出独立判断。如果算法建议存在明显错误,而医生未加辨别直接采纳,医生和医疗机构很可能承担赔偿责任。
第二条是产品责任路径。算法软件作为医疗器械,如果存在设计缺陷、制造缺陷或者警示缺陷,患者也可以向生产者主张产品责任。产品责任通常属于无过错责任,受害人不需要证明生产者有过错,但需要证明产品存在缺陷、损害事实以及缺陷与损害之间的因果关系。在AI辅助诊断场景中,训练数据偏差、模型泛化能力不足、未对适用人群进行充分警示,都可能被认定为产品缺陷。
这两条路径并非互相排斥,而是可能同时存在。医疗机构在赔偿患者后,可以依据产品缺陷向算法提供方追偿。反过来,算法提供方也不能仅以医生拥有最终决策权为由拒绝承担责任,尤其是当算法缺陷导致医生无法正常行使审查职能时。司法实践需要区分医生的判断过错和算法本身的缺陷,避免把技术风险完全转嫁给一线医生。
可解释性问题在此处尤为关键。如果算法只给出结论而不提供依据,医生的审查义务会变得更加困难。为此,监管机构开始要求高风险AI医疗器械具备一定的可解释性,或者至少提供置信度、适用人群限制等辅助信息,以帮助医生履行注意义务。
四、责任划分的实务判断与制度完善
在实务中,责任划分可以沿着一个简化的判断流程展开:先看医生是否违反了独立审查义务,再看算法建议是否存在缺陷,最后判断因果关系。下面这段伪代码展示了一种用于内部风险管理的逻辑,帮助医疗机构在事件发生后初步定位责任方向。
def allocate_liability(ai_suggestion, doctor_decision, guideline):
# 比较算法建议、医生最终决策和诊疗规范
if doctor_decision == ai_suggestion:
if ai_suggestion.deviation > guideline.tolerance:
return "医生未充分审查,承担主要责任"
return "算法提供方需说明建议依据"
if doctor_decision.complies_with(guideline):
return "医生不承担责任"
return "医生承担医疗过错责任"
这段逻辑当然不能替代法律判断,但它反映了责任划分的基本顺序:医生的审查义务能否履行,是判断责任的起点。如果医生严格按照规范操作,仍然无法发现算法建议的错误,责任重心就会转向算法提供方。
除了事后追责,制度完善同样重要。医疗机构在引入AI辅助诊断时,应当建立强制复核流程,要求医生在关键诊疗节点对算法建议进行书面确认,并保留完整的决策日志。对于高风险建议,可以设置双人复核或者专家会诊机制。这样既能降低误判概率,也能在发生纠纷时提供医生已尽注意义务的证据。
同时,医疗责任保险和产品责任保险需要针对AI辅助诊断的特点进行调整。传统医疗责任险主要覆盖医生和医疗机构的过错,而算法缺陷带来的损害可能超出既有保险条款的范围。监管机构可以推动建立AI医疗器械的强制保险或者行业共济机制,确保受害人能够获得及时赔偿,也避免单个医疗机构承担过重的技术风险。
从长远看,法律应当进一步明确AI辅助诊断中医生审查义务的具体标准,例如根据算法风险等级、临床紧急程度和可解释性水平设置不同的注意义务层级。只有把权力和责任对应起来,AI辅助医疗才能在提升诊断效率的同时,不模糊医疗责任的边界。