辛顿：医疗AI卡在法律
这个问题我们内部吵了无数次。模型给出错误建议，医生没复核直接执行，最后出事了，责任是医院的、医生的、还是算法供应商的？现在的共识是：只要产品拿了NMPA证并以医疗器械名义进院，厂商承担一部分产品责任；但如果是科研合作或者CDS形式，责任基本在医院和医生。所以我们做产品时强制要求人在回路，关键诊断必须双人复核，模型输出加置信度阈值，低于阈值自动熔断转人工。这不是技术优雅问题，是老板不被起诉的问题。全栈写代码时要把审计日志、操作留痕做进第一版，别等产品上线再补。
发布于 广东
分享
评论
1
未登录
友善发言
评论
加载中
