医疗AI人机协同怎么设计:125人随机交叉实验拆解医生对AI建议的盲信与漏信
技术解读这是一项关于「人机协同」的随机交叉实验适合关注医疗 AI 界面设计与可解释性工程落地的读者。一项《柳叶刀·数字健康》的随机交叉实验发现医生与 AI 协作时真正拖后腿的未必是「盲信 AI」而是「AI 说对了、医生却没采纳」——这比盲信错误建议更伤诊断准确率。研究让 10 个国家的 125 名医生与医学生读 50 张头颅 CT判读有没有颅内出血分别在「无 AI」「基础 AI 建议」「可解释 AI 建议圈出出血位置」三种条件下各读一遍每遍间隔至少 14 天。为了干净测出「信与不信」的行为AI 建议由研究者人工编写、固定 80% 正确、20% 错误让每个人碰到的对错比例完全一致。结果是两类错误的「杀伤力不对称」医生「盲信」错误建议的比例高达 27%~58%「不采纳」正确建议的比例是 11%~21%。但正确建议是错误建议的四倍于是被放过的正确建议反而耽误了更多病例。可解释 AI圈出病灶能显著降低「不采纳」正确诊断的比值比达 1.84——尤其帮到新手无提示时新手准确率 62.7%拿到正确圈注后升到 86.6%在「确有出血」的难题上「该采纳而没采纳」的比例专家从 8.3% 降到 6.7%、新手从 10.3% 降到 5.1%。要注意三点这是实验室研究AI 建议是人工写的、界面只让回答「有/没有」离真实临床还有距离它只测了头颅 CT 颅内出血这一项可解释 AI 虽减少漏信却没缩短读片时间、还让盲信在阴性病例上略升。但这项研究第一次把「盲信」和「漏信」拆开量为临床决策支持系统该怎么设计界面提供了直接证据。你所在科室的 AI 读片工具医生真的会听吗欢迎评论区聊聊。 工程实现要点把「信任」拆成两个可量化错误盲信错误建议 vs 不采纳正确建议分别统计发生率可解释 AIbounding box 圈出病灶显著降低「不采纳」正确诊断比值比 OR1.84新手获益更大无提示准确率 62.7%拿到正确圈注后升至 86.6%代价是读片时间未缩短p0.071且盲信在阴性病例上略有上升预注册实验OSFAI 建议人工编写固定 80/20保证对错比例一致论文原文信息链接AI读片建议该信几分随机交叉实验揭示医生不采纳正确建议比盲信错误更伤诊断准确率