AI 在医疗保健中如何因偏见数据误导医生

在错综复杂的医疗保健领域，人工智能 (AI) 的角色既是一种恩赐，也是一种潜在的祸害。虽然 AI 有望帮助医生做出更明智的决策，但最近发表在《美国医学会杂志》(JAMA) 上的一项研究揭示了一个令人不安的现实。 

该研究深入探讨了 AI 在医疗保健中的影响，特别揭示了向医生提供偏见信息所带来的危险。尽管食品药品监督管理局 (FDA) 等监管机构为确保 AI 工具的可靠性和安全性做出了严格努力，但研究表明，即使有解释，如果 AI 从有缺陷和偏见的数据中学习，医生仍可能被误导。

探索 AI 在医疗保健诊断中的影响

由密歇根大学计算机科学博士生 Sarah Jabbour 领导的研究，专注于旨在协助诊断急性呼吸衰竭患者的 AI 模型——这是一种患者呼吸困难的关键状况。与包括医生、护士从业者和医师助理在内的医疗专业人员合作，团队调查了 AI 的决策如何影响诊断准确性。 

令人惊讶的是，当医疗专业人员仅依赖 AI 的决策时，他们的准确性提高了约 3%。但是，引入解释（以详细说明 AI 在胸部 X 光片上关注点的地图形式呈现）进一步将准确性提高了 4.4%。

该研究通过故意在 AI 的决策过程中引入偏见而发生了关键转折。例如，AI 可能会错误地建议 80 岁及以上的老年患者更有可能患有肺炎。 

参与该研究的教授 Jenna Wiens 强调了 AI 从有缺陷数据中学习时固有的偏见，并举例说明基于性别的误诊可能导致结果偏差。不幸的是，当医生面对来自有偏见 AI 的解释时，即使 AI 的不相关关注点显而易见，他们的准确性也下降了约 11.3%。

解开 AI 偏见的挑战

Sarah Jabbour 承认，虽然 AI 解释提供了潜在的改进途径，但研究强调了其中的挑战。性能的下降与其他研究一致，表明即使有解释，AI 模型仍可能误导医疗专业人员。 

Jabbour 强调需要在不同领域之间开展协作努力，以开发更好的方法来向医生解释 AI 决策。该研究发出了进一步研究的强烈呼吁，敦促探索在医疗保健中安全利用 AI 优势的方法。它还强调了需要强大的医学教育，使专业人员具备驾驭 AI 潜在偏见的知识。

随着 医疗保健中 AI 的整合不断推进，这项研究提出了一个关键问题：我们如何确保 AI 的安全有效利用，同时减轻偏见信息的风险？研究结果强调了应对这些挑战的紧迫性，推动创新以弥合 AI 进步与医生理解之间的差距。

来自不同领域的专家的协作努力能否为未来铺平道路，使 AI 在医疗保健中提高准确性而不牺牲可靠性和安全性？该研究不仅是一个警示故事，也是继续探索 AI 与医疗保健之间微妙关系的催化剂，敦促利益相关者在不断变化的格局中保持对潜在陷阱的敏锐意识。