医療緊急事態におけるAIの一貫性の欠如が懸念を高める

ワシントン州立大学エルソン・S・フロイド医科大学の最近の研究は、緊急医療状況における人工知能（AI）の潜在的な障壁に関する重要な情報を提供している。PLOS Oneで発表された研究で、著者はOpenAIのChatGPTプログラムが胸痛の症例において模擬患者の心臓リスクを決定する能力を探った。

一貫性のない結論

結果は、同じ患者データが入力された際に、ChatGPTの結論において問題となるレベルの変動性を示している。主任研究者であるトーマス・ヘストン博士によると、ChatGPTは一貫した方法で機能しない。正確に同じデータを表示した場合、ChatGPTは最初は低リスク、次は中リスク、時には高リスク評価を与えることがある。

このギャップは、生命に危険な重大な症例では非常に深刻である。これらの症例では、本質的かつ客観的な評価は、医療従事者が正確かつ適切な行動を取るために大きな重要性を持つ。患者は異なる疾患により胸痛を経験する可能性がある。したがって、医師は患者を迅速に検査し、適切なケアを提供するために適時な治療を行う必要がある。

研究はまた、ChatGPTのパフォーマンスが、医師が患者の心臓リスクを評価するために使用する伝統的な方法と比較して弱かったことを明らかにした。今日、医師はTIMIおよびHEARTプロトコル（心臓患者の病状の程度を示す指標）に概ね従って患者を評価する際に、両面チェックリストノート法を使用している。

しかし、TIMIおよびHEARTスケールに表示されるような変数を入力として提供した場合、ChatGPTによるスコアとの不一致が大きくなり、それぞれのスケールで同意率は45%および48%であった。この多様性が高リスクの医療ケースにおけるAIの意思決定で見られると仮定すると、AIの信頼性に疑問を投げかけることになる。なぜなら、これらの高 stakes な状況は一貫性のある正確な意思決定に依存しているからである。

医療におけるAIの限界と可能性への対応

ヘストン博士は、AIが医療支援を強化する能力を指摘し、その内在する欠陥を排除するために徹底的な調査を行う必要性を強調しました。AIは必要なツールとなり得ますが、私たちは理解を超えた速度で進んでいます。したがって、特に日常的に遭遇する臨床状況において、より多くの研究を行う必要があります。

明らかに、研究結果は、AI技術がいくつかの利点を示したものの、これらの状況における人間の看護師の重要性を確認しています。例えば、緊急時にデジタルヘルス専門家が患者の完全な医療記録を参照し、システムの能力を活用して最も効率的に関連情報のみを提供できるという例があります。さらに、AIは鑑別診断の生成や医師との難しい症例の検討に参加することもできます。これにより、医師は診断プロセスをより効率的に進めることができます。

それでもなお、ヘストン博士によるといくつかの問題が残っています。

「未知のものの鑑別診断について考えるのを助ける点では非常に優れており、おそらくそれが最大の強みの一つです。つまり、各診断の上位5つとその根拠を尋ねることができ、問題を考えるのを助けるのに非常に役立ちますが、単純な答えを与えることはできません。」

AIが絶えず進化している中で、そのパフォーマンスを深く評価することが極めて重要です。特に医療のような高リスクな状況では、患者を保護し、医療判断を最適化するために。