ChatGPTの正確な薬物情報提供における限界を示す警告的な研究

最近の研究により、OpenAIの人気チャットボットであるChatGPTの無料版が、薬物関連の正確な情報を提供するという点で信頼性に疑問が投げかけられています。ロングアイランド大学薬学部薬剤師によって行われた研究では、ChatGPTの薬物関連の質問への回答がしばしば不正確または不完全であることが明らかになりました。この発見は、医薬品情報としてChatGPTに依存する患者や医療従事者にとって、注意の必要性を浮き彫りにしています。

この研究では、ChatGPTに39の薬物関連の質問を投げかけましたが、満足できる回答が得られたのは10件だけでした。残りの29件の質問は、不正確に扱われたり、不完全だったり、その両方でした。この回答の一貫性の欠如は、チャットボットが信頼性の高い薬物情報を提供するという能力における大きなギャップを浮き彫りにしています。

医薬品に関する問い合わせへの不十分さ

サラ・グロスマン率いる研究チームは、同じ質問セットに回答した薬剤師の回答と比較することで、ChatGPTのパフォーマンスを評価しました。質問は、2022年1月から2023年4月にかけてロングアイランド大学薬学部薬物情報サービスに寄せられた実際の問い合わせでした。当初の45件の質問のうち、文献に基づく回答がないため6件が除外されました。

ChatGPTは11件の質問に直接答えることに失敗し、10件に不正確な回答を行い、さらに12件に誤りまたは不完全な回答を行いました。研究者らはまた、ChatGPTが参照を求められた場合、8件の回答のみで参照を提供したが、それらはすべて存在しないソースを引用していたことも指摘しました。これは、チャットボットの参照および検証プロセスに対する懸念を呼び起こします。

特に懸念される事例の一つは、ChatGPTが抗ウイルス薬パックスロビッドと降圧薬ベラパミルの間に薬物相互作用が存在しないという誤った主張を行ったことです。実際には、これらの薬を併用すると血圧が過度に低下し、深刻な健康リスクをもたらす可能性があります。多くのユーザーがChatGPTのデータ制限を認識していない可能性があるため、この誤りは特に懸念されます。

医療分野におけるAIへの示唆

ChatGPTの人気と広範な使用を考慮すると、この研究の発見は重要です。2022年にローンチされたChatGPTは、わずか10月だけで世界中で約17億回のアクセスを集めるなど、最も急速に成長した消費者向けインターネットアプリケーションの一つとなりました。しかし、その無料版は2021年9月までのデータに限定されており、最新の医療開発や革新に取り残されている可能性があります。

有料版のChatGPTは現在リアルタイムのインターネット閲覧機能を含んでいますが、この研究は主に一般大衆の経験を反映するため無料版に焦点を当てました。研究者らは、ChatGPTの回答を信頼できる医療専門家または信頼性の高い医療ソースと照合することの重要性を強調しています。

この研究は、医療のような機微な分野におけるAIの限界についての重要な教訓を提供します。ChatGPTのようなAI技術は、アクセシビリティと利便性の点で大きな利点を提供しますが、その現在の状態は健康や福祉に関する事項において特に慎重な精査を必要とします。ユーザーは、このようなソースからの情報に注意して接し、医療アドバイスについては常に資格のある医療専門家に相談することが推奨されます。

ロングアイランド大学薬学部によるこの研究は、医療分野におけるAIの限界、特に正確な薬物情報の提供における限界についての重要な警告です。AIが私たちの生活のさまざまな側面に統合され続けるにつれて、その限界を認識し、医療のような重要な分野での使用には情報に基づいた注意を持ってアプローチすることが不可欠です。