Une étude prudente révèle les limites de ChatGPT en matière d'information précise sur les médicaments

Une étude récente a soulevé des inquiétudes quant à la fiabilité de la version gratuite de ChatGPT, le chatbot populaire d'OpenAI, pour fournir des informations précises sur les médicaments. Des recherches menées par des pharmaciens de la faculté de pharmacie de l'université de Long Island révèlent que les réponses de ChatGPT aux questions relatives aux médicaments sont souvent inexactes ou incomplètes. Ces résultats soulignent la nécessité pour les patients et les professionnels de santé de faire preuve de prudence lorsqu'ils utilisent ChatGPT pour obtenir des informations pharmaceutiques.

L'étude consistait à poser 39 questions relatives aux médicaments à ChatGPT, dont seulement 10 ont reçu une réponse satisfaisante. Les 29 questions restantes étaient soit inexactes, soit incomplètes, soit les deux. Cette incohérence des réponses met en évidence une lacune importante dans la capacité du chatbot à fournir des informations fiables sur les médicaments.

Insuffisance dans le traitement des questions pharmaceutiques

L'équipe de recherche, dirigée par Sara Grossman, a évalué les performances de ChatGPT en comparant ses réponses à celles de pharmaciens ayant répondu au même questionnaire. Ces questions étaient de véritables demandes d'information reçues par le service d'information sur les médicaments de la faculté de pharmacie de l'université de Long Island entre janvier 2022 et avril 2023. Sur les 45 questions initiales, six ont été exclues faute de réponses étayées par la littérature scientifique.

ChatGPT n'a pas répondu directement à 11 questions, a fourni des réponses inexactes à 10 autres et des réponses incorrectes ou incomplètes à 12 autres encore. Les chercheurs ont également constaté que ChatGPT, interrogé à ce sujet, n'a cité de références que dans huit réponses, et que ces références étaient inexistantes. Ces observations soulèvent des inquiétudes quant aux processus de référencement et de vérification du chatbot.

Un exemple particulièrement alarmant est l'affirmation erronée de ChatGPT selon laquelle aucune interaction médicamenteuse n'existe entre l'antiviral Paxlovid et l'antihypertenseur Verapamil. En réalité, l'association de ces médicaments peut entraîner une chute excessive de la tension artérielle, ce qui représente un risque grave pour la santé. Cette erreur est d'autant plus préoccupante que de nombreux utilisateurs ignorent peut-être les limites des données de ChatGPT, ce qui pourrait avoir des conséquences néfastes.

Implications de l'IA dans le domaine de la santé

Les conclusions de cette étude sont cruciales compte tenu de la popularité et de l'utilisation généralisée de ChatGPT. Lancée en 2022, ChatGPT est rapidement devenue l'une des applications Internet grand public à la croissance la plus rapide, enregistrant environ 1,7 milliard de visites dans le monde rien qu'en octobre. Sa version gratuite, cependant, se limite aux données disponibles jusqu'en septembre 2021, ce qui la rend potentiellement obsolète face aux dernières avancées et innovations médicales.

Bien que la version payante de ChatGPT intègre désormais la navigation internet en temps réel, l'étude s'est principalement concentrée sur la version gratuite afin de refléter l'expérience du grand public. Les chercheurs insistent sur l'importance de vérifier les réponses de ChatGPT auprès de professionnels de santé de confiance ou de sources médicales fiables.

Cette étude nous rappelle avec force les limites de l'IA dans des domaines sensibles comme la santé. Si des technologies d'IA telles que ChatGPT offrent des avantages considérables en termes d'accessibilité et de praticité, leur état actuel exige une analyse approfondie, notamment lorsqu'il s'agit de santé et de bien-être. Il est conseillé aux utilisateurs de faire preuve de prudence face aux informations provenant de ces sources et de toujours consulter un professionnel de santé qualifié pour obtenir un avis médical.

L'étude menée par la faculté de pharmacie de l'université de Long Island sonne l'alarme quant aux limites de l'IA dans le domaine de la santé, notamment en ce qui concerne la fourniture d'informations précises sur les médicaments. Alors que l'IA continue de s'intégrer à divers aspects de notre vie, il est essentiel de rester conscient de ses limites et d'aborder son utilisation, en particulier dans des domaines aussi critiques que la santé, avec une prudence éclairée.