Une étude prudente révèle les limites de ChatGPT dans la fourniture d'informations précises sur les médicaments
- L'étude montre que ChatGPT est souvent inexact dans les informations sur les médicaments, prudence recommandée.
- Les conseils médicaux de ChatGPT manquent de fiabilité, avertissent les pharmaciens.
- IA dans la santé : l'étude met en évidence les lacunes de connaissances de ChatGPT.
Une étude récente a soulevé des inquiétudes quant à la fiabilité de la version gratuite de ChatGPT, le chatbot populaire d'OpenAI, en ce qui concerne la fourniture d'informations précises sur les médicaments. Une recherche menée par des pharmaciens du College of Pharmacy de l'Université de Long Island révèle que les réponses de ChatGPT aux questions liées aux médicaments sont souvent inexactes ou incomplètes. Ces résultats soulignent la nécessité d'une prudence accrue chez les patients et les professionnels de santé qui s'appuient sur ChatGPT pour obtenir des informations pharmaceutiques.
L'étude a consisté à poser 39 questions liées aux médicaments à ChatGPT, dont seulement 10 ont reçu des réponses satisfaisantes. Les 29 questions restantes ont été soit mal adressées, soit incomplètes, soit les deux. Cette incohérence dans les réponses met en évidence un écart significatif dans la capacité du chatbot à fournir des informations fiables sur les médicaments.
Inadéquation dans la réponse aux questions pharmaceutiques
L'équipe de recherche, dirigée par Sara Grossman, a évalué les performances de ChatGPT en comparant ses réponses à celles de pharmaciens ayant répondu au même ensemble de questions. Les questions étaient de vraies demandes reçues par le service d'information sur les médicaments du College of Pharmacy de l'Université de Long Island entre janvier 2022 et avril 2023. Sur les 45 questions initiales, six ont été exclues en raison de l'absence de réponses basées sur la littérature.
ChatGPT n'a pas répondu directement à 11 questions, a fourni des réponses inexactes à 10, et a donné des réponses incorrectes ou incomplètes à 12 autres. Les chercheurs ont également noté que, lorsqu'on le lui demandait, ChatGPT fournissait des références dans seulement huit réponses, toutes citant des sources inexistantes. Cela soulève des inquiétudes concernant les processus de référence et de vérification du chatbot.
Un cas particulièrement alarmant a été l'affirmation incorrecte de ChatGPT selon laquelle aucune interaction médicamenteuse n'existe entre le médicament antiviral Paxlovid et le médicament antihypertenseur Verapamil. En réalité, l'association de ces médicaments peut entraîner une baisse excessive de la tension artérielle, présentant un risque grave pour la santé. Cette erreur est particulièrement préoccupante étant donné que de nombreux utilisateurs peuvent ne pas être conscients des limites des données de ChatGPT, ce qui pourrait entraîner des conséquences néfastes.
Implications de l'IA dans les soins de santé
Les résultats de l'étude sont critiques dans le contexte de la popularité et de l'utilisation généralisée de ChatGPT. Lancé en 2022, ChatGPT est rapidement devenu l'une des applications Internet grand public à la croissance la plus rapide, attirant environ 1,7 milliard de visites rien qu'en octobre. Sa version gratuite, cependant, est limitée aux données disponibles jusqu'en septembre 2021, ce qui la rend potentiellement déconnectée des développements et innovations médicaux récents.
Bien que la version payante de ChatGPT comprenne désormais des capacités de navigation en temps réel sur Internet, l'étude s'est principalement concentrée sur la version gratuite pour refléter l'expérience de la population générale. Les chercheurs soulignent l'importance de vérifier les réponses de ChatGPT auprès de professionnels de santé de confiance ou de sources médicales fiables.
Cette étude sert de rappel crucial des limites de l'IA dans des domaines sensibles comme les soins de santé. Bien que les technologies d'IA comme ChatGPT offrent des avantages significatifs en termes d'accessibilité et de commodité, leur état actuel exige un examen attentif, surtout lorsqu'il s'agit de questions de santé et de bien-être. Il est conseillé aux utilisateurs de traiter les informations provenant de telles sources avec prudence et de toujours consulter des professionnels de santé qualifiés pour obtenir des conseils médicaux.
L'étude du College of Pharmacy de l'Université de Long Island sert d'avertissement critique sur les limites de l'IA dans les soins de santé, en particulier dans la fourniture d'informations précises sur les médicaments. Alors que l'IA continue de s'intégrer dans divers aspects de nos vies, il est essentiel de rester conscient de ses limites et d'aborder son utilisation, en particulier dans des domaines critiques comme les soins de santé, avec une prudence éclairée.
Si vous lisez ceci, vous êtes déjà en avance. Restez ainsi grâce à notre newsletter.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Glory Kaburu
Glory est une journaliste extrêmement compétente, maîtrisant les outils d'intelligence artificielle et la recherche. Passionnée par l'IA, elle a rédigé plusieurs articles sur le sujet. Elle se tient informée des dernières avancées en intelligence artificielle, en apprentissage automatique et en apprentissage profond, et écrit régulièrement à ce propos.
