Un estudio preventivo revela las limitaciones de ChatGPT a la hora de proporcionar información precisa sobre medicamentos

Un estudio reciente ha suscitado inquietud sobre la fiabilidad de la versión gratuita de ChatGPT, el popular chatbot de OpenAI, a la hora de proporcionar información precisa sobre medicamentos. Una investigación realizada por farmacéuticos de la Facultad de Farmacia de la Universidad de Long Island revela que las respuestas de ChatGPT a preguntas sobre medicamentos suelen ser inexactas o incompletas. Los hallazgos subrayan la necesidad de precaución entre los pacientes y los profesionales sanitarios que utilizan ChatGPT para obtener información farmacéutica.

El estudio consistió en plantear 39 preguntas relacionadas con medicamentos a ChatGPT, de las cuales solo 10 recibieron respuestas satisfactorias. Las 29 preguntas restantes fueron incorrectamente respondidas, incompletas o ambas. Esta inconsistencia en las respuestas pone de manifiesto una deficiencia significativa en la capacidad del chatbot para proporcionar información fiable sobre medicamentos.

Insuficiencia en la atención de consultas farmacéuticas

El equipo de investigación, dirigido por Sara Grossman, evaluó el rendimiento de ChatGPT comparando sus respuestas con las de farmacéuticos que respondieron al mismo conjunto de preguntas. Las preguntas fueron consultas reales recibidas por el servicio de información sobre medicamentos de la Facultad de Farmacia de la Universidad de Long Island entre enero de 2022 y abril de 2023. De las 45 preguntas iniciales, se excluyeron seis por falta de respuestas basadas en la literatura.

ChatGPT no respondió directamente a 11 preguntas, proporcionó respuestas inexactas a 10 y dio respuestas incorrectas o incompletas a otras 12. Los investigadores también observaron que, al ser consultado, ChatGPT solo proporcionó referencias en ocho respuestas, todas las cuales citaban fuentes inexistentes. Esto genera inquietud sobre los procesos de referencia y verificación del chatbot.

Un caso particularmente alarmante fue la afirmación incorrecta de ChatGPT de que no existe interacción farmacológica entre el antiviral Paxlovid y el antihipertensivo Verapamilo. En realidad, la combinación de estos fármacos puede provocar una disminución excesiva de la presión arterial, lo que supone un grave riesgo para la salud. Este error es especialmente preocupante, ya que muchos usuarios podrían desconocer las limitaciones de datos de ChatGPT, lo que podría tener consecuencias perjudiciales.

Implicaciones para la IA en la atención sanitaria

Los hallazgos del estudio son cruciales en el contexto de la popularidad y el uso generalizado de ChatGPT. Lanzada en 2022, ChatGPT se convirtió rápidamente en una de las aplicaciones de internet para consumidores de mayor crecimiento, con cerca de 1700 millones de visitas a nivel mundial solo en octubre. Sin embargo, su versión gratuita está limitada a los datos disponibles hasta septiembre de 2021, lo que la deja potencialmente desfasada de los últimos avances e innovaciones médicas.

Si bien la versión de pago de ChatGPT ahora incluye funciones de navegación web en tiempo real, el estudio se centró principalmente en la versión gratuita para reflejar la experiencia de la población general. Los investigadores enfatizan la importancia de verificar las respuestas de ChatGPT con profesionales de la salud o fuentes médicas confiables.

Este estudio sirve como un recordatorio crucial de las limitaciones de la IA en áreas sensibles como la atención médica. Si bien tecnologías de IA como ChatGPT ofrecen ventajas significativas en términos de accesibilidad y conveniencia, su estado actual exige un análisis minucioso, especialmente en lo que respecta a la salud y el bienestar. Se recomienda a los usuarios que traten la información de estas fuentes con precaución y consulten siempre a profesionales de la salud cualificados para obtener asesoramiento médico.

El estudio de la Facultad de Farmacia de la Universidad de Long Island sirve como una importante llamada de atención sobre las limitaciones de la IA en la atención médica, en particular a la hora de proporcionar información precisa sobre medicamentos. A medida que la IA continúa integrándose en diversos aspectos de nuestra vida, es fundamental ser conscientes de sus limitaciones y abordar su uso, especialmente en áreas críticas como la atención médica, con cautela.