Un Estudio de Precaución Revela las Limitaciones de ChatGPT para Proporcionar Información Precisa sobre Medicamentos
- El estudio encuentra que ChatGPT a menudo es impreciso en la información sobre medicamentos; se recomienda precaución.
- Los farmacéuticos advierten que los consejos médicos de ChatGPT carecen de fiabilidad.
- IA en el ámbito sanitario: un estudio destaca las lagunas de conocimiento de ChatGPT.
Un estudio reciente ha generado preocupaciones sobre la fiabilidad de la versión gratuita de ChatGPT, el popular chatbot de OpenAI, para proporcionar información precisa sobre medicamentos. La investigación realizada por farmacéuticos en la Facultad de Farmacia de la Universidad de Long Island revela que las respuestas de ChatGPT a preguntas relacionadas con medicamentos a menudo son inexactas o incompletas. Los hallazgos subrayan la necesidad de precaución entre los pacientes y los profesionales de la salud que confían en ChatGPT para obtener información farmacéutica.
El estudio implicó plantear 39 preguntas relacionadas con medicamentos a ChatGPT, de las cuales solo 10 recibieron respuestas satisfactorias. Las 29 preguntas restantes fueron abordadas de manera inexacta, incompletas o ambas. Esta inconsistencia en las respuestas destaca una brecha significativa en la capacidad del chatbot para proporcionar información confiable sobre medicamentos.
Inadecuación para abordar consultas farmacéuticas
El equipo de investigación, liderado por Sara Grossman, evaluó el rendimiento de ChatGPT comparando sus respuestas con las de farmacéuticos que respondieron al mismo conjunto de preguntas. Las preguntas eran consultas reales recibidas por el servicio de información de medicamentos de la Facultad de Farmacia de la Universidad de Long Island entre enero de 2022 y abril de 2023. De las 45 preguntas iniciales, seis fueron excluidas debido a la falta de respuestas basadas en la literatura.
ChatGPT no logró abordar directamente 11 preguntas, proporcionó respuestas inexactas a 10 y dio respuestas incorrectas o incompletas a otras 12. Los investigadores también notaron que ChatGPT, cuando se le preguntó, proporcionó referencias en solo ocho respuestas, todas las cuales citaban fuentes inexistentes. Esto genera preocupaciones sobre los procesos de referencia y verificación del chatbot.
Un caso particularmente alarmante fue la afirmación incorrecta de ChatGPT de que no existe interacción entre el fármaco antiviral Paxlovid y el fármaco antihipertensivo Verapamil. En realidad, combinar estos medicamentos puede provocar una bajada excesiva de la presión arterial, lo que supone un grave riesgo para la salud. Este error es especialmente preocupante dado que muchos usuarios pueden no ser conscientes de las limitaciones de datos de ChatGPT, lo que podría tener consecuencias perjudiciales.
Implicaciones de la IA en la atención sanitaria
Los hallazgos del estudio son críticos en el contexto de la popularidad y el uso generalizado de ChatGPT. Lanzado en 2022, ChatGPT se convirtió rápidamente en una de las aplicaciones de internet de consumo de más rápido crecimiento, atrayendo alrededor de 1.700 millones de visitas a nivel mundial solo en octubre. Sin embargo, su versión gratuita está limitada a los datos disponibles hasta septiembre de 2021, lo que podría dejarla desconectada de los recientes avances e innovaciones médicas.
Aunque la versión de pago de ChatGPT ahora incluye capacidades de navegación en internet en tiempo real, el estudio se centró principalmente en la versión gratuita para reflejar la experiencia de la población general. Los investigadores enfatizan la importancia de verificar las respuestas de ChatGPT con profesionales de la salud de confianza o fuentes médicas fiables.
Este estudio sirve como un recordatorio crucial de las limitaciones de la IA en áreas sensibles como la atención sanitaria. Aunque tecnologías de IA como ChatGPT ofrecen ventajas significativas en términos de accesibilidad y conveniencia, su estado actual exige un escrutinio cuidadoso, especialmente cuando se trata de asuntos de salud y bienestar. Se recomienda a los usuarios que traten la información de estas fuentes con cautela y que siempre consulten a profesionales de la salud cualificados para obtener asesoramiento médico.
El estudio realizado por la Facultad de Farmacia de la Universidad de Long Island sirve como una llamada de atención crítica sobre las limitaciones de la IA en la atención sanitaria, particularmente en la prestación de información precisa sobre medicamentos. A medida que la IA continúa integrándose en diversos aspectos de nuestras vidas, es esencial ser consciente de sus limitaciones y abordar su uso, especialmente en áreas críticas como la atención sanitaria, con una cautela informada.
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Glory Kaburu
Glory es una periodista extremadamente experta con herramientas e investigación sobre IA. Está apasionada por la inteligencia artificial y ha escrito varios artículos sobre el tema. Se mantiene al día con los últimos avances en Inteligencia Artificial, Aprendizaje Automático y Aprendizaje Profundo, y escribe regularmente sobre ellos.
