La OMS presenta el chatbot de inteligencia artificial SARAH a pesar de sus defectos

La Organización Mundial de la Salud (OMS) ha creado una IA integrada por un chatbot llamado SARAH. La misión de SARAH es facilitar el acceso a la información sobre salud global. Mencionamos su enfoque innovador. Sin embargo, aún logra generar información médica falsa esencial.

La innovación tecnológica se une a la educación para la salud

Como reflejo de los esfuerzos de la OMS por esta causa, SETHARA es el acrónimo de Asistente Inteligente de Recursos de IA para la Salud. Representa la herramienta digital de salud más avanzada que utiliza la institución. Desarrollada para satisfacer las necesidades de atención en cualquier momento y lugar, SARAH ofrece información en ocho idiomas, incluyendo información sobre salud mental y opciones de vida. 

Esta es una de las acciones que forman parte de la estrategia de la OMS para integrar la tecnología en la educación en salud pública y cerrar la brecha mundial en la cobertura sanitaria. Sin embargo, la OMS admitió que el embrión presenta debilidades a pesar de ser el prototipo histórico. Hasta ahora, los programadores lo han adaptado para que se ajuste al mandato de la OMS y ofrece información sobre cómo encontrar ayuda profesional para temas específicos. El bot no puede proporcionar este servicio de forma continua y no es comparable con herramientas como WebMD.

Desafíos en la precisión y seguridad de la IA

SARAH no ha tenido solo caminos fáciles desde su implementación. El chatbot de IA se basa en el modelo ChatGPT 3.5 de OpenAI; ha tenido problemas al proporcionar información desactualizada, así como algunas respuestas incorrectas. Un ejemplo de esto es la mención incorrecta del estado de aprobación de un nuevo fármaco para el Alzheimer, lo que refleja la falta de datos de entrenamiento continuo, que solo incluían datos desde septiembre de 2021.

Otro problema que SARAH experimenta con frecuencia es la presentación de respuestas que pueden estar fuera de su tema o propósito. El problema conocido en el desarrollo de la IA es la referencia a alucinaciones. En resumen, estas inexactitudes podrían aumentar el riesgo de desinformación pública. Por lo tanto, la Organización Mundial de la Salud (OMS) busca recabar la opinión de investigadores y organismos gubernamentales para mejorar la resiliencia, especialmente en emergencias de salud pública.

Esto también conlleva temores sobre el uso de la IA por parte del personal sanitario. SORAH aplica técnicas de reconocimiento facial para detectar y deducir las emociones de los usuarios. Prometen evitar mostrar sus rostros al brindar protección y privacidad de datos. El modelo de perpetuidad de código abierto también se caracteriza por una mayor exposición a ciberataques contra la base de la IA.

Direcciones futuras y consideraciones éticas

La OMS sigue manteniendo el sistema SARAH y pronto se incorporarán actualizaciones, como la incorporación de la apariencia cambiante del avatar y las capacidades interactivas. De hecho, la OMS anunció principios éticos para sus partes interesadas y planteó los conceptos de transparencia de datos y seguridad del usuario. SARAH, una tecnología basada en inteligencia artificial, ha alcanzado un nuevo nivel de diseño, ya que la OMS se muestra reticente a integrar la IA en la difusión de mensajes de salud. Sin embargo, la tecnología presenta varias debilidades que la organización señala rápidamente. 

La organización deja claro que SARAH no es un transformador de los servicios médicos, lo cual no es su propósito, sino una herramienta de apoyo para difundir la concienciación y la educación en salud pública a nivel mundial. A pesar de algunos obstáculos, la iniciativa de la OMS demuestra un avance significativo en el uso de la inteligencia artificial en la educación para la salud, ya que se dirigirá a un público más amplio y contribuirá a que la información sanitaria esté más disponible a nivel mundial.