Investigadores desarrollan una guía inclusiva para chatbots de IA en el sector sanitario

Científicos de la Universidad de Westminster han establecido un proyecto pionero cuyo objetivo principal es el desarrollo de una guía de usuario completa para desarrolladores de chatbots de IA en sanitarios .

La guía pretende ser imparcial y tener en cuenta la diversidad, implementando un plan que garantiza que todas las etapas del proceso de diseño prioricen las necesidades de los diversos pacientes. El enfoque integrado adopta medidas preventivas para evitar que las desigualdades en salud se agraven. Además, el enfoque es calculador y, con toda probabilidad, las reducirá a largo plazo.

Colaboración en IA y participación comunitaria

La investigación, realizada por el Instituto Kinsey, la Universidad de Sussex y la organización benéfica contra el VIH Positive East, está financiada por el Laboratorio de IA del NHS y la Fundación de la Salud. El equipo de investigación evaluó las directrices formuladas para crear herramientas de IA conversacional en entornos sanitarios, el NHS y la OMS, entre otros recursos. Descubrieron que no se proporcionaban datos regulares y actualizados para la toma de decisiones, y que el diseño y la implementación no eran adecuados para las personas de comunidades subrepresentadas.

En este sentido, estos profesionales debían elaborar un plan exhaustivo que detallara cómo desarrollar chatbots de salud de forma inclusiva para los desarrolladores. Lideran la postura de que el género, la etnia y la sexualidad deben ser temas de participación igualitaria con los hombres en todos los aspectos de la toma de decisiones, el diseño, el mantenimiento y la finalización. El objetivo principal es lograr una mayor inclusión, aceptabilidad y participación, y brindar a más personas la oportunidad de superar las desigualdades sociales en materia de salud.

Desarrollo ético de IA

El Dr. Tomasz Nadarzynczki, investigador principal del estudio en la Universidad de Westminster, habló de un cambio en la forma en que se diseña la IA. Afirma que el desarrollo de herramientas de IA no debería limitarse a mejorar su eficacia operativa y eliminar riesgos. Añade que los investigadores comprenden perfectamente esta necesidad y están en condiciones de aprovechar las ventajas de la IA para el bien común y, en última instancia, centrarse en cuestiones críticas como las desigualdades en salud.

Añade que, para lograr esta nueva visión, necesitamos un cambio integral en la forma en que se crean las herramientas de IA: una herramienta que priorice la colaboración con diversas comunidades tanto al crear el algoritmo como cuando esté listo para implementarlo. Adoptar una visión inclusiva de este tipo es lo que puede contribuir a superar los sesgos, generar confianza y maximizar la influencia positiva que la IA puede ejercer en las poblaciones desfavorecidas.

Esta investigación contribuye directamente al Objetivo de Desarrollo Sostenible (ODS) 3 de las Naciones Unidas: El Código para la Salud y el Bienestar, la Igualdad de Género y las Alianzas para el Adelanto de Todos. En la Universidad de Westminster, desde 2019, los ODS se han aplicado con un enfoque holístico para orientar las decisiones estratégicas y ayudar adenty colegas a destacar y contribuir a un mundo más sostenible, equitativo y con mejor salud.

Esta interesante investigación promueve la inclusión en todos los ámbitos e incorpora la participación comunitaria en el desarrollo de chatbots de IA para entornos sanitarios. Abre las puertas a un futuro equitativo y de fácil acceso para la tecnología sanitaria.