Los investigadores desarrollan una guía inclusiva para chatbots de IA en el sector sanitario

Científicos de la Universidad de Westminster han establecido un proyecto pionero cuyo objetivo principal es el desarrollo de una guía de usuario integral para desarrolladores de chatbots de IA en entornos de salud.

La guía está destinada a ser imparcial y tener en cuenta la diversidad mediante la implementación de un plan que garantice que todas las etapas del proceso de diseño tengan en cuenta las necesidades de diversos pacientes. El enfoque integrado toma medidas preventivas para asegurar que las desigualdades en salud no se agraven aún más. Además, el enfoque es calculado y lo más probable es que las reduzca a largo plazo.

Colaboración de IA e implicación comunitaria

La investigación, realizada a través del Instituto Kinsey, la Universidad de Sussex y la organización benéfica del VIH Positive East, está financiada por NHS AI Lab y The Health Foundation. El equipo de investigación evaluó las directrices que se han formulado para crear herramientas de IA conversacional en entornos sanitarios, NHS y OMS, entre otros recursos. Descubrieron en su investigación que nadie recibía datos regulares y actualizados para la toma de decisiones, y tampoco se estaba realizando el diseño o la implementación adecuados para las personas de comunidades subrepresentadas.

En este sentido, estos profesionales debían elaborar un plan exhaustivo que comprendiera los detalles de la forma en que los chatbots de salud se desarrollarían de manera inclusiva para los desarrolladores. Defienden la postura de que el género, la etnia y la sexualidad deben ser motivo de participación equitativa con los hombres en todos los aspectos de la toma de decisiones, el diseño, el mantenimiento y la finalización. El objetivo principal es lograr una mayor inclusividad, aceptabilidad y participación, y dar a más personas la oportunidad de superar las desigualdades sociales en salud.

Desarrollo ético de la IA

El Dr. Tomasz Nadarzynczki, investigador principal de la investigación en la Universidad de Westminster, habló sobre un cambio en las formas en que se diseña la IA. Afirma que el desarrollo de herramientas de IA no debería significar solo desarrollar su eficacia operativa y eliminar el riesgo. Añade que los investigadores entienden completamente esto y están en condiciones de aprovechar las ventajas de la ‘IA para el bien’ y centrarse finalmente en los problemas críticos, como las desigualdades en salud.

Añade que, para lograr esta nueva visión, necesitamos un cambio general en la forma en que se crean las herramientas de IA, un número que enfatiza la colaboración con diversas comunidades al crear el algoritmo y solo cuando estás listo para implementarlo. Ser inclusivo de esta manera es lo que puede lograr superar los sesgos, ganar confianza y maximizar el nivel de influencia positiva que la IA puede aportar a las poblaciones desfavorecidas.

Esta investigación contribuye directamente a los Objetivos de Desarrollo Sostenible (ODS) de las Naciones Unidas 3: El Código para la Buena Salud y el Bienestar, la Igualdad de Género y las Alianzas para el Avance de Todos. En la Universidad de Westminster, desde 2019, los ODS se han utilizado en un enfoque holístico para dirigir las decisiones estratégicas que ayuden a los estudiantes y colegas a destacar y contribuir a un mundo más sostenible, equitativo y con mejor salud.

Esta interesante investigación exalta la inclusividad de todo tipo e incorpora la implicación comunitaria en el desarrollo de chatbots de IA para entornos sanitarios. Abre el camino hacia un futuro equitativo y de fácil acceso para la tecnología sanitaria.