¿Puede la IA volverse imparcial en la atención médica? Los investigadores luchan por encontrar una respuesta

Cada paciente, independientemente de sus características físicas e identidades, debería tener acceso a una buena atención médica. Sin embargo, ciertas personas o grupos a menudo han sido privados de la equidad en el sistema de atención médica debido al problema de inequidades y sesgos implícitos en el tratamiento y diagnóstico médicos. 

Los modelos de IA en la atención médica están sesgados

Un grupo de investigadores del Instituto de Tecnología de Massachusetts (MIT) ha descubierto ahora que la inteligencia artificial y el aprendizaje automático tienen la tendencia de avivar aún más las disparidades y inequidades en la atención médica entre subgrupos, a menudo infrarrepresentados. Esto puede afectar cómo se diagnostican y tratan estos grupos. 

Dirigidos por la profesora asistente del Departamento de Ciencias e Ingeniería Eléctrica (EECS) del MIT, Marzyeh Ghassemi, los investigadores publicaron un artículo de investigación que analiza las raíces de las desigualdades que pueden surgir en la IA, haciendo que los modelos que funcionan bien en general fallen cuando se trata de subgrupos infrarrepresentados.

El análisis se centró en los «cambios de subpoblación», que el informe definió como «las diferencias en la forma en que los modelos de aprendizaje automático funcionan para un subgrupo en comparación con otro». El objetivo principal era determinar los tipos de cambios de subpoblación que pueden ocurrir con las técnicas de IA y potencialmente informar los avances futuros para modelos más equitativos. 

«Queremos que los modelos sean justos y funcionen igual de bien para todos los grupos, pero en cambio, observamos consistentemente la presencia de cambios entre diferentes grupos que pueden llevar a un diagnóstico y tratamiento médico inferiores», dice el estudiante de doctorado del MIT, Yuzhe Yang.

Los investigadores identifican 4 cambios que avivan los sesgos en los modelos de IA

Los investigadores del MIT identificaron cuatro tipos de cambios: correlaciones espurias, desequilibrio de atributos, desequilibrio de clases y generalización de atributos, que causan inequidades y sesgos en las técnicas de IA.

«Los sesgos pueden, de hecho, provenir de lo que los investigadores llaman la clase, o del atributo, o de ambos», dice el informe. 

Los investigadores dieron un ejemplo donde los modelos de aprendizaje automático se utilizaron para determinar si una persona tiene neumonía o no basándose en un examen de imágenes de rayos X, con dos atributos: las personas que se hacen la radiografía son femeninas o masculinas, y dos clases: una que consiste en personas que tienen la afección pulmonar y otra libre de infección.

«Si, en este conjunto de datos particular, hubiera 100 hombres diagnosticados con neumonía por cada mujer diagnosticada con neumonía, eso podría llevar a un desequilibrio de atributos, y el modelo probablemente haría un mejor trabajo detectando correctamente la neumonía en un hombre que en una mujer», explicó el equipo.

¿Pueden los modelos de IA funcionar de manera imparcial?

Los investigadores del MIT dijeron que pudieron reducir la ocurrencia de correlaciones espurias, desequilibrio de clases y desequilibrio de atributos mejorando el «clasificador» y el «codificador». Sin embargo, el otro cambio, «generalización de atributos», persistió. 

«No importa lo que hicimos con el codificador o el clasificador, no vimos ninguna mejora en términos de generalización de atributos», dice Yang, «y aún no sabemos cómo abordar eso».

El equipo está explorando actualmente conjuntos de datos públicos para decenas de miles de pacientes y radiografías de tórax para determinar si los profesionales de la salud pueden lograr la equidad en el diagnóstico y tratamiento médico en los modelos de aprendizaje automático.

Sin embargo, reconocieron que aún existe la necesidad de una mejor comprensión de las fuentes de injusticia y de cómo permean nuestro sistema actual para llegar a la equidad deseada.