L'IA peut-elle devenir impartiale dans le secteur de la santé ? Les chercheurs peinent à trouver une réponse

Chaque patient, indépendamment de ses caractéristiques physiques et de son identité, devrait avoir accès à de bons soins de santé. Cependant, certaines personnes ou certains groupes ont souvent été privés d'équité dans le système de santé en raison de problèmes d'inégalités et de biais implicites dans le traitement et le diagnostic médicaux. 

Les modèles d'IA dans le secteur de la santé sont biaisés

Un groupe de chercheurs du Massachusetts Institute of Technology (MIT) a désormais découvert que l'intelligence artificielle et l'apprentissage automatique ont tendance à exacerber les disparités et les inégalités en matière de santé parmi les sous-groupes, souvent sous-représentés. Cela peut affecter la manière dont ces groupes sont diagnostiqués et traités. 

Dirigés par la professeure adjointe Marzyeh Ghassemi du département de génie électrique et informatique (EECS) du MIT, les chercheurs ont publié un article de recherche analysant les racines des disparités qui peuvent survenir dans l'IA, faisant en sorte que les modèles performants globalement peinent lorsqu'il s'agit de sous-groupes sous-représentés.

L'analyse s'est concentrée sur les « décalages de sous-population », définis dans le rapport comme les « différences dans la façon dont les modèles d'apprentissage automatique performants pour un sous-groupe par rapport à un autre ». L'objectif principal était de déterminer les types de décalages de sous-population qui peuvent survenir avec les techniques d'IA et potentiellement informer les avancées futures pour des modèles plus équitables. 

« Nous voulons que les modèles soient équitables et fonctionnent aussi bien pour tous les groupes, mais au lieu de cela, nous observons systématiquement la présence de décalages entre différents groupes qui peuvent conduire à un diagnostic et un traitement médicaux inférieurs », déclare Yuzhe Yang, doctorante au MIT.

Les chercheurs identifient les 4décalages⟦/N1⟧ qui alimentent les biais dans les modèles d'IA

Les chercheurs du MIT ont identifié quatre types de décalages – corrélations spurieuses, déséquilibre des attributs, déséquilibre des classes et généralisation des attributs – qui causent des inégalités et des biais dans les techniques d'IA.

« Les biais peuvent, en fait, provenir de ce que les chercheurs appellent la classe, ou de l'attribut, ou des deux », indique le rapport. 

Les chercheurs ont donné un exemple où des modèles d'apprentissage automatique ont été utilisés pour déterminer si une personne souffre ou non de pneumonie sur la base d'un examen d'images radiographiques, avec deux attributs – les personnes radiographiées sont soit féminines, soit masculines – et deux classes – l'une composée de personnes atteintes de la maladie pulmonaire, et l'autre indemne d'infection.

« Si, dans cet ensemble de données particulier, il y avait 100 hommes diagnostiqués avec une pneumonie pour chaque femme diagnostiquée avec une pneumonie, cela pourrait entraîner un déséquilibre des attributs, et le modèle serait probablement plus performant pour détecter correctement la pneumonie chez un homme que chez une femme », a expliqué l'équipe.

Les modèles d'IA peuvent-ils fonctionner de manière impartiale ?

Les chercheurs du MIT ont déclaré qu'ils étaient capables de réduire la survenue de corrélations spurieuses, de déséquilibre des classes et de déséquilibre des attributs en améliorant le « classifieur » et l'« encodeur ». Cependant, l'autre décalage, la « généralisation des attributs », a persisté. 

« Peu importe ce que nous avons fait à l'encodeur ou au classifieur, nous n'avons vu aucune amélioration en termes de généralisation des attributs », dit Yang, « et nous ne savons pas encore comment y remédier. »

L'équipe explore actuellement des ensembles de données publics contenant des dizaines de milliers de patients et de radiographies pulmonaires pour déterminer si les professionnels de la santé peuvent atteindre l'équité dans le diagnostic et le traitement médicaux dans les modèles d'apprentissage automatique.

Cependant, ils ont reconnu qu'il existe toujours un besoin de mieux comprendre les sources d'injustice et la manière dont elles imprègnent notre système actuel pour parvenir à l'équité souhaitée.