Un récent rapport de l'UNESCO a mis en lumière les préjugés sexistes persistants perpétrés par les modèles contemporains d'intelligence artificielle ( IA ). Malgré les efforts continus pour atténuer les préjugés, l’étude a révélé que les systèmes d’IA, y compris les grands modèles linguistiques (LLM), sont susceptibles d’amplifier les préjugés sociétaux, notamment en matière de genre.
Préjugés sexistes dans les modèles d'IA
Le rapport révèle que les LLM populaires génèrent souvent des contenus sexistes et misogynes, reflétant des préjugés sociétaux. Par exemple, lorsqu'il était invité à prononcer des phrases mentionnant le genre et l' dent sexuelle, le modèle open source Llama 2 de Meta produisait des résultats contenant un langage sexiste ou misogyne dans 20 % des cas. Même si certains modèles d’IA, comme ChatGPT, présentaient un meilleur comportement, des biais étaient toujours présents même après un réglage fin.
L'UNESCO a averti que si rien n'était fait, les biais algorithmiques pourraient s'ancrer plus profondément dans des secteurs critiques tels que la santé et la finance. Des algorithmes d’IA biaisés pourraient exacerber les disparités entre les sexes existantes dans ces domaines, entravant ainsi les efforts visant à parvenir à l’égalité des sexes.
L’une des préoccupations majeures soulignées dans le rapport est l’impact des données médicales biaisées sur les systèmes de santé basés sur l’IA. Les pratiques de collecte de données ont historiquement favorisé les sujets masculins, entraînant des écarts entre les sexes dans les données de formation à l’IA. Ce biais a des conséquences tangibles, comme le démontre une étude sur les outils d'IA utilisés pour dépister les maladies du foie, qui a manqué 44 % des cas chez les femmes en raison de données d'entraînement biaisées et biaisées en faveur des hommes.
Remédier au déséquilibre
Sandy Carter, COO d'Unstoppable Domains, a souligné l'importance de combler l'écart entre les sexes dans les données de formation à l'IA. Elle a plaidé pour une transparence accrue des données afin de mettre en évidence les inégalités entre les sexes et a proposé de nouvelles approches telles que le crowdsourcing de données sur la santé des femmes ou la génération de données synthétiques pour atténuer les écarts.
Carter a souligné la nécessité d'une représentation équitable dans les données de formation pour développer des systèmes d'IA équitables. En incorporant diverses sources de données et en faisant preuve de transparence dans les pratiques de collecte de données, les développeurs peuvent s'efforcer de minimiser les biais dans les modèles d'IA.
Le rapport de l’UNESCO rappelle brutalement le défi permanent posé par les préjugés sexistes dans l’IA. Pour créer d’IA qui servent équitablement tous les utilisateurs, des efforts concertés sont nécessaires pour lutter contre les préjugés à chaque étape du développement, de la collecte de données au déploiement du modèle.
En sensibilisant à ces questions et en plaidant pour des pratiques inclusives, les parties prenantes peuvent œuvrer à la réalisation du potentiel de l’IA pour faire progresser l’égalité des sexes dans les soins de santé et au-delà. Ce n’est que grâce à une action collaborative et à un engagement en faveur de l’équité que les promesses de la technologie de l’IA pourront être pleinement réalisées pour tous les individus, quel que soit leur sexe.
