- Le rapport de l'UNESCO montre que l'IA présente toujours un biais de genre, en particulier dans les secteurs de la santé et de la finance.
- Les modèles d'IA produisent souvent du contenu sexiste, ce qui nuit aux efforts visant à promouvoir l'égalité entre les genres.
- Nous avons besoin de données diversifiées et de pratiques transparentes dans le développement de l'IA pour corriger ces biais.
Un récent rapport de l’UNESCO a mis en lumière le biais de genre persistant perpétué par les modèles d’Intelligence Artificielle (IA) contemporains. Malgré les efforts continus pour atténuer les préjugés, l’étude a révélé que les systèmes d’IA, y compris les grands modèles de langage (LLM), sont sujets à amplifier les biais sociétaux, en particulier autour du genre.
Biais de genre dans les modèles d’IA
Le rapport a révélé que les LLM populaires génèrent souvent du contenu sexiste et misogyne, reflétant les préjugés sociétaux. Par exemple, lorsqu’on lui a soumis des phrases mentionnant le genre et l’identité sexuelle, le modèle Llama 2 open source de Meta a produit des sorties contenant un langage sexiste ou misogyne dans 20 % des cas. Bien que certains modèles d’IA, comme ChatGPT, aient montré un meilleur comportement, des biais étaient toujours présents même après le réglage fin.
L’UNESCO a averti que, s’il n’est pas traité, le biais algorithmique pourrait s’ancrer plus profondément dans des secteurs critiques tels que la santé et la finance. Les algorithmes d’IA biaisés pourraient exacerber les disparités de genre existantes dans ces domaines, entravant les efforts pour atteindre l’égalité des genres.
L’une des préoccupations majeures soulignées dans le rapport est l’impact des données médicales biaisées sur les systèmes de santé alimentés par l’IA. Les pratiques de collecte de données ont historiquement favorisé les sujets masculins, conduisant à des écarts de genre dans les données d’entraînement de l’IA. Ce biais a des conséquences tangibles, comme l’a démontré une étude sur les outils d’IA utilisés pour le dépistage de la maladie du foie, qui a manqué 44 % des cas chez les femmes en raison de données d’entraînement biaisées orientées vers les hommes.
Remédier au déséquilibre
Sandy Carter, COO de Unstoppable Domains, a souligné l’importance de combler l’écart de genre dans les données d’entraînement de l’IA. Elle a plaidé pour une plus grande transparence des données pour mettre en évidence les distorsions de genre et a proposé des approches novatrices telles que la collecte de données de santé des femmes par crowdsourcing ou la génération de données synthétiques pour atténuer les écarts.
Carter a souligné la nécessité d’une représentation équitable dans les données d’entraînement pour développer des systèmes d’IA équitables. En intégrant des sources de données diverses et en adoptant la transparence dans les pratiques de collecte de données, les développeurs peuvent travailler à minimiser les biais dans les modèles d’IA.
Le rapport de l’UNESCO sert de rappel frappant du défi continu posé par le biais de genre dans l’IA. Pour construire des systèmes IA qui servent tous les utilisateurs de manière équitable, des efforts concertés sont nécessaires pour adresser les biais à chaque étape du développement, de la collecte de données au déploiement des modèles.
En sensibilisant aux problèmes et en plaidant pour des pratiques inclusives, les parties prenantes peuvent travailler à réaliser le potentiel de l’IA pour faire progresser l’égalité des genres dans la santé et au-delà. Ce n’est que par une action collaborative et un engagement envers l’équité que la promesse de la technologie IA peut être pleinement réalisée pour tous les individus, quel que soit leur genre.
Si vous lisez ceci, vous êtes déjà en avance. Restez ainsi grâce à notre newsletter.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
James Kinoti
Passionné de crypto, James prend plaisir à partager ses connaissances sur la fintech, la cryptomonnaie ainsi que la blockchain et les technologies de pointe. Les dernières innovations dans l'industrie crypto, les jeux cryptos, l'IA, la technologie blockchain et d'autres technologies occupent ses pensées. Sa mission : rester à la page des applications transformatrices dans divers secteurs.
