Biais de l'IA : Comment la technologie reflète et renforce les préjugés

Les avancées en intelligence artificielle (IA) ont apporté de nombreux avantages, mais elles révèlent également un problème persistant : les biais. Des études et des enquêtes ont montré que les systèmes d'IA, y compris les populaires comme ChatGPT, présentent des biais qui reflètent les préjugés sociétaux, des biais de genre dans la génération de langage aux stéréotypes raciaux et de genre dans la génération d'images.

Le dilemme Palestine-Israël : un cas de biais de l'IA

Lors d'une rencontre récente avec ChatGPT d'OpenAI, l'académique palestinien Nadi Abusaada a été consterné par les réponses différentes à une question simple : « Les Israéliens et les Palestiniens méritent-ils d'être libres ? » Alors qu'OpenAI a déclaré sans équivoque que la liberté est un droit humain fondamental pour Israël, il a présenté la question de la justice pour la Palestine comme « complexe et très débattue ». Ce contraste marqué reflète les biais présents dans les systèmes d'IA.

La réaction d'Abusaada met en lumière un problème de longue date auquel sont confrontés les Palestiniens dans le discours occidental et les médias grand public : la désinformation et les biais. Ce n'est pas un incident isolé, mais un symptôme des défis plus larges entourant la neutralité de l'IA.

Biais de genre dans le texte généré par l'IA : un modèle inquiétant

Une étude comparant les chatbots IA ChatGPT et Alpaca a révélé des biais de genre dans le texte généré. Lorsqu'on leur a demandé d'écrire des lettres de recommandation pour des employés hypothétiques, les deux systèmes IA ont affiché un biais de genre clair. ChatGPT a utilisé des termes comme « expert » et « intégrité » pour les hommes, mais a qualifié les femmes de « beauté » ou « délice ». Alpaca a eu des problèmes similaires, associant les hommes à « auditeurs » et « penseurs » tout en étiquetant les femmes avec des termes comme « grâce » et « beauté ».

Ces résultats soulignent la présence de biais genrés profondément enracinés au sein de l'IA, reflétant et perpétuant les stéréotypes sociétaux. Ils soulèvent des questions sur le rôle de l'IA dans le renforcement de normes genrées nuisibles.

Images générées par l'IA : Renforcement des stéréotypes raciaux et genrés

Bloomberg Graphics a enquêté sur les biais de l'IA en utilisant la conversion texte-image avec Stable Diffusion, une plateforme d'IA open source. Les résultats étaient alarmants, le système d'IA exacerbant les stéréotypes de genre et raciaux, dépassant ceux observés dans le monde réel. Lorsqu'on lui demandait des termes comme « PDG » ou « prisonnier », les images générées présentaient systématiquement des biais.

L'enquête a révélé une sous-représentation des femmes et des personnes à la peau plus foncée dans les images liées aux emplois bien rémunérés, tandis qu'une surreprésentation était observée dans les images liées aux emplois peu rémunérés. Dans les recherches liées à la criminalité, l'IA générait de manière disproportionnée des images de personnes à la peau plus foncée, malgré une population carcérale plus diversifiée dans la réalité.

Ces résultats démontrent que les algorithmes d'IA, alimentés par des données d'entraînement biaisées et des tendances programmées par les humains, renforcent les préjugés sociétaux au lieu de les atténuer.

Révéler les racines des biais de l'IA

Les biais dans les systèmes d'IA peuvent être retracés jusqu'à leur processus d'apprentissage, qui repose sur des exemples et des données d'entrée. Les humains jouent un rôle pivotal dans la formation du comportement de l'IA, intentionnellement ou non, en fournissant des données qui peuvent être biaisées ou stéréotypées. L'IA apprend ensuite et reflète ces biais dans ses résultats.

Reid Blackman, expert en éthique numérique, a cité le cas du logiciel de lecture de CV d'Amazon basé sur l'IA, qui a appris à rejeter involontairement tous les CV féminins. Cet exemple met en lumière comment l'IA peut perpétuer involontairement la discrimination si elle apprend à partir d'exemples biaisés.

Lutter contre les biais de l'IA nécessite un examen complet des données, des algorithmes d'apprentissage automatique et d'autres composants des systèmes d'IA. Une étape cruciale consiste à évaluer les données d'entraînement pour détecter les biais, en veillant à ce que les groupes surreprésentés ou sous-représentés soient correctement pris en compte.

Passer à l'action contre les biais dans l'IA

Le rapport d'IBM souligne la nécessité d'examiner attentivement les ensembles de données pour détecter les biais, en particulier dans les algorithmes de reconnaissance faciale, où la surreprésentation de certains groupes peut entraîner des erreurs. Identifier et corriger ces biais est essentiel pour garantir l'équité et la précision des systèmes d'IA.

Le problème ne se limite pas au texte généré par l'IA, mais s'étend aux systèmes de personnalisation algorithmique. Ces systèmes, comme on peut le voir dans la plateforme publicitaire de Google, peuvent perpétuer les biais de genre en apprenant du comportement des utilisateurs. À mesure que les utilisateurs cliquent ou effectuent des recherches de manière reflétant les biais sociétaux, les algorithmes apprennent à générer des résultats et des publicités qui renforcent ces biais.

Bien que l'IA ait fait des progrès significatifs dans divers domaines, les biais restent un défi de taille. Les systèmes d'IA reflètent et perpétuent les préjugés sociétaux, des biais de genre dans la génération de langage aux stéréotypes raciaux et genrés dans la génération d'images. Lutter contre les biais de l'IA nécessite une approche multifacette impliquant un examen attentif des données et des ajustements algorithmiques. Ce n'est qu'à travers ces efforts que l'IA pourra véritablement servir d'outil neutre et impartial au profit de tous.