Biais de l'IA : comment la technologie reflète et renforce les préjugés

Les progrès de l'intelligence artificielle (IA) ont apporté de nombreux avantages, mais ils révèlent aussi un problème persistant : les biais. Des études et des enquêtes ont montré que les systèmes d'IA, y compris des systèmes populaires comme ChatGPT, présentent des biais qui reflètent les préjugés de la société, allant des biais sexistes dans la génération du langage aux stéréotypes raciaux et sexistes dans la génération d'images.

Le dilemme israélo-palestinien : un cas de biais de l’IA

Lors d'une récente interaction avec ChatGPT d'OpenAI, l'universitaire palestinien Nadi Abusaada s'est dit consterné par les réponses divergentes à une question simple : « Les Israéliens et les Palestiniens méritent-ils d'être libres ? » Alors qu'OpenAI affirmait sans équivoque que la liberté était un droit fondamental pour Israël, l'entreprise présentait la question de la justice pour la Palestine comme « complexe et très controversée ». Ce contraste frappant illustre les biais inhérents aux systèmes d'intelligence artificielle.

La réaction d'Abusaada met en lumière un problème persistant auquel les Palestiniens sont confrontés dans le discours occidental et les médias traditionnels : la désinformation et les préjugés. Il ne s'agit pas d'undent isolé, mais du symptôme de défis plus vastes liés à la neutralité de l'IA.

Biais sexistes dans les textes générés par l'IA : un schéma inquiétant

Une étude comparant les chatbots d'IA ChatGPT et Alpaca a révélé des biais sexistes dans les textes générés. Lorsqu'on leur a demandé de rédiger des lettres de recommandation pour des employés fictifs, les deux systèmes d'IA ont affiché un net biais sexiste. ChatGPT utilisait des termes comme « expert » et « intégrité » pour les hommes, mais qualifiait les femmes de « beauté » ou de « charme ». Alpaca présentait des problèmes similaires, associant les hommes à des qualités d'« auditeur » et de « penseur », tandis qu'il qualifiait les femmes de « grâce » et de « beauté »

Ces résultats soulignent la présence de biais sexistes profondément ancrés dans l'IA, reflétant et perpétuant les stéréotypes sociétaux. Ils soulèvent des questions quant au rôle de l'IA dans le renforcement des normes de genre néfastes.

Images générées par l'IA : un renforcement des stéréotypes raciaux et sexistes

Bloomberg Graphics a étudié les biais de l'IA en utilisant la conversion texte-image avec Stable Diffusion, une plateforme d'IA open source. Les résultats sont alarmants : le système d'IA exacerbe les stéréotypes de genre et raciaux, dépassant même ceux observés dans le monde réel. Lorsqu'on lui fournit des termes comme « PDG » ou « prisonnier », les images générées présentent systématiquement des biais.

L'enquête a révélé une sous-représentation des femmes et des personnes à la peau foncée dans les images liées aux emplois bien rémunérés, tandis qu'une surreprésentation a été constatée dans les images liées aux emplois peu rémunérés. Dans les recherches liées à la criminalité, l'IA a généré de manière disproportionnée des images de personnes à la peau foncée, malgré une population carcérale plus diversifiée en réalité.

Ces résultats démontrent que les algorithmes d'IA, alimentés par des données d'entraînement biaisées et des tendances programmées par l'homme, renforcent les préjugés sociétaux au lieu de les atténuer.

Dévoiler les racines des biais de l'IA

Les biais des systèmes d'IA tracleur origine dans leur processus d'apprentissage, qui repose sur des exemples et des données d'entrée. Les humains jouent un rôle crucial dans la formation du comportement de l'IA, intentionnellement ou non, en fournissant des données potentiellement biaisées ou stéréotypées. L'IA apprend ensuite de ces biais et les reflète dans ses résultats.

Reid Blackman, spécialiste de l'éthique numérique, a cité l'exemple du logiciel d'analyse de CV par intelligence artificielle d'Amazon, qui a appris, involontairement, à rejeter systématiquement les candidatures féminines. Cet exemple illustre comment l'IA peut, par inadvertance, perpétuer la discrimination si elle apprend à partir d'exemples biaisés.

Pour corriger les biais de l'IA, il est nécessaire d'examiner en détail les données, les algorithmes d'apprentissage automatique et les autres composants des systèmes d'IA. Une étape cruciale consiste à évaluer les données d'entraînement afin de détecter d'éventuels biais et de veiller à ce que les groupes sur- ou sous-représentés soient correctement pris en compte.

Agir contre les biais dans l'IA

Le rapport d'IBM souligne la nécessité d'examiner attentivement les ensembles de données afin de déceler les biais, notamment dans les algorithmes de reconnaissance faciale, où la surreprésentation de certains groupes peut engendrer des erreurs.dentet corriger ces biais est essentiel pour garantir l'équité et la précision des systèmes d'IA.

Le problème ne se limite pas aux textes générés par l'IA, mais s'étend aux systèmes de personnalisation algorithmique. Ces systèmes, comme on le constate sur la plateforme publicitaire de Google, peuvent perpétuer les préjugés sexistes en analysant le comportement des utilisateurs. Lorsque les utilisateurs cliquent ou effectuent des recherches qui reflètent des biais sociétaux, les algorithmes apprennent à générer des résultats et des publicités qui renforcent ces biais.

Bien que l'IA ait réalisé des progrès considérables dans divers domaines, les biais demeurent un défi majeur. Les systèmes d'IA reflètent et perpétuent les préjugés sociétaux, qu'il s'agisse de biais sexistes dans la génération de langage ou de stéréotypes raciaux et sexistes dans la génération d'images. Lutter contre les biais de l'IA exige une approche multidimensionnelle impliquant un examen rigoureux des données et des ajustements algorithmiques. Ce n'est qu'à travers ces efforts que l'IA pourra véritablement devenir un outil neutre et impartial, au bénéfice de tous.