Biais raciaux inconscients : pourquoi l’IA ne reconnaît-elle pas correctement les personnes de couleur ?

La technologie de l'IA gravit lentement les échelons de l'« hyperréalisme ». Des études récentes ont montré que l'IA pouvait générer des images qui paraissent plus réalistes que les images de personnes réelles.

L'IA génère de meilleurs visages de personnes blanches

Dans cette étude, les participants (tous de race blanche) devaient différencier 100 images de visages réels et de visages générés par intelligence artificielle. Certains participants ont perçu les images générées par l'IA comme plus « réelles » que les visages réels.

« Nous avons été tellement surpris de constater que certains visages créés par l'IA étaient perçus comme hyperréalistes que notre prochaine étape a consisté à tenter de reproduire nos résultats en réanalysant les données de Nightingale et Farid sur un nouvel échantillon de participants », a déclaré Amy Dawel, psychologue clinicienne et maître de conférences à l'Université nationale australienne, à l'origine de l'étude.

L'étude a mis en lumière certains aspects inquiétants de l'hyperréalisme de l'IA, notamment les biais raciaux. 

L'IA est-elle inconsciemment raciste ?

L'IA a mieux réussi à générer des visages réalistes de personnes blanches que de personnes de couleur, ce qui, selon Dawel, provient du manque de données et d'algorithmes d'entraînement diversifiés – c'est-à-dire que les algorithmes ont été entraînés de manière disproportionnée sur les visages de personnes blanches, ce qui les rend inconsciemment biaisés en faveur des caractéristiques blanches.

Dawel craint que cela n'aggrave encore les problèmes sociaux. Si l'IA représente systématiquement les personnes de couleur comme appartenant à la vallée de l'étrange, elle pourrait perpétuer les stéréotypes négatifs et renforcer les préjugés existants concernant leur apparence et leur authenticité.

Une autre préoccupation majeure soulevée par l'étude concerne la possible augmentation des deepfakes. Constatant le nombre de personnes qui ont identifiédentdes images générées par IA comme étant « réelles », Dawel craint que beaucoup ne soient trompées par de fausses images si celles-ci tombent entre de mauvaises mains. 

« Cependant, une grande partie des nouvelles IA ne sont pas aussi transparentes, et les investissements dans l'industrie de l'IA sont énormes tandis que les financements alloués à la science pour la surveiller sont minimes, difficiles à obtenir et lents », a déclaré Dawel.