Une étude révèle les biais de l'IA dans la perception du prestige professionnel.

Une étude récente menée par l'Organisation internationale du travail (OIT) a examiné l'utilisation de l'intelligence artificielle (IA) pour évaluer le prestige et la valeur sociale de diverses professions, mettant en lumière à la fois ses avantages potentiels et ses défis. 

L’étude, intitulée « Une construction technologique de la société : comparaison de GPT-4 etdenthumains pour l’évaluation professionnelle au Royaume-Uni », a comparé les évaluations de l’IA réalisées par GPT-4, un modèle de langage étendu (LLM), avec les évaluations dedenthumains au Royaume-Uni.

Comparaison des évaluations par l'IA et par les humains

Dans cette étude novatrice, desdentbritanniques ont d'abord été invités à classer le prestige et la valeur sociale de différentes professions. Par la suite, GPT-4 a été chargé d'établir un classement similaire, simulant les perspectives de 100dentchoisis au hasard, chacun représentant un « profil britannique moyen » 

L'étude visait à évaluer dans quelle mesure les évaluations du système d'IA correspondaient à celles des participants humains et à déterminer si l'IA présentait des biais démographiques.

L'étude a notamment mis en évidence une corrélation significative entre les résultats obtenus par ces deux approches distinctes. GPT-4 a démontré unetroncapacité à prédire l'opinion moyenne des Britanniques concernant le prestige et la valeur sociale des différentes professions, établissant ainsi des classements relatifs des professions. 

Cette capacité à comprendre algorithmiquement les opinions humaines générales offre à l'IA le potentiel de contribuer à la recherche professionnelle, en proposant des avantages tels qu'une efficacité accrue, une meilleure rentabilité, une plus grande rapidité et une précision améliorée dans la saisie des perceptions sociétales.

La relation complexe de l'IA avec le prestige professionnel

Si l'étude a mis en lumière le potentiel de l'IA dans la recherche sur les professions, elle a également révélé plusieurs défis. GPT-4 avait tendance à surestimer le prestige et la valeur des professions liées à l'économie numérique ou comportant d'importantes composantes de marketing et de vente. 

À l'inverse, elle a sous-estimé le prestige et la valeur sociale attribués à certaines professions illicites ou traditionnellement stigmatisées, comparativement aux évaluateurs humains. De plus, lorsque ses instructions algorithmiques ont été modifiées, l'IA a eu du mal à saisir les hiérarchies de prestige et de valeur sociale des professions telles que perçues par les minorités démographiques au Royaume-Uni.

L'importance des biais démographiques

Un aspect crucial mis en évidence par cette recherche est la présence de biais démographiques dans les modèles d'IA. Les grands modèles de langage actuels, dont GPT-4, reflètent principalement les opinions des populations occidentales, éduquées, industrialisées, riches et appartenant aux groupes démographiques (WEIRD). 

Bien que minoritaires à l'échelle mondiale, ces groupes ont largement contribué aux données utilisées pour l'entraînement des modèles d'IA. De ce fait, des systèmes d'IA comme GPT-4 risquent d'exclure involontairement les perspectives des minorités démographiques ou des groupes vulnérables.

Implications de l'IA dans le monde du travail

Les résultats de cette étude ont des implications considérables pour l'application des systèmes d'IA dans le monde du travail. Si l'IA peut constituer un outil complémentaire précieux, notamment pour le traitement de vastes quantités de données non structurées (texte, voix et image), ses limites doivent être soigneusement prises en compte. 

Cela inclut le risque d'omettre les points de vue et les perspectives des minorités démographiques. Dans des contextes tels que le conseil en carrière ou l'évaluation algorithmique des performances, l'étude souligne l'importance de remédier à ces limitations et de garantir l'équité et l'inclusion.