L'étude révèle les biais de l'IA dans la perception du prestige des métiers
- L'IA peut prédire le prestige d'un emploi mais surestime les rôles numériques.
- Les emplois stigmatisés sont sous-évalués par l'IA, ce qui risque d'engendrer des biais.
- Une IA inclusive est nécessaire pour des conseils de carrière équitables.
Une étude récente menée par l'Organisation internationale du travail (OIT) a examiné l'utilisation de l'intelligence artificielle (IA) pour évaluer le prestige et la valeur sociale de diverses professions, mettant en lumière à la fois ses avantages potentiels et ses défis.
La recherche, intitulée « Une construction technologique de la société : comparaison entre GPT-4 et des répondants humains pour l'évaluation des professions au Royaume-Uni », a comparé les évaluations réalisées par GPT-4, un modèle de langage large (LLM), avec celles de répondants humains au Royaume-Uni.
Comparaison des évaluations par l'IA et par les humains
Dans cette recherche pionnière, des répondants humains au Royaume-Uni ont d'abord été invités à classer le prestige et la valeur sociale de différentes professions. Par la suite, GPT-4 a été chargé d'établir un classement similaire, simulant les perspectives de 100 répondants aléatoires, chacun représentant un « profil moyen britannique ».
L'étude visait à mesurer à quel point les évaluations du système d'IA correspondaient à celles des participants humains et si l'IA présentait des biais démographiques.
Il est notable que l'étude a mis en évidence une corrélation significative entre les résultats obtenus par ces deux approches distinctes. GPT-4 a démontré une grande compétence dans la prédiction des opinions moyennes au Royaume-Uni concernant le prestige et la valeur sociale des professions individuelles, établissant ainsi efficacement des classements professionnels relatifs.
Cette capacité à comprendre algorithmiquement les opinions humaines générales ouvre la voie à une contribution de l'IA à la recherche sur les professions, offrant des avantages tels qu'une efficacité accrue, un meilleur rapport coût-efficacité, une rapidité d'exécution et une précision améliorée dans la capture des perceptions sociétales.
La relation complexe de l'IA avec le prestige professionnel
Bien que l'étude ait souligné le potentiel de l'IA dans la recherche sur les professions, elle a également révélé plusieurs défis. GPT-4 avait tendance à surestimer le prestige et la valeur des professions associées à l'économie numérique ou impliquant des composantes solides de marketing et de vente.
À l'inverse, il sous-estimait le prestige et la valeur sociale attribués à certaines professions illicites ou traditionnellement stigmatisées par rapport aux évaluateurs humains. De plus, lorsque les instructions algorithmiques de l'IA étaient manipulées, il peina à saisir les hiérarchies de prestige et de valeur sociale des professions telles que perçues par les minorités démographiques dans le contexte britannique.
L'importance des biais démographiques
Un aspect crucial mis en évidence par la recherche est la présence de biais démographiques dans les modèles d'IA. Les grands modèles de langage actuels, y compris GPT-4, reflètent principalement les opinions des populations occidentales, éduquées, industrialisées, riches et démographiques (WEIRD).
Bien que ces groupes constituent une minorité mondiale, ils ont considérablement contribué aux données utilisées pour entraîner les modèles d'IA. Par conséquent, les systèmes d'IA comme GPT-4 pourraient exclure involontairement les perspectives des minorités démographiques ou des groupes vulnérables.
Implications de l'IA dans le monde du travail
Les résultats de cette étude ont des implications profondes pour l'application des systèmes d'IA dans le monde du travail. Bien que l'IA puisse servir d'outil complémentaire précieux, notamment pour traiter de vastes quantités de données textuelles non structurées, vocales et visuelles, ses limites doivent être soigneusement prises en compte.
Cela inclut son potentiel à omettre les points de vue et les perspectives des minorités démographiques. Dans des contextes tels que la fourniture de conseils en carrière ou la réalisation d'évaluations de performance algorithmiques, l'étude souligne l'importance de remédier à ces limites et d'assurer l'équité et l'inclusivité.
Ne vous contentez pas de lire les actualités crypto. Comprenez-les. Abonnez-vous à notre newsletter. C'est gratuit.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Emman Omwanda
L'expertise d'Emmanuel Omwanda repose sur les marchés de la cryptomonnaie, couvrant à la fois l'analyse fondamentale et technique. Il a précédemment travaillé pour divers sites médiatiques spécialisés dans la cryptomonnaie avant de rejoindre Cryptopolitan, notamment CoinEdition, The Crypto Basic, CryptoNews Flash et DroomDroom. Il est titulaire d'un baccalauréat en sciences (BSc.) en mathématiques et informatique de l'Université Kenyatta au Kenya, et est actuellement en dernière année d'études pour un baccalauréat en arts en communication et études médiatiques.
