Les modèles d'IA générative encodent des biais et fabriquent des informations absurdes, révèle une recherche

Ces derniers mois, les modèles d'IA générative tels que ChatGPT, Bard de Google et Midjourney ont gagné en popularité auprès des particuliers, à des fins personnelles et professionnelles. Cependant, la recherche met en lumière une tendance inquiétante : ces modèles intègrent des biais et des stéréotypes négatifs chez leurs utilisateurs, tout en générant et en diffusant des informations absurdes mais qui semblent précises. 

Les conséquences de ce phénomène sont particulièrement graves pour les groupes marginalisés, qui supportent une charge disproportionnée de la diffusion d'informations fabriquées. À mesure que ces modèles deviennent plus répandus sur le World Wide Web, il existe une préoccupation croissante quant à leur capacité à influencer les croyances humaines. Un nouvel article de perspective publié dans la revue Science souligne la nécessité urgente d'une collaboration entre psychologues et experts en apprentissage automatique pour évaluer l'ampleur de ce problème et développer des solutions.

Abeba Birhane, professeure adjointe à la School of Computer Science and Statistics de Trinity et chercheuse principale en IA digne de confiance à la Mozilla Foundation, explique que les modèles génératifs manquent de la capacité de communiquer l'incertitude, ce qui se traduit par des réponses confiantes et fluides sans qualifiants appropriés ou représentations du doute. Par conséquent, les individus peuvent accepter ces réponses comme étant factuellement exactes, entraînant une distorsion des croyances. De plus, les intérêts financiers et de responsabilité incitent les entreprises à anthropomorphiser les modèles génératifs en les présentant comme intelligents, empathiques ou même enfantins, exacerbant ainsi le problème.

Impact disproportionné sur les groupes marginalisés

Les répercussions des biais et des informations fabriquées sont particulièrement prononcées parmi les populations marginalisées. L'étude souligne l'importance de réaliser des analyses détaillées pour mesurer l'impact des modèles génératifs sur les croyances et les biais humains. En se concentrant sur les communautés marginalisées les plus touchées par les fabrications et les stéréotypes négatifs dans les sorties des modèles, les études et interventions futures peuvent efficacement aborder ces problèmes.

Un exemple concret discuté dans la Perspective concerne l'utilisation des modèles d'IA générative dans le système juridique. Les régularités statistiques au sein de ces modèles ont conduit à l'attribution de scores de risque plus élevés aux défendeurs noirs. Par conséquent, les juges des tribunaux, ayant intégré ces schémas, peuvent modifier leurs pratiques en matière de condamnation pour les aligner sur les prédictions des algorithmes. Même si des réglementations sont mises en place pour limiter l'utilisation de tels systèmes, ce mécanisme d'apprentissage statistique peut perpétuer la croyance selon laquelle les individus noirs sont plus susceptibles de récidiver.

Défis liés à la surmontation des biais et des fabrications

Une fois que les biais et les informations fabriquées ont été acceptés par les individus, ils deviennent difficiles à dissiper. Les enfants sont particulièrement vulnérables car ils sont plus susceptibles d'anthropomorphiser la technologie et sont facilement influençables. Reconnaissant cela, des efforts devraient être déployés pour éduquer le public, les décideurs politiques et les scientifiques interdisciplinaires sur le fonctionnement des modèles d'IA générative, dissiper la désinformation existante et contrecarrer les affirmations exagérées entourant ces technologies.

L'article de Perspective souligne l'importance d'une analyse rapide et complète pour évaluer l'impact des modèles génératifs sur les croyances et les biais humains. Il appelle également à des interventions et des ressources ciblées visant à atténuer les effets sur les populations marginalisées. De plus, des campagnes d'éducation et de sensibilisation devraient être entreprises pour fournir des perspectives réalistes sur le fonctionnement de ces modèles d'IA et corriger les idées fausses et l'hype entourant leurs capacités.

À mesure que les modèles d'IA générative gagnent en adoption massive, l'encodage de biais et la fabrication d'informations absurdes posent des préoccupations significatives. Les communautés marginalisées sont touchées de manière disproportionnée, exacerbant les inégalités existantes. La collaboration entre psychologues et experts en apprentissage automatique est cruciale pour évaluer l'ampleur de ce problème et élaborer des solutions efficaces. En comprenant l'impact des modèles génératifs sur les croyances et les biais humains, il devient possible de remédier aux biais et aux fabrications intégrés dans ces systèmes d'IA.