Pourquoi l'utilisation des biais de l'IA dans la prise de décision est redoutable et fatale

L'intelligence artificielle (IA) fait des vagues dans divers secteurs, de la santé à la finance. Cependant, la question du biais de l'IA est apparue comme un obstacle majeur, soulevant des questions sur l'avenir de la technologie. Les experts soutiennent que le biais, résultant souvent de données d'entraînement biaisées ou non représentatives, est peut-être le défi le plus redoutable de l'IA. 

Le problème du biais dans l'IA

Arthur Maccabe, directeur exécutif de l'Institut pour le calcul et l'analyse fondée sur les données à l'Université de l'Arizona, affirme que le biais n'est pas intrinsèquement problématique. Il devient un problème lorsqu'un système biaisé influence la prise de décision. 

Michele Samorani, professeur adjoint en systèmes d'information et analyse à l'École de commerce Leavey de l'Université Santa Clara, met en garde contre le potentiel de l'IA à perpétuer les injustices sociales. Il illustre cela avec un exemple d'une université utilisant l'IA pour filtrer les candidatures. Si le système d'IA est entraîné sur des décisions d'admission passées, tout biais humain présent dans ces décisions sera reflété dans les résultats de l'IA.

L'impact du biais de l'IA

Alice Xiang, directrice mondiale de l'éthique de l'IA chez Sony Group et chercheuse principale en éthique de l'IA chez Sony AI, note que le biais de l'IA peut avoir des effets à grande échelle. « Les systèmes d'IA biaisés peuvent renforcer les stéréotypes sociétaux, discriminer certains groupes ou perpétuer les inégalités existantes », dit-elle. Cela peut conduire à des pratiques discriminatoires dans divers secteurs, y compris le recrutement, les soins de santé et les forces de l'ordre. De plus, le biais peut miner la confiance dans la technologie et entraver l'adoption de l'IA.

Aborder le défi du biais de l'IA

Xiang croit que l'abordage du biais de l'IA nécessite une approche globale, commençant par des données d'entraînement diverses et représentatives. Elle souligne l'importance d'impliquer des individus de divers horizons dans la prise de décision. 

Maccabe suggère que les données utilisées pour entraîner les systèmes d'IA devraient représenter avec précision toute la société. Il reconnaît que cela pourrait être inatteignable, il est donc crucial de documenter les biais dans les données d'entraînement et de limiter l'utilisation des systèmes d'IA entraînés sur ces données aux contextes où ces biais ne sont pas critiques.

Beena Ammanath, directrice exécutive de l'Institut Deloitte AI, croit que bien que l'élimination du biais de l'IA soit difficile, minimiser son impact est réalisable. Elle propose des processus rigoureux de test, de validation et d'évaluation des modèles d'IA pour identifier et prévenir les biais. La Route 

Éradiquer le biais de l'IA est une tâche ardue. Xiang note qu'il est essentiel de comprendre les systèmes d'IA, leurs conséquences involontaires potentielles et la manière dont ils pourraient nuire aux personnes. Elle met en évidence l'augmentation récente des équipes d'éthique de l'IA dans les entreprises qui intègrent l'IA dans leurs produits et services. Ces équipes sont dédiées au développement et à la mise en œuvre des meilleures pratiques de développement et d'entraînement des modèles d'IA.

Maccabe souligne le défi d'établir des ensembles de données suffisamment grands pour entraîner efficacement l'IA et représenter le contexte dans lequel l'IA sera utilisée. Dans certains cas, les développeurs peuvent se contenter d'ensembles de données qui sont « assez proches », comme avec Google Translate.

La nécessité de normes et de réglementations

Samorani souligne la nécessité croissante de normes et de réglementations pour l'audit des systèmes d'IA afin de détecter les biais. Il est optimiste quant au fait qu'avec les bonnes réglementations et les systèmes d'audit, les biais de l'IA peuvent être réduits à un niveau tel qu'ils ne constituent plus une préoccupation.

Xiang note que des efforts sont en cours pour remédier aux biais de l'IA, notamment par des processus de collecte de données éthiques, le développement de jeux d'entraînement diversifiés, l'adoption de mesures d'équité et de cadres d'évaluation, ainsi que la promotion de la transparence et de la responsabilité dans le développement et le déploiement des systèmes d'IA.

Ammanath insiste sur l'importance d'éduquer les parties prenantes sur les risques de biais liés à l'IA. Elle conseille aux organisations de prioriser la formation de leurs employés sur l'éthique de l'entreprise et les principes d'éthique de l'IA.

Bien que les biais de l'IA constituent un défi majeur, ils ne sont pas nécessairement la faille fatale de l'IA. Grâce à des efforts concertés, aux avancées technologiques et aux réglementations appropriées, il est possible d'en minimiser l'impact et de travailler vers un avenir où les technologies de l'IA seront plus équitables et exemptes de biais.