Lutter contre les biais algorithmiques : L'initiative IEEE P7003 promeut un développement éthique de l'IA

À l'ère numérique d'aujourd'hui, l'intelligence artificielle (IA) joue un rôle de plus en plus central dans notre vie quotidienne, des recommandations de streaming personnalisées aux applications de santé. Cependant, cette prolifération de l'IA soulève des préoccupations concernant les biais algorithmiques, lorsque les systèmes d'IA produisent des résultats préjudiciables en raison d'hypothèses sous-jacentes ou de données d'entraînement déséquilibrées. 

Pour s'attaquer frontalement à ce problème, l'IEEE Standards Association (IEEE SA) a lancé le groupe de travail P7003afin d'établir un cadre complet pour la création de systèmes d'IA qui atténuent les biais et garantissent l'équité.

Le biais algorithmique, une préoccupation pressante en IA, survient lorsque les algorithmes d'apprentissage automatique produisent involontairement des résultats favorisant certains groupes ou attributs par rapport à d'autres. Ce biais est souvent enraciné dans les données sur lesquelles les algorithmes sont entraînés, et ses conséquences peuvent être profondes. Par exemple, un logiciel de reconnaissance faciale entraîné principalement sur une démographie peut entraîner une mauvaise identification ou l'exclusion d'autres groupes, conduisant à des conséquences réelles comme des retards pour les voyageurs à la sécurité frontalière.

Trois sources de biais

Le groupe de travail IEEE P7003 identifie trois sources principales de biais qui peuvent se manifester dans les systèmes d'IA :

Biais par les développeurs d'algorithmes : Ce type de biais découle des objectifs d'optimisation définis par les développeurs. Par exemple, un algorithme conçu pour maximiser la production des travailleurs dans un système d'entreprise peut inadvertamment négliger la santé des travailleurs, conduisant à un biais.

Biais au sein du système : Certains systèmes présentent intrinsèquement des différences de performance parmi diverses catégories, telles que des écarts dans la précision de la reconnaissance faciale en fonction de la race et du genre.

Biais par les utilisateurs du système : Les utilisateurs peuvent également introduire un biais lors de l'interprétation et de l'action sur les sorties algorithmiques. Le biais de confirmation, où les utilisateurs acceptent les informations qui s'alignent sur leurs croyances préexistantes sans vérifier les faits, est un tel exemple.

Le rôle de l'IEEE P7003

Le groupe de travail P7003 de l'IEEE SA vise à résoudre ces problèmes en fournissant un cadre de développement pour les systèmes d'IA afin d'éviter des résultats utilisateur non intentionnels, injustifiés et différemment nuisibles. Le groupe collabore avec les critères CertifAIEd pour la certification des biais algorithmiques, garantissant que les systèmes d'IA sont développés avec l'équité et l'éthique à l'esprit.

Bien que le biais soit souvent considéré comme préjudiciable, il existe des scénarios où un biais intentionnel est acceptable et essentiel. Par exemple, une application de santé conçue pour aider les hommes à gérer la santé de la prostate devrait naturellement être biaisée en faveur des utilisateurs masculins, car le contexte médical l'exige. Inversement, une application destinée à la sensibilisation au cancer du sein devrait rester non biaisée pour servir efficacement les deux sexes.

Évaluer et gérer le risque de biais

Pour favoriser la sensibilisation et la compréhension des biais des systèmes d'IA, IEEE P7003 offre des recommandations pour un développement efficace des systèmes d'IA :

Utiliser un profil de biais : Employer un profil de biais pour évaluer et comprendre l'impact et le risque de biais dans le système.

Considérer l'intention et le contexte : Définir clairement l'intention du système et comprendre le contexte dans lequel il opère, en assurant l'alignement avec les besoins des parties prenantes.

Définition de la tâche : Définir clairement les tâches du système et s'assurer que ses résultats s'alignent avec ces tâches.

Sensibilisation des parties prenantes : Comprendre les utilisateurs et les parties prenantes qui interagissent avec ou sont affectés par le système.

Évaluation régulière : Réévaluer périodiquement le système pour le biais tout au long de son cycle de vie, car l'utilisation et les parties prenantes peuvent évoluer.

Adaptation contextuelle : Revisiter le profil de biais si le système est déployé dans un nouveau contexte, en considérant comment son comportement pourrait devoir s'adapter.

Équipes de développement diversifiées : Encourager des équipes de développeurs et d'évaluateurs diversifiées pour apporter différentes perspectives et réduire le biais.

Vers un développement éthique de l'IA

IEEE P7003 vise à fournir aux individus et aux organisations des méthodologies mettant l'accent sur la responsabilité et la clarté dans la conception, les tests et l'évaluation des algorithmes. Ces méthodologies aident à éviter les impacts différentiels injustifiés sur les utilisateurs. Cela permet aux créateurs d'algorithmes de communiquer aux autorités de réglementation et aux utilisateurs que les meilleures pratiques les plus à jour sont employées pour prioriser les considérations éthiques dans le développement de l'IA.

Cette initiative s'aligne sur le mouvement plus large pour une IA éthique, comme en témoigne la récente publication de l'IEEE « Conception éthiquement alignée : Une vision pour prioriser le bien-être humain avec l'intelligence artificielle et les systèmes autonomes ». Le document encourage les technologues à prioriser les considérations éthiques dans la création de technologies autonomes et intelligentes, soulignant davantage l'importance du développement éthique de l'IA.