Apprivoiser la discrimination de l'IA par l'approche anthropique : la persuader

Les potentialités de la technologie de l'IA sont très souvent évoquées dans de nombreux médias, mais derrière ces avantages se cache une face sombre où la frontière entre progrès et préjugés devient dangereusement floue.

La discrimination par l'IA est un problème insidieux qui menace d'exacerber les inégalités sociales existantes et soulève de profondes questions éthiques sur l'avenir de la technologie.

Les racines des biais : données, conception et erreurs humaines ?

La qualité des algorithmes d'IA dépend entièrement de la qualité des données utilisées pour leur entraînement. Malheureusement, une grande partie de ces données est entachée de biais, reflétant les préjugés inhérents à la société humaine. Ces biais peuvent être fondés sur l'origine ethnique, le sexe, l'âge, la religion, le statut socio-économique et d'autres facteurs. 

Lorsque des données biaisées sont intégrées à un algorithme, il en résulte un système d'IA qui perpétue et amplifie ces biais, conduisant à des résultats discriminatoires.

La conception même des modèles peut introduire des biais. Par exemple, il a été démontré que les logiciels de reconnaissance faciale sont moins précis pourdentles personnes de couleur. De même, les algorithmes utilisés pour l'octroi de prêts ou les candidatures d'emploi peuvent, involontairement, désavantager certains groupes sur la base de critères biaisés.

L'erreur humaine est également en cause. Les programmeurs, les data scientists et les autres personnes impliquées dans le développement des systèmes d'IA ne sont pas à l'abri de leurs propres biais. Ces biais peuvent s'insinuer inconsciemment dans la conception et la mise en œuvre des algorithmes, aggravant ainsi le problème de la discrimination par l'IA.

Les tactiques d'Anthropic pour mettre fin à la discrimination par l'IA

Il est intéressant de noter que nous pouvons également réduire les réponses biaisées de l'IA grâce à la persuasion.  

Anthropic, une entreprise leader en IA, a récemment mené un test démontrant qu'il était possible d'influencer les modèles d'IA pour qu'ils fournissent des réponses objectives, notamment en ajoutant la mention « la discrimination est illégale » à leurs questions. En clair, il faut paramétrer le modèle pour qu'il garantisse des réponses impartiales. 

Bien que cette stratégie semble avoir réduit la discrimination dans les décisions des modèles d'IA pour des domaines comme les prêts, l'emploi, les demandes d'indemnisation et autres, il ne s'agit que d'une solution temporaire qui s'attaque aux symptômes et non à la cause profonde du problème.

Relever ce défi exige un effort de collaboration entre les technologues, les décideurs politiques, les chercheurs, les organisations de la société civile et les individus. 

Nous pourrions nous attaquer de front à la correction des biais dans les données, ce qui est crucial. Cela implique de diversifier les ensembles de données et d'utiliser des techniques comme les algorithmes de débiaisement. De plus, les développeurs et les concepteurs doivent être formés àdentet à atténuer les biais dans leur travail.

Des cadres réglementaires robustes sont tout aussi nécessaires pour garantir le développement et le déploiement éthiques de ces modèles. L'établissement de lignes directrices claires concernant la collecte de données, la conception des algorithmes et l'utilisation de l'IA dans les processus décisionnels critiques pourrait contribuer à limiter les résultats discriminatoires des modèles d'IA.