Maîtriser la discrimination de l'IA à la manière d'Anthropic : La persuader

Les potentiels de la technologie IA sont souvent évoqués dans plusieurs médias, mais nichés parmi les avantages se cache un côté sombre où les frontières entre progrès et préjugés deviennent dangereusement floues.

La discrimination de l'IA est un problème insidieux qui menace d'exacerber les inégalités sociétales existantes et soulève des questions éthiques profondes quant à l'avenir de la technologie.

Les racines des biais : Données, conception et erreur humaine ?

Les algorithmes d'IA ne sont bons que dans la mesure des données sur lesquelles ils sont entraînés. Malheureusement, une grande partie des données utilisées dans le développement de l'IA est truffée de biais, reflétant les préjugés inhérents tissés dans la société humaine. Ces biais peuvent être fondés sur la race, le genre, l'âge, la religion, le statut socio-économique et d'autres facteurs. 

Lorsque des données biaisées sont injectées dans un algorithme, le résultat est un système d'IA qui perpétue et amplifie ces biais, conduisant à des résultats discriminatoires.

La conception des modèles eux-mêmes peut introduire des biais. Par exemple, il a été démontré que les logiciels de reconnaissance faciale sont moins précis pour identifier les personnes de couleur. De même, les algorithmes utilisés pour l'approbation des prêts ou les candidatures à l'emploi peuvent désavantager involontairement certains groupes sur la base de critères biaisés.

L'erreur humaine est également en cause. Les programmeurs, les scientifiques des données et les autres personnes impliquées dans le développement des systèmes d'IA ne sont pas à l'abri de leurs propres biais. Ces biais peuvent s'infiltrer inconsciemment dans la conception et la mise en œuvre des algorithmes, aggravant ainsi le problème de la discrimination de l'IA.

Les tactiques d'Anthropic pour arrêter la discrimination de l'IA

De manière intéressante, nous pouvons également réduire les réponses biaisées de l'IA par l'acte de persuasion.  

Anthropic, l'une des principales entreprises d'IA, a récemment mené un test montrant que les gens pouvaient persuader les modèles d'IA de produire des réponses non biaisées grâce à des stratégies d'invite comme l'ajout de « la discrimination est illégale » à leurs invites. Fondamentalement, vous devez instruire le modèle pour garantir des réponses non biaisées. 

Bien que cette stratégie ait semblé réduire la discrimination dans les décisions des modèles d'IA pour des domaines tels que les prêts, les emplois, les réclamations d'assurance et autres, ce n'est qu'une solution temporaire qui traite les symptômes, et non la cause profonde du problème.

Affronter ce défi exige un effort collaboratif entre les technologues, les décideurs politiques, les chercheurs, les organisations de la société civile et les individus. 

Nous pourrions plonger tête la première dans l'adresse des biais dans les données, ce qui est crucial. Cela nécessite de diversifier les ensembles de données et d'employer des techniques telles que les algorithmes de débiaisage. De plus, les développeurs et les concepteurs doivent être formés pour identifier et atténuer les biais dans leur travail.

Des cadres réglementaires robustes sont tout aussi nécessaires pour imposer le développement éthique et le déploiement des modèles. L'établissement de directives claires pour la collecte de données, la conception d'algorithmes et l'utilisation de l'IA dans les processus de prise de décision critiques pourrait aider à contrôler les résultats discriminatoires des modèles d'IA.