L'EEOC conclut un accord historique dans la première affaire de discrimination par l'IA

Dans un développement majeur, la Commission américaine pour l'égalité des chances en matière d'emploi (EEOC) a conclu un accord provisoire dans sa première affaire de discrimination jamais intentée, centrée sur l'utilisation de logiciels d'intelligence artificielle (IA) dans les pratiques de recrutement. Cette affaire souligne l'engagement de l'EEOC à traiter les biais potentiels dans les processus de recrutement alimentés par l'IA, une préoccupation croissante alors que la technologie joue un rôle de plus en plus déterminant dans les décisions d'emploi. L'affaire, EEOC c. iTutorGroup, Inc., marque une étape importante dans le dialogue continu sur les implications éthiques et légales de l'IA dans l'emploi.

La position ferme de l'EEOC sur l'IA et la discrimination

En mai 2022, l'EEOC, en partenariat avec le Département de la Justice des États-Unis, a adopté une approche proactive en publiant des lignes directrices visant à apporter de la clarté aux employeurs, aux employés et aux candidats concernant l'utilisation appropriée des outils d'IA dans les processus d'emploi. Cette démarche a marqué la reconnaissance des écueils potentiels pouvant résulter d'une dépendance non critique aux systèmes alimentés par l'IA. Ces orientations ont jeté les bases des actions ultérieures, notamment une audience publique tenue par l'EEOC en janvier de l'année suivante. Cette audience, à laquelle ont participé près de 3 000 personnes en ligne, a entendu les témoignages d'un large éventail d'experts, allant de l'American Civil Liberties Union à la Chambre de commerce des États-Unis, en passant par des représentants de cabinets d'avocats et d'institutions universitaires.

L'affaire iTutorGroup et les allégations de discrimination fondée sur l'âge

Dans l'affaire EEOC c. iTutorGroup, Inc., l'EEOC a formulé des allégations contre iTutorGroup, un fournisseur de services de tutorat en anglais pour les étudiants en Chine. L'allégation centrale portait sur l'utilisation présumée par l'entreprise d'un logiciel d'IA qui rejetait automatiquement les candidats en fonction de leur âge. Cette pratique discriminatoire a été révélée lorsqu'un candidat initialement rejeté a postulé à nouveau avec une date de naissance différente et a par la suite été accepté pour le poste. Cette affaire illustre les conséquences étendues que peuvent avoir les outils de sélection basés sur l'IA, conduisant involontairement à des résultats injustes et illégaux.

Détails de l'accord provisoire et du décret de consentement

L'EEOC et iTutorGroup sont désormais parvenus à un accord provisoire, soumis à l'approbation du juge Pamela K. Chen. Le décret de consentement proposé décrit des mesures complètes pour remédier aux pratiques discriminatoires alléguées. Aux termes de ce décret, iTutorGroup a accepté de verser un total de 365 000 $, qui seront répartis entre plus de 200 candidats qui ont été injustement refusés, en violation de la loi sur la discrimination fondée sur l'âge dans l'emploi. L'entreprise est également tenue d'inviter les candidats précédemment rejetés entre mars et avril 2020 à postuler à nouveau pour les postes. De plus, iTutorGroup est tenue d'adopter des politiques anti-discrimination et de mettre en place une formation anti-discrimination pour ses employés.

Des avancées contre les biais de l'IA et implications pour l'avenir

Cette affaire historique met en lumière la position robuste de l'EEOC à l'encontre des entreprises qui utilisent des logiciels d'IA dans leurs processus de recrutement. Les implications de cet accord s'étendent au-delà des parties directement concernées, résonnant dans toute l'industrie technologique et le secteur de l'emploi en général. Le contrôle exercé par l'EEOC sur les outils d'IA s'étend à diverses catégories d'applications qui suscitent des préoccupations tant chez les critiques que chez les défenseurs de l'éthique de l'IA. Parmi les exemples notables, on trouve :

• Analyseurs de CV et priorisation par mots-clés : Certains outils d'IA utilisent des analyseurs de CV pour prioriser les candidatures en fonction de mots-clés spécifiques. Bien que cela puisse simplifier le tri initial, cela soulève également des questions sur la perpétuation potentielle des biais associés à ces mots-clés.
• Logiciels de surveillance des employés : Les outils de surveillance des employés alimentés par l'IA, qui évaluent la performance sur la base de facteurs tels que les frappes au clavier, suscitent des inquiétudes concernant l'érosion de la vie privée des employés et le risque d'évaluations inexactes.
• Assistants virtuels et chatbots : Les assistants virtuels ou chatbots qui évaluent les qualifications des candidats pourraient exclure involontairement des individus prometteurs ne répondant pas aux critères prédéfinis, passant ainsi à côté de perspectives et de compétences diverses.
• Entretiens vidéo et analyse des expressions faciales : Les logiciels d'entretien vidéo qui évaluent les candidats sur la base de leurs expressions faciales et de leurs schémas de parole peuvent introduire involontairement des évaluations subjectives et potentiellement discriminatoires.
• Logiciels de test et notation de l'adéquation au poste : Les logiciels de test qui attribuent des scores d'« adéquation au poste » en fonction des aptitudes, des personnalités ou de la compatibilité culturelle perçue soulèvent des interrogations sur la manière dont ces facteurs sont mesurés et s'ils pourraient conduire à une discrimination injuste.

Perspectives : décret de consentement de cinq ans

Si le décret de consentement reçoit l'approbation du juge Chen, il restera en vigueur pendant cinq ans. Cet engagement temporel reflète la détermination de l'EEOC à garantir des changements et des améliorations durables dans les pratiques de recrutement d'iTutorGroup. L'issue de cette affaire servira de précédent pour les actions juridiques futures impliquant la discrimination par l'IA, fixant des attentes pour les entreprises afin qu'elles fassent preuve de diligence dans l'évaluation et l'atténuation des biais au sein de leurs processus de recrutement basés sur la technologie.

L'approche proactive de l'EEOC, la réponse collective des experts et des parties prenantes, ainsi que l'accord pivotal dans l'affaire EEOC c. iTutorGroup, Inc., signalent collectivement un moment charnière dans le récit continu entourant l'IA, l'éthique et le droit du travail. Les années à venir verront probablement une concentration accrue sur le déploiement responsable des outils d'IA, les entreprises étant tenues responsables de l'impact de leur technologie sur la diversité, l'équité et l'égalité des chances.