La tentative de New York de freiner les biais de l'IA dans le recrutement échoue, entravant les initiatives mondiales
- La loi locale 144 de la ville de New York (LL144), visant à corriger les biais dans les algorithmes d'embauche par IA, s'avère largement inefficace, seuls quelques employeurs respectant ses exigences d'audit et de transparence.
- Une étude récente du Cornell University, de Consumer Reports et de l'Institut de recherche Data & Society met en lumière des lacunes majeures de la LL144, révélant qu'elle accorde un pouvoir discrétionnaire excessif aux employeurs et échoue à imposer des mesures concrètes contre les résultats discriminatoires.
- L'échec de la LL144 a des répercussions au-delà de sa juridiction, car d'autres régions réexaminent des lois similaires, entravant ainsi les efforts mondiaux visant à réguler les biais de l'IA dans les décisions d'embauche.
Dans le but de résoudre le problème persistant des biais de l'IA dans le recrutement, la ville de New York a mis en œuvre la loi locale 144 (LL144) en 2021, exigeant que les employeurs auditeront annuellement les outils automatisés de décision d'emploi (AEDT) pour détecter les biais raciaux et de genre. Cependant, une étude récente menée par des chercheurs de l'Université Cornell, de Consumer Reports et de l'Institut de recherche Data & Society a révélé des failles majeures dans l'efficacité de la loi. L'étude, qui n'a pas encore été officiellement publiée mais a été partagée avec The Register, révèle des statistiques alarmantes, indiquant un manque criant de conformité parmi les employeurs soumis à la LL144.
La réalité de l'inefficacité de la LL144 pour les biais de l'IA
Plongeons dans les spécificités de la loi LL144 et les conclusions de l'étude. Il devient évident que, malgré ses bonnes intentions, la LL144 manque de force pour contraindre les employeurs à traiter efficacement les biais de l'IA. Le champ d'application large de la loi laisse aux employeurs une marge de manœuvre considérable pour déterminer si leurs systèmes relèvent de sa juridiction. De manière choquante, sur les 391 employeurs échantillonnés, seuls 18 avaient publié les rapports d'audit requis, et un seul 13 avait inclus des avis de transparence dans leurs offres d'emploi.
Le co-auteur de l'étude, Jacob Metcalf de Data & Society, a souligné les lacunes de la LL144, en insistant sur le fait qu'elle accorde trop de discrétion aux employeurs. Notamment, la loi ne mandate pas d'actions correctives si les audits révèlent des résultats discriminatoires, laissant les employeurs vulnérables à des poursuites civiles coûteuses. Les chercheurs ont également mis en lumière l'expérience des auditeurs examinant les AEDT utilisés par les entreprises de New York, révélant des cas où les employeurs ont choisi de ne pas publier les résultats des audits comportant des chiffres défavorables en raison de préoccupations juridiques.
Répercussions mondiales
L'échec de la tentative de New York de freiner les biais de l'IA a des effets d'entraînement sur des initiatives similaires dans le monde entier. Les projets de loi proposés dans d'autres juridictions, y compris en Californie, à Washington D.C. et dans l'État de New York, ont fait face à des revers alors que les législateurs reconsidèrent leurs structures à la lumière des lacunes de la LL144. Même l'IA Act de l'Union européenne, bien qu'adopté de manière provisoire, fait face à des défis dans la définition des réglementations pour l'IA utilisée dans les processus de recrutement.
Notamment, les ennuis juridiques du logiciel RH Workday soulignent l'urgence de traiter les biais de l'IA. Malgré le succès limité de la LL144, les chercheurs soutiennent que la loi sert d'expérience d'apprentissage précieuse et une étape cruciale vers une meilleure réglementation. Pourtant, ils insistent sur la nécessité d'élargir le champ d'application de la législation, exhortant les lois futures à abandonner le langage abstrait et à fournir des définitions plus claires, en particulier pour déterminer ce qui constitue un usage couvert des logiciels AEDT.
Un appel à une législation plus claire
Une question critique sur l'avenir de la réglementation des biais de l'IA se pose. Compte tenu des lacunes de la LL144, quelles leçons peut-on tirer pour façonner une législation mondiale plus efficace et complète ? Alors que les discussions sur les biais de l'IA se poursuivent, la nécessité de définitions plus claires, d'un champ d'application plus large et de mesures d'application plus strictes devient de plus en plus évidente. Le chemin vers la régulation de l'IA dans les décisions de recrutement peut être semé d'embûches, mais tirer les leçons des erreurs de la LL144 pourrait ouvrir la voie à des réglementations plus solides et plus impactantes à l'avenir.
Ne vous contentez pas de lire les actualités crypto. Comprenez-les. Abonnez-vous à notre newsletter. C'est gratuit.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Aamir Sheikh
Aamir est journaliste technologique avec près de six ans d'expérience dans les secteurs de la cryptomonnaie et de la technologie. Il est diplômé de l'université MAJ avec un MBA en finance et marketing. Il travaille désormais pour Cryptopolitan, où il rend compte des dernières évolutions des marchés de la cryptomonnaie et des prévisions de prix.
