Le Colorado est à l'avant-garde de la réglementation des systèmes d'intelligence artificielle qui influencent les décisions en matière d'embauche, de logement et de soins médicaux. Sept projets de loi ont été déposés, dont un a déjà été adopté, visant à encadrer les biais inhérents à la prise de décisions importantes par l'IA.
À lire également : Création d’un comité consultatif national sur l’IA pour traiter de la réglementation de l’IA
Malgré l'opposition, le gouverneur du Colorado, Jared Polis, a signé la loi vendredi, non sans hésitation. Ce texte oblige les organisations à évaluer les risques de discrimination liés à l'IA, à mettre en place des programmes de surveillance et à informer les consommateurs si l'IA intervient dans la prise de décision.
Le Colorado adopte à contrecœur une loi sur la responsabilité en matière d'IA
Le projet de loi du Colorado, similaire à ceux de Washington et du Connecticut, a suscité l'indignation des organisations de défense des droits civiques, du secteur technologique, des législateurs prudents et des gouverneurs inquiets. Ces projets de loi visent à lutter contre les biais de l'IA dans des domaines essentiels tels que l'emploi, le logement et la santé.
Les appels à la réglementation ont suscité de fortes résistances en raison de la complexité de la technologie et du risque de freiner son développement. Le gouverneur Polis a également exprimé des inquiétudes quant au projet de loi, insistant sur le fait qu'il ne devait pas entraver le développement de l'IA.
Projet de loi rendant obligatoires les évaluations des biais de l'IA et les notifications aux clients
La législation du Colorado, ainsi que six projets de loi similaires, obligent les organisations à évaluer les biais potentiels des systèmes d'IA. Certaines entreprises utilisant l'IA dans leurs activités sont tenues d'informer leurs clients lorsque des décisions importantes les concernant sont prises par une IA. Cette approche vise à renforcer la transparence et la responsabilité des applications d'IA.
À lire également : La réglementation de l’IA suscite un débat entre les géants de la technologie et les organismes de réglementation
Cette initiative intervient dans un contexte de débats législatifs plus vastes, avec plus de 400 projets de loi relatifs à l'IA déposés cette année. Ces projets de loi portent principalement sur des aspects spécifiques de l'IA, tels que les deepfakes et la pornographie générée par l'IA. Ces sept projets de loi ambitieux s'attaquent à la discrimination, l'une des préoccupations les plus complexes et universelles liées à l'IA.
Rumman Chowdhury, spécialiste en intelligence artificielle au département d'État américain, a déclaré :
« En réalité, nous n’avons aucune visibilité sur les algorithmes utilisés, ni sur leur fonctionnement, ni sur une éventuelle discrimination à notre encontre. »
La discrimination liée à l'IA se cache dans l'embauche, le logement et les soins de santé
La législation actuelle contre la discrimination ne couvre pas suffisamment les problèmes soulevés par l'utilisation de l'IA. Christine Webber, avocate spécialisée dans les droits civiques, a souligné que l'IA peut amplifier les préjugés à une échelle bien plus vaste que celle d'un seul décideur.
« Je dois préciser que les anciens systèmes n'étaient pas non plus totalement exempts de biais ; une personne ne pouvait examiner qu'un nombre limité de CV par jour. On ne pouvait donc prendre qu'un nombre limité de décisions biaisées en une seule journée, alors que l'ordinateur peut le faire rapidement pour un grand nombre de personnes. »
Christine Webber
À lire également : L’Union européenne (UE) prend l’initiative en matière de réglementation de l’IA
L'affaire Webber illustre parfaitement comment l'IA peut engendrer des discriminations. Un autre cas concerne un outil d'IA utilisé dans les applications de location, accusé d'attribuer des scores inférieurs aux personnes noires et hispaniques. Ce problème touche également le secteur médical, où des systèmes d'IA ont été observés en train de refuser des soins spécifiques à des patients noirs en raison d'évaluations biaisées. Le projet de loi du Colorado vise à remédier à ces problèmes en prévoyant un examen annuel des systèmes d'IA afin de détecter les biais, une réglementation interne et le signalement des résultats discriminatoires au procureur général de l'État.
Les entreprises résistent à la transparence, craignant la divulgation de leurs secrets commerciaux
Bien que le projet de loi vise à promouvoir la transparence et la responsabilité, il suscite certaines inquiétudes au sein du secteur de l'IA. Si les grandes entreprises du secteur ont tendance à approuver ces mesures, les petites entreprises les jugent potentiellement trop complexes. Logan Cerkovnik, fondateur de Thumper.ai, a déclaré :
« Une législation excessivement restrictive qui nous oblige à defidéfinitions et limite notre utilisation de la technologie pendant sa mise en place ne peut que nuire à l’innovation. »
Les entreprises spécialisées en IA ont également obtenu gain de cause en faisant ajouter une clause interdisant à quiconque, hormis le procureur général de l'État, d'intenter une action en justice concernant cette loi. Cette initiative de l'État du Colorado intervient alors que le Congrès examine une réglementation fédérale de l'IA. Le Congrès n'a encore adopté aucun projet de loi encadrant l'IA, mais le chef de la majorité sénatoriale, Chuck Schumer, a publié la semaine dernière un rapport contenant des orientations pour une telle réglementation.
Reportage Cryptopolitan par Brenda Kanana
