Le Colorado mène la charge dans la réglementation de l'IA pour combattre la discrimination

Le Colorado a pris les devants dans la réglementation des systèmes d'intelligence artificielle qui influencent les décisions en matière d'embauche, de logement et de soins médicaux. Sept projets de loi ont été proposés, dont un déjà adopté et approuvé, visant à réglementer l'approche biaisée de l'IA dans la prise de décisions importantes. 

À lire aussi : Comité consultatif national sur l'IA formé pour aborder la réglementation de l'IA

Malgré l'opposition, le gouverneur du Colorado, Jared Polis, a signé le projet de loi avec hésitation vendredi. Ce projet de loi oblige les organisations à évaluer le risque de discrimination lié à l'IA, à mettre en place des programmes de surveillance et à informer les consommateurs si l'IA est impliquée dans la prise de décision.

Le Colorado adopte à contrecœur la loi sur la responsabilité de l'IA

Le projet de loi du Colorado, similaire à ceux de Washington et du Connecticut, n'a pas été bien accueilli par les groupes de défense des droits civils, l'industrie technologique, les législateurs prudents et les gouverneurs inquiets. Ces projets de loi cherchent à s'attaquer au biais de l'IA dans des domaines critiques tels que l'emploi, le logement et les soins de santé.

Il y a eu beaucoup de résistance aux appels à la réglementation en raison de la complexité de la technologie et de la possibilité de limiter son développement. Le gouverneur Polis a également exprimé des préoccupations concernant le projet de loi, soulignant qu'il ne devrait pas étouffer le développement de l'IA. 

Le projet de loi impose des évaluations des biais de l'IA et des notifications aux clients

La législation du Colorado, ainsi que les six projets de loi similaires, exigent que les organisations évaluent le biais potentiel des systèmes d'IA. Certaines des entreprises utilisant l'IA dans leurs opérations sont tenues d'informer les clients chaque fois que des décisions importantes les concernant sont prises par l'IA. Cette approche vise à améliorer la transparence et la responsabilité des applications d'IA.

À lire aussi : La réglementation de l'IA suscite un débat parmi les géants de la technologie et les régulateurs

L'initiative intervient dans un contexte de discussions législatives plus vastes, avec plus de 400 projets de loi liés à l'IA cette année. Ces projets de loi portent principalement sur des aspects spécifiques de l'IA, tels que les deepfakes et la pornographie par IA. Ces sept projets de loi ambitieux se concentrent sur la discrimination, l'un des problèmes les plus difficiles et universels de l'IA. 

Rumman Chowdhury, spécialiste de l'intelligence artificielle au Département d'État des États-Unis, a déclaré :

« Nous n'avons en réalité aucune visibilité sur les algorithmes qui sont utilisés, s'ils fonctionnent ou non, ou si nous sommes discriminés. »

La discrimination par l'IA se cache dans l'embauche, le logement et les soins de santé

La législation actuelle contre la discrimination ne couvre pas adéquatement les problèmes découlant de l'utilisation de l'IA. Christine Webber, avocate des droits civils, a souligné que l'IA peut amplifier les préjugés à un niveau beaucoup plus large qu'un seul décideur.

« Non, je devrais dire que les anciens systèmes n'étaient pas non plus parfaitement exempts de biais ; une seule personne ne pouvait examiner qu'un certain nombre de CV par jour. Ainsi, vous ne pouviez prendre qu'un certain nombre de décisions biaisées en une journée, et l'ordinateur peut le faire rapidement pour un grand nombre de personnes. »

Christine Webber

À lire aussi : L'Union européenne (UE) prend les devants dans la réglementation de l'IA

L'affaire de Christine Webber est un exemple parfait de la manière dont l'IA peut concrétiser la discrimination, avec un cas accusant un outil d'IA pour les demandes de location de donner des scores plus bas aux personnes noires et hispaniques. Ce problème affecte également le domaine médical, où des systèmes d'IA ont été observés refusant des soins spéciaux aux patients noirs sur la base de leurs évaluations biaisées. Le projet de loi du Colorado tente de répondre à ces préoccupations par un examen annuel des systèmes d'IA pour détecter les biais, une réglementation interne et la transmission des résultats discriminatoires au procureur général de l'État. 

Les entreprises résistent à la transparence, craignant la divulgation de secrets commerciaux

Bien que l'intention du projet de loi soit de promouvoir la transparence et la responsabilité, il existe certaines préoccupations au sein de l'industrie de l'IA. Si les grandes entreprises d'IA ont tendance à approuver de telles mesures, les petites entreprises les considèrent comme potentiellement trop complexes. Logan Cerkovnik, fondateur de Thumper.ai, a déclaré que :

« Avoir une législation trop restrictive qui nous force à des définitions et restreint notre utilisation de la technologie alors que celle-ci est en formation sera simplement préjudiciable à l'innovation. »

Les entreprises d'IA ont également réussi à ajouter une clause pour empêcher quiconque d'autre que le procureur général de l'État de poursuivre en vertu de la loi. L'action de l'État du Colorado intervient alors que le Congrès examine des règles fédérales sur l'IA. Le Congrès n'a encore adopté aucun projet de loi réglementant l'IA, mais le leader de la majorité au Sénat, Chuck Schumer, a publié un rapport la semaine dernière contenant des lignes directrices pour la réglementation de l'IA.

Cryptopolitan Reporting par Brenda Kanana