Un sénateur du Colorado va établir des politiques de sécurité pour l'utilisation de l'IA

Dans une avancée majeure vers une utilisation plus sûre de l'IA, le sénateur John Hickenlooper du Colorado a lancé un plan visant à créer des politiques d'audit de l'IA. Soucieux d'établir des normes claires pour le contrôle des systèmes d'IA, il a consulté des experts du secteur et des acteurs clés afin de recueillir leurs avis. Cette initiative a pour objectif d'orienter l'élaboration d'une législation garantissant l'efficacité et la sécurité des technologies d'IA.

Normes de fabrication au Colorado

La stratégie de Hickenlooper repose sur une collaboration menée par le Département du Commerce. L'objectif est d'élaborer des normes volontaires servant de guide pour des auditsdent des technologies d'IA. Dans un discours prononcé en février, Hickenlooper a souligné l'importance d'un contrôle externe pour le secteur de l'IA, insistant sur la nécessité d'éviter l'autorégulation compte tenu des risques potentiels. 

« Si nous n'y prenons pas garde et n'orientons pas l'IA dans ce sens, elle pourrait finir par remplacer un grand nombre de travailleurs sans que l'on tienne compte de leurs choix futurs. C'est un exemple parmi des milliers de décisions prises aujourd'hui qui auront des conséquences pour des générations », a déclaré le sénateur Hickenlooper. 

En faisant appel à des tiers qualifiés pour l'audit des systèmes d'IA, cette initiative vise à garantir la conformité aux lois fédérales et à se prémunir contre les préjudices imprévus. 

Détails du questionnaire

Le bureau du sénateur a diffusé un questionnaire portant sur les aspects clés de l'audit des systèmes d'IA, notamment la fréquence, la portée des audits, les exigences de transparence, la conformité et l'écosystème d'audit dans son ensemble.

Ce questionnaire, élaboré à partir des données de Nextgov/FCW, vise à recueillir des informations détaillées permettant de defides normes d'audit efficaces et pratiques. Il s'intéresse notamment à la manière dont ces normes pourraient être adaptées aux différentes étapes du développement logiciel, en tenant compte des défis spécifiques posés par les processus de développement en amont et en aval.

L'audit de l'IA consiste à faire évaluer par un tiers les entrées et les sorties d'un système d'IA afin de garantir des résultats de haute qualité et sécurisés. Le cabinet de Hickenlooper a confirmé l'origine des questions et indiqué qu'elles serviront à orienter les futures initiatives législatives ainsi que le cadre réglementaire qu'il a présenté début février.

Hickenlooper pose une question très pertinente concernant le périmètre de l'audit. Le législateur aborde principalement la question du développement en amont par rapport au développement en aval lorsqu'il s'interroge sur la manière dont les critères d'audit prévisionnels devraient être modifiés pour les développeurs intervenant à tous les niveaux de l'architecture logicielle.

En outre, elle s'interroge également sur la possibilité d'intégrer aux normes d'audit de l'IA des exigences supplémentaires telles que l'accès aux données d'entraînement des modèles d'IA, les évaluations directes des résultats du système, les tests de vérification internes et les évaluations qualitatives. 

Par cette approche proactive, Hickenlooper jette les bases d'un cadre réglementaire qui promet de rendre les technologies d'IA plus sûres et plus fiables. En privilégiant la transparence, la conformité et le bien-être de la société, cette initiative constitue une avancée majeure pour le développement et le déploiement responsables de l'IA.