New York City introduit un projet de loi pour rendre publics les outils d'IA utilisés par les agences de la ville

Cette semaine, Jennifer Gutiérrez, conseillère municipale de New York, présente un projet de loi qui vise à obliger la ville à établir une liste des outils d'intelligence artificielle approuvés pour une utilisation par ses agences. Cette liste, qui devrait être disponible au public d'ici le 1er février 2025, vise à sensibiliser et à assurer la transparence concernant les outils d'intelligence artificielle utilisés par les différents départements de la ville.

Le projet de loi suggéré vise à accroître la sensibilisation du public à l'utilisation des technologies d'IA par la ville. Gutiérrez a souligné que l'objectif est que les New-Yorkais soient bien conscients de la manière dont ces technologies affectent leur vie, en particulier en ce qui concerne l'utilisation de leurs données. La liste favorisera également la responsabilité et aidera les agences à collaborer plus efficacement lors de l'utilisation des outils d'IA.

New York City s'efforce d'accroître la responsabilité en matière d'IA et de favoriser la collaboration

La législation exige qu'une description des données auxquelles chaque application d'IA accède soit incluse. Gutiérrez a expliqué que cela informera le public sur le type de décisions que les agences de la ville prendront sur la base des données. Cela garantit que les personnes sont informées de la manière dont l'IA leur est utile – ou ne l'est pas. De plus, cette liste sera mise à jour tous les six mois, bien que des mises à jour plus fréquentes puissent avoir lieu en fonction des retours lors d'audiences régulières.

En rendant ces informations accessibles au public, la législation cherche à combler le manque de compréhension actuel sur la manière dont l'IA est utilisée au sein de la ville. Gutiérrez affirme ni le conseil ni le public ne comprennent complètement quels outils d'IA sont utilisés et à quelles fins. Ce projet de loi comblera ce vide et jettera les bases d'une meilleure communication entre les agences qui, par ailleurs, ne collaborent pas.

New York City prend des mesures pour limiter les dépenses excessives en IA et améliorer l'efficacité

Une autre caractéristique cruciale de la loi est sa capacité potentielle à économiser des ressources qui auraient autrement été dépensées pour des applications d'IA inefficaces. Le fait de rendre la liste publique et transparente aidera la ville à justifier ses dépenses auprès des New-Yorkais. La liste pourrait être aussi simple qu'une feuille de calcul ou constituer un mécanisme de suivi plus complexe qui évolue avec l'introduction de nouveaux outils d'IA.

Contrairement aux tentatives précédentes de régulation de l'utilisation de l'IA, cette législation ne vise pas à limiter les outils utilisés par les agences. Cependant, elle cherche à assurer la responsabilité, en exigeant que l'utilisation de ces outils soit pertinente et bien justifiée pour les résidents de la ville. On s'attend à ce qu'une telle approche permette à la ville d'éviter d'engager des coûts sur des outils inutiles pour le public.

L'introduction du projet de loi s'inscrit dans le contexte des développements en cours sur l'intelligence artificielle à New York. Après son introduction, une audience aura lieu pour examiner le nouveau projet de loi et d'autres projets de loi liés à l'IA. Le conseil souhaite entendre les témoignages des responsables municipaux et du public avant l'amendement et le vote final de ce projet de loi.