La ville de New York présente un projet de loi visant à rendre publics les outils d'IA utilisés par les agences municipales

Cette semaine, Jennifer Gutiérrez, conseillère municipale de New York, présente un projet de loi visant à obliger la ville à établir une liste des outils d'intelligence artificielle autorisés pour ses services. Cette liste, qui devrait être rendue publique d'ici le 1er février 2025, a pour objectif de sensibiliser le public et d'assurer la transparence quant à l'utilisation de ces outils dans les différents services municipaux.

Le projet de loi vise à sensibiliser davantage le public à l'utilisation des technologies d'IA par la ville. Gutiérrez a souligné que l'objectif est de permettre aux New-Yorkais de mieux comprendre l'impact de ces technologies sur leur vie, notamment en ce qui concerne l'utilisation de leurs données. Ce texte favorisera également la responsabilisation et permettra aux organismes de collaborer plus efficacement lors de l'utilisation d'outils d'IA.

La ville de New York prend des mesures pour renforcer la responsabilité en matière d'IA et favoriser la collaboration.

La législation exige que chaque application d'IA fournisse une description des données auxquelles elle accède. Gutiérrez a expliqué que cela permettra au public de comprendre les décisions que les services municipaux prendront en fonction de ces données. Ainsi, les citoyens seront informés de l'utilité – ou non – de l'IA à leurs yeux. De plus, cette liste sera mise à jour tous les six mois, voire plus fréquemment en fonction des retours recueillis lors des audiences publiques.

En rendant ces informations publiques, cette loi vise à combler le manque de transparence quant à l'utilisation de l'IA au sein de la ville. Gutiérrez affirme que ni le conseil municipal ni le public ne comprennent pleinement quels outils d'IA sont utilisés et à quelles fins. Ce projet de loi permettra de combler cette lacune et de jeter les bases d'une meilleure communication entre des organismes qui, d'ordinaire, ne collaborent pas.

La ville de New York prend des mesures pour freiner les dépenses excessives en IA et améliorer l'efficacité

Un autre atout majeur de cette loi réside dans sa capacité potentielle à économiser des ressources qui auraient autrement été consacrées à des applications d'IA inefficaces. La décision de rendre cette liste publique et transparente permettra à la ville de justifier ses dépenses auprès des New-Yorkais. Cette liste pourrait être aussi simple qu'un tableur ou constituer un mécanisme tracplus complexe, évolutif au gré de l'introduction de nouveaux outils d'IA.

Contrairement aux tentatives précédentes de réglementation de l'IA, cette loi n'a pas pour but de limiter les outils utilisés par les organismes. Elle vise toutefois à instaurer une culture de responsabilité, exigeant que l'utilisation de ces outils soit pertinente et justifiée pour lesdent. Cette approche devrait permettre à la ville d'éviter des dépenses inutiles liées à des outils superflus.

Le dépôt de ce projet de loi s'inscrit dans le contexte des avancées en matière d'intelligence artificielle à New York. Une audience publique sera organisée après son dépôt afin d'examiner cette nouvelle législation ainsi que d'autres projets de loi relatifs à l'IA qui y sont liés. Le conseil municipal souhaite recueillir les témoignages des représentants de la ville et du public avant d'envisager des amendements et un vote final sur ce projet de loi.