L'État de New York adopte une loi visant à limiter les catastrophes causées par un dysfonctionnement de l'IA

Les législateurs de l'État de New York ont ​​adopté une loi visant à limiter les catastrophes provoquées par l'intelligence artificielle. Selon ce texte, l'État souhaite empêcher que les modèles d'IA créés par des entreprises comme OpenAI, Google et Anthropic ne contribuent à des scénarios de catastrophe.

Selon le projet de loi, ces scénarios incluent le décès ou les blessures de plus de 100 personnes ou des dommages ou pertes supérieurs à 1 milliard de dollars. Ce projet de loi, connu sous le nom de RAISE Act, représente une victoire pour les mouvements militant pour la sécurité de l'IA. Ces mouvements ont perdu de leur élan ces dernières années, la Silicon Valley et l'administration Trump ayant continué de privilégier la rapidité et l'innovation.

Des défenseurs de la sécurité, parmi lesquels le lauréat du prix Nobel Geoffrey Hinton et le pionnier de la recherche en IA Yoshua Bengio, sont à l'origine du RAISE Act. S'il est finalement promulgué, ce texte établira les premières normes de transparence obligatoires pour les principaux laboratoires d'intelligence artificielle aux États-Unis.

L’État de New York envisage la loi RAISE pour limiter les catastrophes alimentées par l’IA

La loi RAISE comporte certaines des mêmes dispositions et objectifs que le projet de loi controversé sur la sécurité de l'IA, SB 1047, en Californie, qui a finalement fait l'objet d'un veto.

Cependant, Andrew Gounardes, sénateur de l'État de New York et co-auteur de la loi RAISE, a indiqué lors d'une interview avoir conçu le texte de manière à ne pas freiner l'innovation chez les jeunes entreprises ni chez les chercheurs universitaires, une critique fréquente adressée au projet de loi SB 1047. « Compte tenu de la rapidité d'évolution de cette technologie, il est de plus en plus difficile de mettre en place des garde-fous », a déclaré le sénateur Gounardes.

Le sénateur a également déclaré que la plupart des experts du secteur de l'IA ont également pris conscience de ces risques, une évolution qu'il a qualifiée d'« alarmante ». Parallèlement, la loi RAISE est actuellement soumise à la gouverneure de New York, Kathy Hochul, qui pourrait la promulguer ou la renvoyer pour amendement. Elle pourrait également y opposer son veto, ce qui est probable.

Si elle est finalement promulguée, la loi RAISE obligera certains des plus grands laboratoires d'IA au monde à publier des rapports de sûreté et de sécurité sur leurs modèles d'IA de pointe. Le projet de loi impose également aux laboratoires d'IA de signaler toutdentde sécurité concernant le comportement des modèles d'IA ou le vol de modèles d'IA par des personnes malveillantes, le cas échéant.

Si les entreprises technologiques ne respectent pas ces normes, la loi RAISE autorise le procureur général de New York à leur infliger des sanctions civiles pouvant atteindre 30 millions de dollars.

La loi RAISE vise à réglementer les laboratoires d'IA

La loi RAISE vise à réglementer les plus grandes entreprises d'IA au monde, notamment celles basées en Californie comme OpenAI et Google, et celles basées en Chine comme DeepSeek et Alibaba. Elle prévoit notamment une clause obligatoire pour les entreprises ayant utilisé plus de 100 millions de dollars de ressources informatiques pour l'entraînement de leurs modèles d'IA et dont les résidents de l'ÉtatdentNew York sont concernés.

Bien que similaire à la loi SB 1047 à certains égards, la loi RAISE aborde certains des projets de loi précédents sur la sécurité de l'IA.

Par exemple, aucune clause n'oblige les développeurs de modèles d'IA à intégrer un mécanisme d'arrêt d'urgence à leurs modèles, ni ne rend les entreprises qui effectuent un post-entraînement responsables des dommages critiques. Néanmoins, le projet de loi new-yorkais a suscité des réticences, selon Alex Bores, membre de l'Assemblée de l'État de New York et co-auteur de la loi RAISE. Il a qualifié cette résistance de prévisible, tout en ajoutant que la loi RAISE ne limitera en aucune façon les capacités de développement des entreprises technologiques.

« La loi RAISE de New York est encore une autre loi stupide, stupide, au niveau de l'État, sur l'IA qui ne fera que nuire aux États-Unis à un moment où nos adversaires prennent de l'avance », a déclaré Anjney Midha, associé général d'Andreessen Horowitz, dans un message publié vendredi sur X.

Andreessen Horowitz et l'incubateur de startups Y Combinator se sont farouchement opposés au projet de loi SB 1047. De plus, le cofondateur d'Anthropic, Jack Clark, a également fait part de ses griefs quant à la portée du RAISE Act, soulignant qu'il pourrait présenter des risques pour les petites entreprises.