New York adopte une loi pour limiter les catastrophes causées par des dysfonctionnements de l'IA

Les législateurs de New York ont adopté une loi visant à limiter les catastrophes causées par l'intelligence artificielle. Selon le projet de loi, l'État souhaite empêcher les modèles d'IA créés par des entreprises comme OpenAI, Google et Anthropic de contribuer à des scénarios de catastrophe.

Selon la loi, ces scénarios incluent la mort ou les blessures de plus de 100 personnes, ou des dommages et pertes supérieurs à 1 milliard de dollars. La loi, connue sous le nom de RAISE Act, représente une victoire pour les mouvements œuvrant en faveur de la sécurité de l'IA. Ces mouvements ont perdu de leur élan au cours des dernières années, alors que la Silicon Valley et l'administration Trump ont continué à privilégier la rapidité et l'innovation.

Des défenseurs axés sur la sécurité, dont le lauréat du prix Nobel Geoffrey Hinton et le pionnier de la recherche en IA Yoshua Bengio, sont à l'origine de la RAISE Act. Si elle est finalement signée en tant que loi, ce projet de loi établirait les premières normes de transparence légalement obligatoires pour les principaux laboratoires d'intelligence artificielle aux États-Unis.

New York envisage la RAISE Act pour limiter les catastrophes alimentées par l'IA

La RAISE Act comporte certaines dispositions et objectifs similaires au controversé projet de loi sur la sécurité de l'IA SB 1047 en Californie, qui a finalement été véto.

Cependant, un co-parrain de la RAISE Act, le sénateur de l'État de New York Andrew Gounardes, a mentionné dans une interview qu'il avait conçu le projet de loi de manière à ne pas étouffer l'innovation parmi les startups ou les chercheurs universitaires, une critique fréquente adressée au SB 1047. « La fenêtre pour mettre en place des garde-fous se rétrécit rapidement étant donné la vitesse à laquelle cette technologie évolue », a déclaré le sénateur Gounardes.

Le sénateur a également déclaré que la plupart des personnes bien informées sur le secteur de l'IA ont reconnu ces risques, un développement qu'il a qualifié d'« alarmant ». Parallèlement, le RAISE Act est en route vers le bureau du gouverneur de New York, Kathy Hochul, qui pourrait soit le signer pour en faire une loi, soit le renvoyer pour modification. Une autre option serait pour elle de mettre son veto au projet de loi, ce qui semble probable.

S'il est finalement signé en tant que loi, le RAISE Act obligera certains des plus grands laboratoires d'IA au monde à publier des rapports sur la sécurité et la sûreté de leurs modèles d'IA de pointe. Le projet de loi impose également aux laboratoires d'IA de signaler les incidents de sécurité liés au comportement des modèles d'IA ou au vol de modèles d'IA par des acteurs malveillants, si cela se produit.

Si les entreprises technologiques ne respectent pas ces normes, le RAISE Act donne au procureur général de New York le pouvoir d'infliger des sanctions civiles pouvant atteindre 30 millions de dollars.

Le RAISE Act vise à réglementer les laboratoires d'IA

La RAISE Act a été conçue pour réglementer les plus grandes entreprises d'IA au niveau mondial, y compris celles basées en Californie comme OpenAI et Google, ainsi que celles basées en Chine, comme DeepSeek et Alibaba. Les exigences de la loi comprennent une clause obligatoire s'appliquant aux entreprises ayant utilisé plus de 100 millions de dollars de ressources informatiques pour entraîner leurs modèles d'IA et qui sont accessibles aux résidents de New York.

Bien que similaire à la SB 1047 dans certains aspects, le RAISE Act aborde certaines des précédentes lois sur la sécurité de l'IA.

Par exemple, aucune clause n'exige que les développeurs de modèles d'IA disposent d'un interrupteur d'urgence sur leurs modèles, ni ne rend les entreprises qui post-entraînent leurs modèles responsables des dommages critiques. Néanmoins, selon Alex Bores, membre de l'Assemblée de l'État de New York et co-parrain du RAISE Act, il y a eu un rejet du projet de loi new-yorkais. Il a qualifié cette résistance de prévisible, mais a ajouté que le RAISE Act ne limitera en rien la puissance de développement des entreprises technologiques.

« La loi NY RAISE est encore une autre stupide, stupide loi d'État sur l'IA qui ne fera que nuire aux États-Unis au moment où nos adversaires s'élancent en avant », a déclaré Anjney Midha, partenaire général chez Andreessen Horowitz, dans un post publié vendredi sur X.

Andreessen Horowitz et l'incubateur de startups Y Combinator se sont farouchement opposés au projet de loi SB 1047. De plus, Jack Clark, co-fondateur d'Anthropic, a également exprimé ses préoccupations concernant la portée trop large de la loi RAISE, notant qu'elle pourrait présenter des risques pour les petites entreprises.