Le gouverneur de Californie, Gavin Newsom, a opposé son veto à un projet de loi controversé sur l'intelligence artificielle (IA), estimant qu'il étoufferait l'innovation et ne protégerait pas le public des véritables dangers que représente cette technologie. Les partisans du projet de loi soulignent qu'il aurait instauré les premières réglementations nationales sur les modèles d'IA à grande échelle et ouvert la voie à des lois nationales sur la sécurité de l'IA.
Le 30 septembre, Newsom a rejeté le projet de loi SB 1047, également connu sous le nom de « Safe and Secure Innovation for Frontier Artificial Intelligence Models Act », suite à unetronopposition de la Silicon Valley. Ce projet de loi prévoyait des tests de sécurité obligatoires pour les modèles d'IA et d'autres mesures de protection, ce qui, selon les géants de la technologie, risquait de freiner l'innovation.
Newsom a fait valoir que le projet de loi se concentrait trop sur la réglementation des principales entreprises d'IA , sans pour autant protéger le public des dangers « réels » que représente cette nouvelle technologie.
Il a dit :
Au lieu de cela, le projet de loi impose des normes rigoureuses même aux fonctions les plus élémentaires, dès lors qu'un système de grande envergure les utilise. Je ne crois pas qu'il s'agisse de la meilleure façon de protéger le public contre les menaces réelles que représente cette technologie.
– Gavin Newsom
Un sénateur critique le veto et le qualifie de recul pour la sécurité publique
Le sénateur démocrate Scott Weiner, auteur du projet de loi, a décrit ce rejet comme un revers pour tous ceux qui croient en la surveillance des grandes entreprises qui prennent des décisions cruciales ayant un impact sur la sécurité publique, le bien-être et l'avenir de la planète.
Le projet de loi SB 1047 aurait contraint les développeurs, notamment des acteurs majeurs comme OpenAI, Meta et Google, à mettre en place un mécanisme d'arrêt d'urgence pour leurs modèles d'intelligence artificielle et à élaborer des plans de gestion des risques extrêmes. De plus, il aurait autorisé le procureur général de l'État à poursuivre les développeurs d'IA lorsque leurs modèles représentaient une menace permanente, comme par exemple une prise de contrôle du réseau électrique par l'intelligence artificielle.
Ce projet de loi visait spécifiquement les systèmes dont le développement coûte plus de 100 millions de dollars et qui nécessitent une importante puissance de calcul. Aucun modèle d'intelligence artificielle actuel n'a atteint ce seuil, mais certains experts estiment que cela pourrait changer d'ici un an.
Newsom plaide pour une réglementation de l'IA fondée sur des données scientifiques, au cœur d'une controverse sur le projet de loi relatif à la sécurité
Newsom a déclaré avoir consulté des experts de renom en matière de sécurité de l'IA afin d'aider la Californie à élaborer une réglementation efficace privilégiant une analyse scientifique des risques potentiels liés au développement de l'IA. Il a souligné que son administration continuerait de promouvoir des protocoles de sécurité rigoureux, insistant sur le fait que les autorités de réglementation ne doivent pas attendre une catastrophe majeure pour agir.
Malgré son veto au projet de loi SB 1047, Newsom a souligné que son administration avait signé plus de 18 projets de loi relatifs à la réglementation de l'IA au cours du mois dernier.
Avant la décision de Newsom, le projet de loi était impopulaire auprès des politiciens, des consultants et des grandes entreprises technologiques. La présidente de la Chambre des représentants, Nancy Pelosi, et des entreprises comme OpenAI ont déclaré qu'il entraverait considérablement le développement de l'intelligence artificielle.
Neil Chilson, responsable des politiques en matière d'IA à l'Abundance Institute, a averti que même si le projet de loi cible principalement les modèles coûtant plus de 100 millions de dollars, sa portée pourrait facilement être étendue pour sévir également contre les petits développeurs.
Cependant, certains sont favorables à ce projet de loi. Le milliardaire Elon Musk, qui développe son propre modèle d'intelligence artificielle appelé « Grok », est l'un des rares géants de la tech à soutenir cette mesure et, plus largement, une législation plus stricte en matière d'IA. Dans un article publié le 26 août sur X, Musk a déclaré que la Californie devrait probablement adopter le projet de loi SB 1047 sur la sécurité de l'IA, tout en admettant que le soutenir était une « décision difficile ».
