Une commission californienne fait progresser un projet de loi sur la réglementation de l'IA

La commission des finances de l'Assemblée de l'État de Californie a voté en faveur du projet de loi SB 1047, visant à réglementer le secteur de l'intelligence artificielle. Ce texte, intitulé officiellement « Loi sur l'innovation sûre et sécurisée pour les modèles d'intelligence artificielle de pointe », cible les créateurs de modèles d'IA « de pointe », c'est-à-dire ceux dont le coût d'entraînement s'élève à au moins 100 millions de dollars. 

Le projet de loi exige que ces développeurs adoptent des mesures de sécurité, se soumettent à des audits et garantissent que leurs modèles ne causeront pas de dommages importants. Il prévoit également un système de signalement pour les travailleurs du secteur de l'IA et autorise le procureur général de l'État à engager des poursuites judiciaires contre les entreprises dont les modèles d'IA entraînent des dommages graves ou présentent un risque pour la santé publique. 

Les législateurs modifient le projet de loi pour répondre aux préoccupations de l'industrie

Le projet de loi prévoit également la création du cluster de calcul public CalCompute afin de soutenir l'infrastructure d'IA de l'État. Mark Zuckerberg a récemment déclaré que la prochaine génération de Llama de Meta nécessitera une puissance de calcul dix fois supérieure, ce qui relèverait du champ d'application du projet de loi SB 1047. 

Toutefois, plusieurs modifications importantes ont été apportées pour répondre aux critiques formulées par les détracteurs. Notamment, les sanctions pénales ont été supprimées du projet de loi, et la disposition visant à créer un nouvel organisme de réglementation appelé Division modèle de la frontière a également été abandonnée.  

Selon le sénateur Wiener, l'élément du projet de loi qu'il a le plus apprécié est l'équilibre trouvé entre innovation et sécurité. Il a expliqué qu'il est possible d'améliorer simultanément la sécurité et l'innovation, et que la sécurité ne doit pas constituer un frein au progrès. 

Ce projet de loi a suscité une vive controverse au sein de la Silicon Valley et de l'ensemble du secteur technologique. Des géants de la technologie et certains membres du Silicon Valley Congress, dont Anna Eshoo, Zoe Lofgren et Ro Khanna, s'y sont opposés. 

Le projet de loi passe à l'étape législative suivante

Dans une lettre adressée au gouverneur Gavin Newsom, ces représentants ont demandé un veto, arguant que le projet de loi s'attarde trop sur le risque, pourtant improbable, d'une utilisation abusive de cette technologie. Ils ont également affirmé qu'il n'aborde pas les problèmes plus urgents tels que la désinformation, les conséquences environnementales ou les pertes d'emplois. 

Jaikumar Ramaswamy, directeur juridique d'Andreessen Horowitz, a également partagé ces inquiétudes et a souligné que le projet de loi pourrait nuire à l'innovation et inciter les entreprises technologiques à quitter la Californie. Ce projet de loi était soutenu par d'influents chercheurs en intelligence artificielle tels que Geoffrey Hinton et Yoshua Bengio.

Le projet de loi SB 1047 a été approuvé par la Commission des finances et est maintenant soumis à l'Assemblée, où il doit être adopté avant le 31 août. S'il est adopté, il sera renvoyé au Sénat de l'État pour la troisième et dernière fois, puis transmis au bureau du Gouverneur. À ce jour, le Gouverneur n'a fait aucune déclaration publique à ce sujet. S'il est adopté, le SB 1047 n'entrera en vigueur qu'en 2026, ce qui laissera le temps nécessaire à la création du Département de la gestion de la fièvre aphteuse (FMD).