Le projet de loi californien sur la réglementation de l'IA est soumis à la signature du gouverneur

Un projet de loi très controversé visant à encadrer l'intelligence artificielle (IA) a franchi une étape importante au sein de la législature californienne. Le SB-1047, qui a pour objectif de réglementer la sécurité des grands modèles d'IA, a été approuvé par l'Assemblée de l'État de Californie avec 45 voix pour et 11 voix contre. 

Le projet de loi, adopté par le Sénat de l'État en mai par 32 voix contre 1, devrait passer une dernière étape de procédure au Sénat avant d'être soumis à la signature du gouverneur Gavin Newsom. 

Des experts en IA soutiennent un projet de loi visant à contrer les menaces potentielles liées à l'IA

La loi SB-1047 exige que les développeurs d'IA à grande échelle, entraînées pour un coût supérieur à 100 millions de dollars, intègrent un mécanisme d'arrêt d'urgence permettant de désactiver l'IA en cas d'effets néfastes sur le public. Cette approche est particulièrement pertinente lorsque le système d'IA doit fonctionner avec une intervention humaine minimale et que des scénarios catastrophes peuvent survenir. 

Les partisans du projet de loi affirment que, face à l'autonomie croissante des technologies d'IA avancées, ce texte est indispensable pour gérer les risques associés. Le sénateur Scott Weiner, auteur du projet de loi, a souligné que des personnalités telles que Geoffrey Hinton et Yoshua Bengio, experts reconnus en IA, ont exprimé leurs inquiétudes quant aux menaces potentielles que l'IA pourrait engendrer.

L'an dernier, Hinton et Bengio figuraient parmi les signataires d'une déclaration affirmant que si l'IA n'est pas correctement contrôlée, elle pourrait conduire à l'extinction de l'humanité. 

Des critiques expriment des inquiétudes quant à l'impact de Bill sur l'innovation

Cependant, le projet de loi SB-1047 a suscité de nombreuses critiques de la part des défenseurs de la recherche et des entreprises en intelligence artificielle. Certains estiment qu'il se préoccupe davantage des risques futurs que des risques actuels, tels que les deepfakes et les fausses informations. 

Fei-Fei Li, directrice de l'Institut d'intelligence artificielle centrée sur l'humain de Stanford, s'est fermement opposée au projet de loi. Dans un récent éditorial, elle explique que cette législation représente une menace pour l'innovation, car elle expose les développeurs à des risques juridiques importants. Elle souligne que cela pourrait décourager le partage de modèles et de pondérations d'IA en open source, pourtant essentiels à la recherche et à la collaboration.

Des chefs d'entreprise californiens ont signé une lettre ouverte demandant à Newsom d'opposer son veto au projet de loi, qu'ils jugent « fondamentalement vicié ». Le projet de loi SB-1047 étant en voie d'être promulgué, le gouverneur Gavin Newsom a jusqu'au 30 septembre pour l'approuver.

En mai dernier, lors d'un symposium à l'Université de Californie à Berkeley, le gouverneur Newsom a reconnu que la question d'une réglementation adéquate est délicate. Il a exprimé sa crainte qu'une réglementation excessive ne place l'État dans une situation très précaire. Toutefois, il a également admis la nécessité d'une certaine réglementation, suite aux interrogations soulevées par les représentants du secteur de l'intelligence artificielle.