La nouvelle loi californienne sur la sécurité de l'IA montre que la surveillance et l'innovation peuvent coexister

La Californie a adopté la loi SB 53 (Senate Bill 53), relative à l'intelligence artificielle, promulguée la semaine dernière par le gouverneur Gavin Newsom. Ce texte législatif, une première aux États-Unis, impose aux grandes entreprises du secteur de l'IA, notamment celles dont le chiffre d'affaires annuel dépasse 500 millions de dollars, de rendre publics leurs protocoles de sécurité. 

Adam Billen, vice-dent des politiques publiques du groupe de défense des droits des jeunes Encode AI, a déclaré dans une récente interview podcast avec TechCrunch que le SB 53 démontre comment la réglementation gouvernementale peut compléter les progrès technologiques.

La législation oblige ces entreprises à décrire comment elles empêchent que leurs systèmes ne soient utilisés à mauvais escient de manière catastrophique, par exemple lors de cyberattaques ou pour la création d'armes biologiques et chimiques.

« Réglementation et innovation ne sont pas forcément incompatibles. »

« La réalité, c’est que les décideurs politiques savent que nous devons agir », a déclaré dans le Equity . « Il est possible d’adopter une loi qui protège véritablement l’innovation tout en garantissant la sécurité de ces produits. »

Billen soutient que nombre des exigences du projet de loi correspondent à des pratiques déjà appliquées par les entreprises leaders en IA, notamment les tests de modèles et les rapports de transparence. Il souligne toutefois que la pression concurrentielle a conduit certaines entreprises à assouplir leurs protocoles de sécurité, un problème que la nouvelle loi vise à résoudre.

« Les entreprises font déjà ce que nous leur demandons dans ce projet de loi », a-t-il déclaré. « Commencent-elles à rogner sur certains aspects ? Oui. Et c'est pourquoi des projets de loi comme celui-ci sont importants. »

Comme on peut le constater dans une lettre adressée au gouverneur Newsom avant l'adoption du projet de loi, OpenAI a réfuté la loi alors proposée, arguant que la réglementation de l'IA devrait relever de la compétence fédérale et non des gouvernements des États. 

La société de capital-risque Andreessen Horowitz a réaffirmé son soutien, suggérant dans un article de blog que certaines lois étatiques sur l'IA pourraient enfreindre la clause de commerce dormante de la Constitution américaine, qui interdit aux États d'interférer dans le commerce interétatique.

Billen a rejeté ces objections, affirmant que les allégations selon lesquelles les lois étatiques menacent l'innovation ou la compétitivité étaient exagérées. 

« Est-ce que des projets de loi comme le SB 53 nous empêcheront de battre la Chine ? Non. C’est intellectuellement malhonnête de dire que c’est ce qui freinera l’Amérique. »

Le combat de pouvoir entre le gouvernement fédéral et les États en matière de réglementation de l'IA

Encode AI, le groupe que représente Billen, a déjà mené une coalition de plus de 200 groupes pour s'opposer aux propositions de préemption fédérale qui empêcheraient les États d'adopter leurs propres règles en matière d'IA.

Selon Billen, le sénateur américain Ted Cruz figure parmi les responsables politiques qui cherchent à restreindre l'autonomie des États en matière de supervision de l'IA. Cruz a présenté le SANDBOX Act le 10 septembre, qui permettrait aux entreprises spécialisées en IA de demander des dérogations pour contourner temporairement certaines réglementations fédérales pendant une période pouvant aller jusqu'à dix ans.

Le vice-président d'Encode AI prévoit une proposition de cadre fédéral pour l'IA qui, bien qu'apparemment équilibrée, pourrait en réalité primer sur les lois des États. Il a averti qu'une telle législation risquerait d'anéantir le fédéralisme dans l'Amérique numérique et d'exposer le gouvernement à une communauté négligente où les entreprises pourraient commettre des erreurs sans en assumer les conséquences.

Sécurité, fédéralisme et concurrence avec la Chine

Billen a reconnu que la concurrence sino-américaine est bien réelle, mais qu'elle ne justifie pas de bloquer les initiatives étatiques en matière de réglementation de l'IA. Il a déclaré que les législateurs devraient se concentrer sur les contrôles fédéraux à l'exportation et aider les entreprises américaines spécialisées dans l'IA à accéder aux puces informatiques dont elles ont besoin pour être compétitives à l'échelle mondiale.

« Si ce qui vous importe, c'est de battre la Chine dans la course à l'IA, et c'est mon cas, alors vous préconiseriez des contrôles à l'exportation et la garantie que les entreprises américaines disposent des puces », a-t-il poursuivi, « mais ce n'est pas ce que préconise l'industrie. »

Selon Billen, la loi SB 53 est un exemple concret de démocratie en action, une collaboration entre le gouvernement et l'industrie qui a produit une loi acceptable pour les deux parties, même si elle était imparfaite.

« C'est très laid et chaotique. Mais ce processus démocratique et fédéraliste constitue le fondement même de notre pays et de notre système économique. Je pense que la loi SB 53 est l'une des meilleures preuves que cela peut encore fonctionner », a-t-il conclu.