Un projet de loi du Sénat ferait de la sécurité de l'IA de pointe une obligation légale, et non une simple promesse

Selon Reuters , les négociateurs du Sénat américain examinent une proposition de loi qui obligerait légalement les développeurs des modèles d'IA les plus avancés à se prémunir contre les dommages catastrophiques et pourrait donner au gouvernement fédéral le pouvoir de bloquer les diffusions non sécurisées .

Pour les entreprises leaders en IA, cela transformera les normes de sécurité, qui relèvent principalement du volontariat, en une obligation légale. Plus largement, une question se pose : une réglementation plus stricte renforcera-t-elle la confiance des consommateurs et des investisseurs ou ne fera-t-elle que consolider le pouvoir des quelques entreprises qui peuvent se la permettre ?.

Des engagements volontaires à un « devoir de diligence »

Selon Reuters, la proposition vise à instaurer une « obligation de vigilance » pour les développeurs de modèles d'IA de pointe. Différentes dispositions sont à l'étude à cet effet. La proposition prévoit notamment l'obligation pour les développeurs de concevoir des modèles d'IA minimisant les risques catastrophiques ; le droit réservé par le gouvernement américain de bloquer les modèles d'IA non sécurisés ; la possibilité de recours en justice contre les décisions gouvernementales ; et la participation des laboratoires nationaux et des partenaires gouvernementaux aux tests d'IA. Cette proposition pourrait prévaloir sur certaines législations étatiques existantes traitant des mêmes questions.

Selon Reuters, les entreprises technologiques américaines engagées dans le développement de l'IA de pointe sont Google (Alphabet), Anthropic et OpenAI.

Les discussions impliquent le chef de la majorité sénatoriale John Thune, le président de la commission du commerce Ted Cruz et la sénatrice Amy Klobuchar, avec la participation de la sénatrice Maria Cantwell.

Klobuchar a déclaré à Reuters que son objectif est :

« La surveillance gouvernementale des risques les plus importants posés par les modèles d’IA »

Selon elle, ce contrôle devrait notamment consister à exiger des développeurs qu'ils collaborent avec des experts gouvernementaux pour vérifier et tester les modèles avancés.

Cruz a présenté une proposition similaire qui met en lumière certaines des pires possibilités offertes par l'IA de pointe. Dans un article publié sur X, Cruz a indiqué collaborer avec Klobuchar et Thune pour :

« Gérer les risques catastrophiques liés aux menaces biologiques ou nucléaires »

Ces préoccupations expliquent pourquoi les négociateurs concentrent leurs efforts sur les modèles les plus fonctionnels au lieu d'exiger les mêmes dispositions de l'ensemble du secteur de l'IA.

Un autre élément important à prendre en compte est celui de la primauté des réglementations fédérales sur certaines restrictions étatiques. Cette approche est globalement conforme au cadre législatif relatif à l'IA mis en place par l'administration Trump, qui soutient qu'un ensemble disparate de lois étatiques entravera le développement de l'IA aux États-Unis et préconise un cadre national plus cohérent.

Pourquoi les législateurs ont-ils cessé de considérer les risques comme théoriques ?

Les législateurs réagissent non seulement à des situations théoriques, mais aussi à desdentimpliquant des agents d'IA agissant de leur propre initiative et pénétrant des systèmes externes, ainsi qu'aux préoccupations exprimées par les chercheurs travaillant pour les principaux acteurs du secteur.

L' IAPP a indiqué que les négociations avaient été déclenchées par la démission de Jacob Coxon, ancien chercheur en anthropologie, et ses inquiétudes concernant une course à l'amélioration automatique de l'IA.

Les demandes se multiplient au Congrès. Le sénateur Josh Hawley enquête sur le rôle d'OpenAI dans la cyberattaque Hugging Face survenue en juillet, tandis que le sénateur Bernie Sanders travaille sur un projet de loi visant à suspendre le développement de la superintelligence, comme l'a rapporté l'IAPP.

OpenAI plaide également pour une législation fédérale contraignante. Dans un article de politique générale publié le 9 septembre, Chris Lehane, directeur des affaires mondiales, a appelé à :

« Réglementation nationale obligatoire en matière de sécurité de l’IA fondée sur les capacités. »

Cela place une partie de l'industrie et le Congrès du même côté sur une question cruciale : les garanties volontaires sont-elles encore suffisantes ?.

L'Europe réglemente déjà ses modèles les plus risqués

Les États-Unis ne seront pas en terrain inconnu. La loi européenne sur l'IA impose de nouvelles obligations aux fournisseurs de modèles d'IA à usage général susceptibles d'engendrer un risque systémique. Ces obligations concernent l'évaluation des modèles, la gestion des risques,dent ainsi que les questions liées à la cybersécurité.

Tout modèle dépassant le seuil de puissance de calcul de 10^25 FLOP sera considéré comme potentiellement systémique. Cependant, la Commission européenne se réserve le droit de classer de la même manière un modèle moins performant, en se basant sur d'autres critères tels que ses capacités ou ses effets.

Les coûts de mise en conformité pourraient avantager les plus grands laboratoires

Les enjeux financiers sont colossaux. Selon Goldman Sachs Research, les investissements mondiaux estimés dans l'IA devraient atteindre environ 1$ 000 milliards de dollars en 2026, dont 581$ milliards aux États-Unis.

Les nouvelles exigences en matière de tests, de réglementation et de documentation pourraient impacter les calendriers de lancement des modèles, les budgets d'infrastructure, les valorisations et le calendrier des introductions en bourse. Ces nouvelles exigences pourraient également avantager les grandes entreprises, les plus petites pouvant avoir des difficultés à supporter les coûts.

Cette tension se manifeste déjà sur les marchés financiers. Selon Cryptopolitan, David Sacks a demandé la suspension de l'introduction en bourse d'Anthropic jusqu'à ce que les allégations de sécurité formulées par Coxon soient vérifiées. Les investisseurs d'Anthropic ont discuté de sa valorisation d'environ 2$ 000 milliards de dollars, ce qui a fait de la sécurité des modèles économiques de pointe une source de préoccupation non seulement pour les régulateurs, mais aussi pour les investisseurs.

L'avenir du projet de loi reste cependant incertain. Selon Reuters, la Chambre des représentants ne siégera qu'une semaine en vue des élections de mi-mandat du 3 novembre, tandis que le Sénat devrait rester en session pendant trois semaines. Même si les parties concernées parviennent à un accord lors des négociations, le nombre limité de jours de session restants pourrait bien constituer le principal obstacle à l'adoption du projet de loi.