Le projet de loi du Sénat ferait de la sécurité de l'IA de pointe un devoir légal, et non une promesse
- Selon Reuters, des négociateurs du Sénat américain dirigés par Thune, Cruz et Klobuchar élaborent un projet de loi bipartite qui imposerait une « obligation de diligence » légale aux plus grands développeurs d'IA pour prévenir les risques catastrophiques et autoriserait le gouvernement à bloquer la mise sur le marché de modèles jugés dangereux.
- Le projet de loi remplacerait les engagements volontaires en matière de sécurité par des obligations contraignantes dans un marché que Goldman Sachs s'attend à voir attirer plus de 1 billion de dollars en 2026.
- Le calendrier législatif serré avant les élections mi-mandat rend le passage imminent incertain.
Selon Reuters.
Pour les principales entreprises d'IA, cela transformera les normes de sécurité d'un effort principalement volontaire en un devoir légal. Une question plus large du marché est de savoir si des réglementations plus strictes favoriseront la confiance parmi les consommateurs et les investisseurs ou simplement renforceront les quelques entreprises qui peuvent se permettre de les respecter.
Des engagements volontaires à un « devoir de diligence »
Selon Reuters, la proposition cherche à créer ce qui est appelé un « devoir de diligence » pour les développeurs de modèles d'IA de pointe. Diverses stipulations sont examinées à cette fin. La proposition comprend des exigences pour : les développeurs doivent concevoir des modèles d'IA qui minimisent les risques catastrophiques ; le droit réservé du gouvernement américain de bloquer les modèles d'IA dangereux ; les appels judiciaires contre les décisions gouvernementales ; et l'implication des laboratoires nationaux et des partenaires gouvernementaux dans les tests d'IA. Cette proposition prendra probablement le pas sur certaines législations étatiques existantes régissant les mêmes questions.
Selon Reuters, les entreprises technologiques américaines engagées dans le développement de l'IA de pointe sont Google (Alphabet), Anthropic et OpenAI.
Les discussions impliquent le leader de la majorité au Sénat, John Thune, le président du comité du Commerce, Ted Cruz, et la sénatrice Amy Klobuchar, avec la sénatrice Maria Cantwell également impliquée.
Klobuchar a dit à Reuters que son objectif est :
« la supervision gouvernementale des plus grands risques posés par les modèles d'IA »
Cette supervision, a-t-elle dit, devrait inclure l'exigence pour les développeurs de travailler avec des experts gouvernementaux pour vérifier et tester les modèles avancés.
Cruz a présenté une proposition similaire qui indique certaines des pires possibilités de l'IA de pointe. Dans un post sur X, Cruz a déclaré qu'il collaborait avec Klobuchar et Thune pour :
« traiter les risques catastrophiques impliquant des menaces biologiques ou nucléaires »
Ces préoccupations expliquent pourquoi les négociateurs concentrent leurs efforts sur les modèles les plus fonctionnels au lieu d'exiger les mêmes dispositions de toute l'industrie de l'IA.
Une autre considération importante est de savoir si les réglementations fédérales devraient supplanter certaines des restrictions au niveau de l'État. Cette approche est généralement cohérente avec le cadre législatif sur l'IA de l'administration Trump, qui maintient qu'un ensemble désordonné de lois étatiques entravera l'expérience dans le développement de la technologie IA en Amérique et appelle plutôt à un cadre national plus cohérent.
Pourquoi les législateurs ont cessé de traiter les risques comme théoriques
Les législateurs répondent non seulement à des situations théoriques mais aussi à des incidents d'agents IA agissant de leur propre chef et pénétrant des systèmes externes, ainsi qu'aux préoccupations exprimées par des chercheurs travaillant dans les principaux acteurs de l'industrie.
Le IAPP a indiqué que les négociations ont été déclenchées par la démission de Jacob Coxon, ancien chercheur chez Anthropic, et ses préoccupations concernant une course à l'IA auto-améliorante.
Les demandes augmentent sur Capitol Hill. Le sénateur Josh Hawley enquête sur le rôle d'OpenAI dans la cyberattaque de Hugging Face qui a eu lieu en juillet, tandis que le sénateur Bernie Sanders travaille sur un projet de loi visant à suspendre le développement de la superintelligence, comme rapporté dans l'IAPP.
OpenAI plaide également pour une législation fédérale contraignante. Dans un article de politique publié le 9 septembre, Chris Lehane, Directeur des Affaires mondiales, a appelé à :
« une réglementation nationale obligatoire de la sécurité de l'IA basée sur les capacités. »
Cela place une certaine partie de l'industrie et le Congrès du même côté d'une question cruciale sur le point de savoir si les sauvegardes volontaires sont encore suffisantes.
L'Europe réglemente déjà ses modèles les plus risqués
Les États-Unis ne navigueront pas dans des eaux inexplorées. Le AI Act de l'Union européenne a imposé de nouvelles responsabilités aux fournisseurs de modèles d'IA à usage général qui présentent un risque systémique potentiel. Les devoirs concernent l'évaluation des modèles, la gestion des risques, le signalement des incidents ainsi que les questions liées à la cybersécurité.
Tout modèle au-dessus du seuil de puissance de calcul de 10^25 FLOP sera considéré comme potentiellement de nature systémique. Cependant, la Commission européenne a le droit de classer un modèle moins performant de manière similaire sur la base d'autres critères comme les capacités ou les effets.
Les coûts de conformité pourraient favoriser les plus grands laboratoires
Les enjeux financiers sont énormes. Selon Goldman Sachs Research, l'investissement mondial estimé en IA devrait atteindre environ 1 billion de dollars en 2026, dont 581 milliards de dollars aux États-Unis.
De nouvelles exigences de test, juridiques et de documentation pourraient affecter les calendriers de sortie des modèles, les budgets d'infrastructure, les valorisations et le calendrier des IPO. De nouvelles exigences pourraient également fournir un avantage aux plus grands acteurs car les petites entreprises pourraient ne pas être en mesure de supporter les coûts.
Cette tension est déjà visible sur le marché des capitaux. Selon Cryptopolitan, David Sacks a appelé à la suspension de l'introduction en bourse (IPO) d'Anthropic jusqu'à ce que les allégations de sécurité faites par Coxon soient vérifiées. Les investisseurs d'Anthropic ont eu une conversation autour d'une valorisation d'environ 2 billions de dollars, ce qui a transformé la sécurité des modèles de pointe en une question de préoccupation non seulement pour les régulateurs mais aussi pour les investisseurs.
La progression du projet de loi, cependant, est incertaine. Comme rapporté par Reuters, la Chambre ne sera en session que pendant une semaine en préparation des élections mi-mandat du 3 novembre, tandis que les sénateurs devraient rester pendant trois semaines. Même si les parties impliquées atteignent un accord pendant les négociations, les jours législatifs limités restants pourraient très bien servir d'obstacle majeur à la prochaine étape du passage du projet de loi.
Ne vous contentez pas de lire les actualités crypto. Comprenez-les. Abonnez-vous à notre newsletter. C'est gratuit.
FAQ
Que requerrait réellement le projet de loi du Sénat sur l'IA ?
Il créerait une « obligation de diligence » légale obligeant les développeurs des modèles d'IA les plus avancés à concevoir leurs systèmes contre les « risques catastrophiques », et permettrait au gouvernement américain de bloquer les mises sur le marché qu'il juge dangereuses, les entreprises disposant de la possibilité de faire appel devant un tribunal fédéral, selon Reuters.
Quelles entreprises seraient concernées par cette législation ?
Le projet de loi ne s'appliquerait qu'aux modèles dotés des capacités les plus avancées ; Reuters a cité Google (Alphabet), Anthropic et OpenAI comme les entreprises américaines opérant à la frontière de cette technologie.
Pourquoi le Congrès agit-il maintenant sur la sécurité de l'IA ?
Reuters a cité des rapports sur des agents IA s'écartant de leurs instructions et piratant des systèmes externes, ainsi que des avertissements émis par des chercheurs en partance, tandis que l'IAPP a indiqué que cette initiative était principalement motivée par la démission du chercheur d'Anthropic, Jacob Coxon.
Avertissement. Les informations fournies ne constituent pas des conseils en matière de trading. Cryptopolitan.com décline toute responsabilité concernant les investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement une recherche indépendante et/ou une consultation avec un professionnel qualifié avant de prendre toute décision d'investissement.
Ibiam Wayas
Ibiam Wayas couvre l'actualité des cryptomonnaies depuis 2019. Il a étudié l'informatique à l'Université ouverte du Nigeria. Ses travaux ont été publiés sur diverses plateformes d'actualités cryptographiques, dont Coinfomania, Crypto News Australia et AltcoinBuzz. Fort de son background en informatique, il se concentre désormais sur les actualités liées aux cryptomonnaies, à la robotique et à la longévité.
