Les initiés du secteur de l'IA s'attendent à une attaque paralysante dans les 12 mois et sollicitent déjà le Congrès
- De nombreux initiés du secteur de l'IA s'attendent à un incident majeur lié à l'IA dans les six à douze mois.
- Les dirigeants d'Anthropic et OpenAI briefent le Congrès afin d'influencer les règles qui suivront le premier sinistre.
- OpenAI indique que ses exercices de préparation ne considèrent pas ces scénarios comme inévitables.
De nombreuses personnes du secteur de l'IA anticipent un incident majeur lié à l'IA dans les six à douze mois. Selon Axios, les dirigeants d'Anthropic, OpenAI et d'autres grands développeurs travaillent déjà auprès des législateurs qui rédigeront les règles ultérieures.
Les dirigeants reconnaissent qu'aucun projet de loi sur l'IA ne sera adopté désormais, ils tentent donc d'anticiper la législation d'urgence que Washington rédigerait après le premier sinistre.
Le projet de loi de Sanders prévoit jusqu'à 20 ans de prison pour les contrevenants
Les planificateurs s’attendent à ce que les Démocrates sortent renforcés des élections de mi-mandat du 3 novembre et agissent rapidement contre l’intelligence artificielle avancée. Mais cette poussée se heurte à un Congrès plus ancien qui ne maîtrise pas la technologie, à une économie dépendante des investissements dans les centres de données et à des modèles à poids ouverts que tout le monde peut télécharger aujourd’hui.
Les entreprises estiment qu’un contrôle des deux chambres ne mettra pas fin aux luttes internes, y compris au sein des rangs démocrates.
Les propositions vont d’une interdiction de la superintelligence à une pause sur le développement avancé. L’une d’elles émane du sénateur Bernie Sanders et du représentant Greg Casar, et porte le nom de « Ban Artificial Superintelligence Act » (Loi d’interdiction de la superintelligence artificielle).
Elle interdirait les IA qui égalent ou dépassent les humains sur une large gamme de tâches et arrêterait les travaux avancés jusqu’à ce qu’une nouvelle agence fédérale élabore des normes de sécurité. Les sanctions pourraient inclure jusqu’à 20 ans de prison.
Des interrupteurs d’urgence obligatoires pour les modèles avancés sont soutenus par les deux partis et par certaines parties de l’industrie. Certains experts s’interrogent sur la possibilité même d’éteindre tous les systèmes d’intelligence artificielle.
Un collaborateur démocrate a cité la crise financière de 2008 et la COVID comme exemples de mouvements rapides du Congrès lors d’urgences précédentes.
Anthropic et OpenAI craignent une cyberattaque coupant l’électricité et l’eau
Le scénario le plus probable est une cyberattaque d’une ampleur suffisante pour paralyser les banques, les fournisseurs de services Internet ou encore les réseaux d’électricité et d’eau. Les premiers dégâts réels causés par une IA non sécurisée ne feront qu’accroître la méfiance du public envers l’industrie, selon les experts.
Le PDG d’Anthropic, Dario Amodei, le PDG d’OpenAI, Sam Altman, et le président Donald Trump, qui a jusqu’à présent évité de réglementer l’IA, se retrouveraient tous au cœur de la tempête.
Les entreprises réalisent également des tests en rouge (red-teaming) sur ces scénarios extrêmes, en attaquant leurs propres défenses afin d’en identifier les failles.
La simulation de conflits (war-gaming) est une pratique courante dans le monde des affaires et dans le domaine de la sécurité nationale. De nombreux chercheurs et dirigeants estiment ici qu’un incident majeur est inévitable.
« OpenAI mène des exercices de préparation au cours desquels les équipes discutent et analysent une série de scénarios potentiels », a déclaré un porte-parole de l’entreprise. « Ces scénarios ne sont pas considérés comme inévitables, mais visent à nous aider à nous préparer à diverses situations. » Anthropic a refusé de commenter.
En Corée du Sud, un attaquant isolé aurait utilisé des modèles d’IA chinois, dont DeepSeek, pour cibler deux banques dans le pays et voler les données de dizaines de milliers de clients.
CrowdStrike évalue avec une confiance modérée que l’attaquant est probablement un locuteur chinois. Selon le cabinet de sécurité, l’attaquant a ensuite demandé à Claude Code d’Anthropic des conseils sur la manière de le vendre.
Anthropic a révélé quatre exemples de modèles Claude accédant à Internet ouvert pendant les tests et pénétrant dans des systèmes externes. Le laboratoire examine également des dizaines de milliers d'incidents de comportement inattendu des modèles.
Les esprits les plus brillants du secteur crypto lisent déjà notre newsletter. Vous aussi ? Rejoignez-les.
FAQ
À quel événement les entreprises d’IA se préparent-elles ?
Une cyberattaque à grande échelle qui ferait tomber les banques, les services Internet, voire les réseaux électriques et les systèmes d’eau potable.
Comment l’IA a-t-elle été utilisée dans la violation de la banque sud-coréenne ?
Un attaquant aurait utilisé des modèles d’IA chinois, dont DeepSeek, pour voler les données de dizaines de milliers de clients bancaires.
Pourquoi ces entreprises font-elles du lobbying auprès du Congrès maintenant ?
Les dirigeants acceptent qu’aucun projet de loi sur l’IA ne puisse être adopté actuellement, et souhaitent donc influencer la législation d’urgence rédigée après la première catastrophe.
Avertissement. Les informations fournies ne constituent pas des conseils en matière de trading. Cryptopolitan.com décline toute responsabilité concernant les investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement une recherche indépendante et/ou une consultation avec un professionnel qualifié avant de prendre toute décision d'investissement.
Randa Moses
Randa Moses est rédactrice et journaliste chez Cryptopolitan, couvrant la technologie, l'IA, la robotique, la crypto, les arnaques et les piratages. Elle évolue dans l'espace crypto depuis 2017. Elle a occupé des postes chez Forward Protocol, AmaZix et Cryptosomniac. Randa détient un diplôme en génie électrique et électronique de l'Université de Bradford.
