Anthropic signale la première espionnage orchestré par l'IA soutenu par la Chine documenté

Anthropic a rapporté ce qu'il dit être le premier cas confirmé d'une cyberattaque soutenue par un gouvernement orchestrée presque entièrement par l'IA.

Selon un blog publié jeudi, l'entreprise a détecté la campagne en septembre 2025, après avoir observé un comportement anormal lié à son outil Claude Code.

Anthropic est convaincue sans l'ombre d'un doute que l'opération d'espionnage a été dirigée par un groupe de piratage soutenu par l'État chinois et impliquait l'infiltration d'environ trente cibles à haute valeur, y compris de grandes entreprises technologiques, des banques, des fabricants de produits chimiques et des agences gouvernementales dans plusieurs pays. Quelques-unes de ces attaques ont réussi.

Ce qui a rendu cela différent des campagnes cybernétiques passées, ce n'était pas seulement qui était derrière, mais comment cela a été exécuté.

Environ 80 à 90 pour cent de l'attaque entière a été exécutée par l'IA, les opérateurs humains intervenant uniquement pour un petit nombre de décisions clés, dit Anthropic.

Les pirates ont jailbreaké Claude et lui ont fait croire qu'il faisait un travail légitime

Les attaquants ont commencé par construire un cadre d'attaque automatisé autour de Claude Code, le propre modèle d'IA d'Anthropic, et l'ont trompé en lui faisant croire qu'il était employé par une entreprise de cybersécurité effectuant des tests internes.

Ils ont contourné les filtres de sécurité de Claude par jailbreaking, une tactique qui leur a permis de contourner les protections intégrées en fournissant à l'IA de petites tâches sans contexte qui semblaient inoffensives individuellement. Claude ne savait pas qu'il était utilisé pour des opérations offensives car il ne recevait pas l'image complète à aucun moment.

Une fois le modèle en service, l'opération a évolué rapidement. Claude a analysé le réseau de chaque cible, identifié les parties les plus sensibles de l'infrastructure et résumé la disposition pour les opérateurs humains. Ensuite, il a commencé à chercher des vulnérabilités dans ces systèmes. En utilisant ses capacités de codage intégrées, Claude a écrit du code d'exploitation personnalisé, identifié les points faibles et récupéré les identifiants de connexion. Il a ensuite extrait de grands volumes de données internes, les a organisés en fonction de leur valeur potentielle et a signalé les comptes à haut accès.

Après que l'IA a obtenu un contrôle de niveau administrateur, elle a créé des portes dérobées qui ont donné un accès continu aux systèmes compromis. Et une fois terminée, Claude a rédigé des rapports détaillés de tout ce qu'il avait fait (listant les noms d'utilisateur, les systèmes violés et les identifiants) afin que le cadre d'attaque puisse utiliser ces informations pour des opérations futures.

Bien que Claude ait été extrêmement efficace, il n'était pas parfait. Parfois, il inventait des mots de passe ou identifiait à tort des données publiques comme sensibles. Mais ces bugs étaient rares et n'ont pas ralenti la mission globale. La vitesse pure de l'exécution de l'IA, traitant des milliers de requêtes par seconde, la plaçait bien au-delà de ce qu'une équipe humaine aurait pu accomplir.

Les agents IA font maintenant le travail des escadrons de pirates d'élite, avec presque aucune implication humaine

Cette campagne est un tournant car elle montre à quel point l'IA a progressé en seulement un an. Claude était littéralement en train de faire tourner des boucles, de prendre des décisions et de chaîner des séquences complexes sans ordres directs.

Ce modèle d'IA utilisait des outils du protocole de contexte de modèle, lui donnant accès à des logiciels externes comme des cracheurs de mots de passe, des cartographes de réseau et des récupérateurs de données qui étaient autrefois contrôlés uniquement par des humains.

Le système Claude comprend désormais des instructions complexes, écrit du code d'exploitation seul et gère des opérations de cybersécurité sophistiquées avec très peu de guidance. Ces agents IA n'assistent pas seulement les pirates, ils sont les pirates. Et ils deviennent de plus en plus capables chaque jour.

Après avoir découvert la violation, Anthropic a immédiatement commencé une enquête de dix jours, bannissant les comptes malveillants un par un. Ils ont alerté les organisations affectées, travaillé avec les autorités pour transmettre des renseignements et élargi leurs systèmes de détection pour attraper des opérations similaires à l'avenir.

Mais l'entreprise ne prétend pas qu'il s'agit d'un problème ponctuel. L'équipe dit que ces attaques ne deviendront que plus courantes et plus faciles à réaliser. C'est parce que les compétences nécessaires pour les exécuter ne sont plus réservées aux pirates d'élite. Si quelqu'un peut jailbreaker un modèle et le brancher sur le bon ensemble d'outils, il pourrait mener une campagne massive sans avoir besoin d'une équipe ou même de connaissances techniques approfondies.

Anthropic met en garde contre des menaces croissantes à mesure que les modèles IA évoluent au-delà de la supervision humaine

Les implications sont massives, car si des équipes sans financement profond ou compétences techniques peuvent lancer des attaques à l'échelle des nations en utilisant des systèmes d'IA automatisés, la dystopie est certainement parmi nous.

L’équipe de Threat Intelligence d’Anthropic met en garde : bien qu’ils n’aient suivi l’activité que via Claude, il est probable que des abus similaires se produisent sur d’autres modèles d’IA de pointe. Ils affirment qu’il s’agit du début d’une nouvelle norme dans la cyberguerre.

Alors pourquoi continuer à publier des modèles avec ces capacités, vous demandez-vous ? Eh bien, Anthropic soutient que ces mêmes outils sont essentiels pour la défense, affirmant que « l'IA qui a mené l'attaque était aussi celle utilisée par les analystes d'Anthropic pour fouiller les décombres, trouver des modèles et comprendre l'ampleur totale de l'opération ».

Ils ont toutefois promis d’améliorer les couches de sécurité internes de leurs modèles, ainsi que d’affiner leurs classificateurs pour la détection des attaques, et de publier ouvertement des études de cas comme celle-ci afin que d’autres acteurs de l’industrie puissent se préparer.

Cela dit, Anthropic estime qu’il ne suffit pas de compter uniquement sur eux. Ils exhortent tous les développeurs travaillant sur des modèles d’envergure à investir massivement dans la sécurité.

Et ils appellent les équipes de cybersécurité à commencer à intégrer l’IA dans la détection des menaces, la réponse aux incidents, les analyses de vulnérabilités et l’automatisation des centres d’opérations de sécurité (SOC), car les méthodes traditionnelles ne sont plus assez rapides.