Anthropic affirme que trois entreprises chinoises spécialisées en intelligence artificielle ont créé plus de 24 000 faux comptes afin d'extraire des données de son système Claude. L'entreprise explique que l'objectif était d'améliorer rapidement leurs propres modèles.
Les entreprises citées étaient DeepSeek , Moonshot AI et MiniMax. Anthropic a indiqué que ces comptes avaient envoyé plus de 16 millions de requêtes à Claude afin de recueillir des réponses et des schémas pouvant être réutilisés pour l'entraînement.
Anthropic a publié des détails à ce sujet dans un article de blog lundi. L'entreprise a précisé qu'il s'agissait d'une forme de distillation, un processus qui utilise les résultats d'un modèle pour en entraîner un autre. Dario Amodei dirige Anthropic.
Anthropic aurait déclaré que DeepSeek avait généré environ 150 000 interactions avec Claude. Moonshot AI aurait enregistré plus de 3,4 millions d'interactions. MiniMax aurait quant à elle dépassé les 13 millions d'interactions. Anthropic a affirmé que cette ampleur témoigne d'une volonté manifeste d'tracrapidement de la valeur.
OpenAI signale un comportement similaire à Washington
Plus tôt ce mois-ci, OpenAI a adressé une note aux membres de la Chambre des représentants accusant DeepSeek d'avoir utilisé la même technique de distillation pour copier ses systèmes. Sam Altman dirige OpenAI . Après avoir initialement cité OpenAI, l'entreprise a indiqué aux parlementaires que DeepSeek avait tenté d'imiter ses produits en utilisant d'importants volumes de requêtes.
Anthropic a indiqué que la distillation a des applications concrètes. Les entreprises l'utilisent pour fabriquer des versions miniatures de leurs propres modèles. Anthropic a également précisé que cette même méthode permet de créer des systèmes concurrents en un temps record et à un coût bien moindre.
Les données synthétiques jouent désormais un rôle majeur dans l'entraînement des grands modèles de base. Les développeurs y ont recours car les données réelles de haute qualité sont rares. De nombreux laboratoires développent également des systèmes multi-agents capables d'agir pour le compte des utilisateurs. Dans un rapport technique publié en juillet, Moonshot a indiqué avoir utilisé des données synthétiques pour entraîner son modèle Kimi K2.
Anthropic a déclaré que cette activité soulève des préoccupations en matière de sécurité nationale. L'entreprise a affirmé que les laboratoires étrangers qui reproduisent des modèles américains peuvent intégrer ces capacités aux systèmes militaires, de renseignement et de surveillance.
Les marchés réagissent au lancement par Anthropic d'un nouvel outil de sécurité
Anthropic a également lancé vendredi un nouvel outil pour Claude, en accès limité à la recherche. Cet outil analyse le code du logiciel à la recherche de failles et propose des correctifs. Anthropic prévoit une réunion d'information pour les entreprises mardi, au cours de laquelle d'autres annonces de produits seront faites.
Les marchés ont réagi rapidement. Les valeurs de la cybersécurité ont chuté pour la deuxième journée consécutive lundi, les investisseurs craignant que les nouveaux outils d'IA ne remplacent les services de sécurité plus anciens.
CrowdStrike a chuté d'environ 9 %. Zscaler a également reculé d'environ 9 %. Netskope a perdu près de 10 %. SailPoint a reculé de 6 %. Okta, SentinelOne et Fortinet ont chacun perdu plus de 4 %. Palo Alto Networks a baissé de 2 %.
Cloudflare a chuté de 7 % après des gains récents liés à l'intérêt suscité par Moltbot. L'ETF iShares Cybersecurity and Tech a reculé de près de 4 %. L'ETF Global X Cybersecurity a atteint son plus bas niveau depuis novembre 2023.
La pression ne se limite pas aux valeurs mobilières. Les outils d'IA qui créent des applications et des sites web à partir de simples instructions ont ébranlé les sociétés de logiciels cette année.
Salesforce a perdu environ un tiers de sa valeur. ServiceNow a chuté de plus de 34 %. Microsoft a perdu environ 20 %.
Bank of America a déclaré que l'outil Anthropic menace principalement les plateformes d'analyse de code telles que GitLab et JFrog. L'action de GitLab a chuté de 8 % vendredi, tandis que celle de JFrog a dégringolé de 25 % le même jour.
