Anthropic accuse la Chine de soutirer des données de Claude via 24 000 faux comptes
- Anthropic affirme que DeepSeek, Moonshot AI et MiniMax ont créé plus de 24 000 faux comptes et envoyé plus de 16 millions d'invites à Claude pour extraire des données destinées à l'entraînement de leurs propres modèles.
- DeepSeek a enregistré environ 150 000 interactions, Moonshot AI en a dépassé 3,4 millions et MiniMax plus de 13 millions, tandis qu'Anthropic qualifie cette tactique de distillation.
- Anthropic a mis en garde contre le risque que les laboratoires étrangers utilisant la distillation puissent orienter les capacités des modèles américains vers des systèmes militaires, de renseignement et de surveillance.
Anthropic affirme que trois entreprises chinoises d'IA ont créé plus de 24 000 faux comptes pour extraire des données de son système Claude. L'entreprise déclare que l'objectif était d'améliorer rapidement leurs propres modèles.
Les entreprises nommées étaient DeepSeek, Moonshot AI et MiniMax. Anthropic a déclaré que ces comptes ont envoyé plus de 16 millions d'invites à Claude pour recueillir des réponses et des motifs qui pourraient être réutilisés pour l'entraînement.
Anthropic a partagé les détails dans un article de blog publié lundi. L'entreprise a déclaré que l'activité était une forme de distillation. Ce processus utilise les sorties d'un modèle pour entraîner un autre modèle. Dario Amodei dirige Anthropic.
Anthropic a allégué que DeepSeek a effectué environ 150 000 interactions avec Claude. Moonshot AI a enregistré plus de 3,4 millions de prompts. MiniMax a atteint plus de 13 millions de prompts. Anthropic a déclaré que cette échelle montre une intention claire d'extraire de la valeur à grande vitesse.
OpenAI signale un comportement similaire à Washington
Plus tôt ce mois-ci, OpenAI a envoyé un mémorandum aux législateurs de la Chambre accusant DeepSeek d'utiliser la même technique de distillation pour copier ses systèmes. Sam Altman dirige OpenAI. Après avoir nommé OpenAI, l'entreprise a indiqué aux législateurs que DeepSeek avait essayé d'imiter ses produits par de grands volumes d'invites.
Anthropic a affirmé que la distillation elle-même a des utilisations valides. Les entreprises l'utilisent pour créer des versions plus petites de leurs propres modèles. Anthropic a également indiqué que la même méthode peut créer des systèmes concurrents en une fraction du temps et à une fraction du coût.
Les données synthétiques jouent désormais un rôle majeur dans l'entraînement des grands modèles de base. Les développeurs les utilisent car les données réelles de haute qualité sont limitées. De nombreux laboratoires construisent également des systèmes agents capables d'agir pour les utilisateurs. Dans un rapport technique de juillet, Moonshot a déclaré avoir utilisé des données synthétiques pour entraîner son modèle Kimi K2.
Anthropic a déclaré que cette activité soulève des préoccupations en matière de sécurité nationale. L'entreprise a affirmé que les laboratoires étrangers qui distillent les modèles américains peuvent intégrer ces capacités dans des systèmes militaires, de renseignement et de surveillance.
Les marchés réagissent alors qu'Anthropic lance un nouvel outil de sécurité
Anthropic a également lancé un nouvel outil de sécurité pour Claude vendredi lors d'un aperçu de recherche limité. L'outil analyse le code logiciel à la recherche de faiblesses et suggère des correctifs. Anthropic prévoit de tenir une présentation pour les entreprises mardi avec d'autres annonces de produits.
Les marchés ont réagi rapidement. Les actions de cybersécurité ont baissé pour la deuxième journée consécutive lundi, les investisseurs craignant que les nouveaux outils d'IA ne remplacent les services de sécurité plus anciens.
CrowdStrike a chuté d'environ 9 %. Zscaler a également baissé d'environ 9 %. Netskope a reculé de près de 10 %. SailPoint a diminué de 6 %. Okta, SentinelOne et Fortinet ont chacune perdu plus de 4 %. Palo Alto Networks était en baisse de 2 %.
Cloudflare a chuté de 7 % après des gains récents liés à l'intérêt pour Moltbot. L'ETF iShares Cybersecurity and Tech a baissé de près de 4 %. L'ETF Global X Cybersecurity a atteint son niveau le plus bas depuis novembre 2023.
La pression s'étend au-delà des actions de cybersécurité. Les outils d'IA qui créent des applications et des sites web à partir de simples prompts ont secoué les entreprises de logiciels cette année.
Salesforce a perdu environ un tiers de sa valeur. ServiceNow a chuté de plus de 34 %. Microsoft a baissé d'environ 20 %.
Bank of America a déclaré que l'outil d'Anthropic menace principalement les plateformes d'analyse de code telles que GitLab et JFrog. GitLab a chuté de 8 % vendredi. JFrog a perdu 25 % le même jour.
Ne vous contentez pas de lire les actualités crypto. Comprenez-les. Abonnez-vous à notre newsletter. C'est gratuit.
Jai Hamid
Jai Hamid couvre les cryptomonnaies, les marchés boursiers, la technologie, l'économie mondiale et les événements géopolitiques qui affectent les marchés depuis 6 ans. Elle a travaillé avec des publications axées sur la blockchain, notamment AMB Crypto, Coin Edition et CryptoTale, sur des analyses de marché, des entreprises majeures, la réglementation et les tendances macroéconomiques. Elle est diplômée de la London School of Journalism et a partagé à trois reprises des analyses du marché des cryptomonnaies sur l'une des principales chaînes de télévision d'Afrique.
