Anthropic avertit : une IA développée par une IA pourrait devancer la sécurité et déséquilibrer les marchés
-
Claude a généré plus de 80 % du code d'ingénierie d'Anthropic d'ici mai 2026, mais nécessite toujours une surveillance humaine.
-
Claude a dirigé 26 % des tâches de recherche en IA en août, contre moins de 1 % en février.
-
Aucun système d'IA n'a atteint un autocontrôle entièrement autonome et récursif, selon Anthropic.
L'intelligence artificielle prend en charge de plus en plus de tâches nécessaires à la création de modèles plus performants. Anthropic affirme que Claude assure déjà que le processus se déroule plus rapidement, bien qu'il ne soit pas encore capable de créer un successeur par lui-même. La société, dans une évaluation du 4 juin, a déclaré que l'avancement de l'IA crée un risque que la technologie dépasse directement les contrôles de sécurité et la surveillance réglementaire.
Lorsque l’IA se construit elle-même, et ce que cela ne signifie pas encore
Cependant, Claude n'a pas encore atteint le niveau d'amélioration récursive de soi, où une IA créerait et entraînerait son successeur sans aucune intervention humaine. Selon Anthropic, aucun système n'a encore obtenu cette capacité.
Claude a pu gérer une grande partie des efforts de codage d’Anthropic, bien qu’il ne dispose pas d’une autonomie complète. En mai 2026, Claude avait généré plus de 80 % du code contribué par les ingénieurs aux projets logiciels de l’entreprise. Au deuxième trimestre 2026, un ingénieur typique a produit quotidiennement huit fois plus de code qu’en 2024.
Ces chiffres montrent l'ampleur de la croissance de la production de code, mais pas nécessairement celle du travail utile accompli. Une enquête citée par METR auprès de 349 travailleurs techniques a révélé une augmentation médiane auto-rapportée de 1,4 à 2 fois de la valeur de leur travail grâce aux outils d'IA.
26% dirigés par Claude, aucun totalement autonome
Claude fait désormais plus que rédiger du code. Les mesures d'août d'Anthropic ont montré qu'il dirigeait 26 % des tâches de recherche et développement en IA, contre moins de 1 % en février. Claude a collaboré ou dirigé plus de 90 % des travaux, mais les humains sont restés impliqués tout au long du processus. Aucun des travaux mesurés n'était entièrement autonome.
Les recherches menées par Anthropic et l’enquête METR mesurent des aspects différents. Anthropic suit la génération de code et les travaux de recherche réalisés avec l’aide de systèmes d’IA, tandis que METR évalue comment les travailleurs perçoivent l’augmentation de la valeur de leur travail. Toutefois, aucune de ces études n’indique si l’IA est capable de déterminer quels problèmes de recherche doivent être résolus.
Comment cela pourrait s’amplifier sans qu’un modèle unique ne s’améliore lui-même
L'IA n'a pas besoin d'être entièrement autonome pour effectuer des recherches plus rapidement. Selon un rapport d'octobre du RAND, les agents d'IA peuvent créer des modèles plus performants sans se soucier de créer leurs propres successeurs. Ils peuvent déjà constituer une menace pour la sécurité en ayant accès à des modèles et à du code sensibles.
Selon les économistes de METR, des restrictions pourraient résulter de facteurs tels que la disponibilité des données, la puissance de calcul et la capacité à mener des études expérimentales. Toutefois, ils n'ont pas exclu l'idée d'une accélération soutenue du développement de l'IA
La question est de savoir si des examens de sécurité indépendants seront en mesure de rattraper les expériences alimentées par l’IA. Sinon, la supervision pourrait prendre du retard bien avant l’arrivée de l’autonomie totale.
Passer du rythme de la course à sa régulation
Cette inquiétude a poussé le PDG d'Anthropic, Dario Amodei, à appeler à un développement plus lent et à l'intervention d'évaluateurs indépendants. Dans son essai de septembre, il a écrit :
« Nous devons ralentir le rythme d’amélioration des capacités des modèles d’IA. »
La communication d'OpenAI du 16 septembre a détaillé six cas de comportements préoccupants des modèles. Cryptopolitan a également rapporté des divisions parmi les leaders technologiques quant à la question de ralentir le développement de l'IA.
Mais s'accorder sur les risques en matière de sécurité ne garantit pas une action concrète. CSIS a mis en garde contre les conflits d'intérêts potentiels pour les évaluateurs externes. Les gouvernements doivent également se prémunir contre le captage réglementaire. Les accords sectoriels restent incertains.
L’argent suit la puissance de calcul
Le débat comporte également des enjeux financiers. L'indice IA 2026 de Stanford a révélé que les investissements privés dans l'IA ont progressé de 127,5 % en 2025. Les investissements américains étaient 23 fois supérieurs à ceux de la Chine. L'OCDE met également en garde contre le fait que l'accès aux puces, aux infrastructures cloud et aux données reste concentré. Il en résulte un paradoxe : si l'IA peut rendre la programmation de la recherche moins coûteuse, l'entraînement et les tests de modèles avancés nécessitent toujours d'énormes investissements. Un développement plus rapide pourrait donc conférer aux laboratoires leaders un avantage encore plus grand par rapport aux concurrents plus petits.
Si vous lisez ceci, vous êtes déjà en avance. Restez ainsi grâce à notre newsletter.
FAQ
Qu’est-ce que l’auto-amélioration récursive ?
C’est le moment où un système d’IA peut concevoir et entraîner entièrement son successeur sans intervention humaine. Anthropic affirme que cette ligne n’a pas été franchie et qu’elle n’est pas inévitable.
Quelle part du code et de la recherche d’Anthropic Claude gère-t-il ?
En mai 2026, Claude avait rédigé plus de 80 % du code fusionné chez Anthropic, et en août 2026, il « dirigeait » 26 % de la recherche IA mesurée de l’entreprise, bien qu’aucun domaine mesuré ne fonctionne de manière entièrement autonome.
Que proposait Dario Amodei ?
Dans son essai du 12 septembre, le PDG d’Anthropic a appelé les laboratoires à calibrer le rythme des avancées frontalières, en ralentissant les gains de capacités sans interrompre l’entraînement, en commençant par l’intégration d’évaluateurs tiers comme METR, ainsi que par une coordination entre les laboratoires et les gouvernements des pays démocratiques.
Avertissement. Les informations fournies ne constituent pas des conseils en matière de trading. Cryptopolitan.com décline toute responsabilité concernant les investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement une recherche indépendante et/ou une consultation avec un professionnel qualifié avant de prendre toute décision d'investissement.
Ashish Kumar
Ashish Kumar est un journaliste spécialisé dans la crypto et la finance, avec huit ans d'expérience en rédaction. Il couvre l'actualité des marchés cryptographiques, de la réglementation, de la DeFi et des écosystèmes d'échanges. Il a travaillé pour Coingape, Todayq et Newsroompost. Ashish détient un PGDP en journalisme anglais de l'IIMC. Il a également interviewé des personnalités du secteur telles qu'Arthur Hayes, Yat Siu, Austin Federa, et bien d'autres.
