Les agences fédérales s'alignent sur Anthropic Mythos alors que la Maison-Blanche assouplit le conflit

Anthropic se rapproche d'un déploiement fédéral après que le gouvernement américain a commencé à préparer l'accès à une version de son modèle Mythos pour les grandes agences.

Bloomberg a rapporté jeudi que le plan est maintenant en cours, alors que des responsables à l'intérieur et à l'extérieur de Washington s'inquiètent que l'outil puisse soulever des risques de cybersécurité s'il n'est pas strictement contrôlé.

Cryptopolitan a précédemment rapporté que Mythos est limité à des groupes sélectionnés et destiné au travail défensif en cybersécurité, et non à une utilisation commerciale large. Gregory Barbaccia, responsable principal de l'information fédéral au Bureau de la gestion et du budget de la Maison-Blanche, a déclaré aux responsables des départements du Cabinet dans un email de mardi que le OMB mettait en place des protections afin que les agences puissent commencer à utiliser Mythos. 

Selon les rapports, l'objet du message était « Accès au modèle Mythos », et il lisait :

« Nous travaillons en étroite collaboration avec les fournisseurs de modèles, d'autres partenaires de l'industrie et la communauté du renseignement pour garantir que les garde-fous et les sauvegardes appropriés sont en place avant de potentiellement libérer une version modifiée du modèle aux agences. »

La Maison-Blanche ouvre la porte alors que le modèle Anthropic Mythos se dirige vers une utilisation par les agences

Ce message est tombé alors que les ministres des finances, les banquiers centraux et les régulateurs étaient à Washington pour les réunions de printemps du FMI et de la Banque mondiale, où des responsables financiers de haut niveau ont averti que l'IA avancée des entreprises technologiques américaines pourrait exposer les faiblesses des défenses cyber des prêteurs et mettre le système bancaire plus large sous pression.

Andrew Bailey, gouverneur de la Banque d'Angleterre et président du Conseil de stabilité financière, a déclaré : « C’est un défi très sérieux pour nous tous. Cela nous rappelle à quel point le monde de l’IA évolue rapidement. »

Andrew a ensuite indiqué que les régulateurs du monde entier devraient évaluer rapidement les risques cybernétiques que pourrait présenter la version d’essai Claude Mythos Preview d’Anthropic pour le système financier.

Dan Katz, directeur général adjoint du FMI, a déclaré : « L’évolution des technologies numériques pose des risques immenses sur le plan de la cybersécurité. Cela deviendra absolument essentiel à l’ordre du jour international au cours des prochains mois. »

Christine Lagarde, présidente de la Banque centrale européenne, a également pointé du doigt Anthropic et Mythos comme un cas où un outil utile peut devenir dangereux entre de mauvaises mains.

« Le développement que nous avons observé avec Anthropic et Mythos est un bon exemple d’une entreprise responsable qui se dit soudainement : “ah, cela pourrait être vraiment utile”, mais si cela tombe entre de mauvaises mains, cela pourrait être vraiment dangereux. »

Les responsables mondiaux appellent à des règles tandis qu’Anthropic limite Opus 4.7

Certains responsables ont appelé à une réponse internationale coordonnée après qu’Anthropic a annoncé plus tôt ce mois-ci que Mythos avait trouvé « des milliers de vulnérabilités de haute gravité, y compris dans tous les principaux systèmes d’exploitation et navigateurs web. »

Anthropic a également mis en garde contre le fait que des capacités comme celles-ci pourraient se propager rapidement et ne pas rester entre de bonnes mains. L’entreprise a déclaré qu’il « ne faudrait pas longtemps avant que de telles capacités ne prolifèrent, potentiellement au-delà des acteurs engagés à les déployer en toute sécurité. » Elle a ajouté : « Les retombées pour les économies, la sécurité publique et la sécurité nationale pourraient être sévères. »

Christine a plus tard déclaré aux journalistes que les responsables souhaitent un cadre dans lequel ils peuvent travailler, mais qu’aucun système de gouvernance réel n’est encore prêt. Elle a déclaré : « Tout le monde est désireux d’avoir un cadre dans lequel opérer. Je ne pense pas qu’il existe un cadre de gouvernance conçu spécifiquement pour veiller sur ces aspects. Nous devons travailler là-dessus. »

Pip White, responsable d’Anthropic pour le Royaume-Uni, l’Irlande et le nord de l’Europe, a déclaré que l’intérêt des dirigeants a augmenté rapidement après les nouvelles concernant le modèle. Dans une interview, Pip a déclaré : « Nous mettons en place nos propres garde-fous et nos propres limitations autour de ce produit parce que nous savons à quel point il peut être puissant. »

Jeudi, Anthropic a également publié Opus 4.7, un nouveau modèle conçu pour mieux performer sur les tâches d’ingénierie logicielle. L’entreprise a déclaré qu’Opus 4.7 peut gérer certains travaux de codage qui nécessitaient auparavant une supervision plus étroite, suivre les instructions mieux que les modèles plus anciens, et inspecter des images à plus haute résolution pour détecter les détails dans les graphiques denses et les images complexes.

Même si, Anthropic a déclaré qu’Opus 4.7 est moins capable que Mythos, y compris dans les cas d’usage liés à la cybersécurité. Pendant l’entraînement, l’entreprise a déclaré qu’elle avait testé des moyens de « réduire différenciellement » les capacités cybernétiques du modèle.