Source : PexelsAnthropic se rapproche d'un déploiement fédéral après que le gouvernement américain a commencé à se préparer à accorder l'accès à une version de son modèle Mythos aux principales agences.
Bloomberg a rapporté jeudi que le plan est désormais en cours, alors même que des responsables à Washington et ailleurs craignent que cet outil ne soulève des risques de cybersécurité s'il n'est pas strictement contrôlé.
Cryptopolitan avait précédemment indiqué que Mythos était réservé à certains groupes et destiné à la cyberdéfense, et non à un usage commercial généralisé. Gregory Barbaccia, directeur des systèmes d'information au sein du Bureau de la gestion et du budget de la Maison-Blanche, a informé les responsables des ministères, dans un courriel envoyé mardi, que le Bureau mettait en place des mesures de protection afin que les agences puissent commencer à utiliser Mythos.
L’objet du message était apparemment « Accès au modèle Mythos », et il disait :
« Nous travaillons en étroite collaboration avec les fournisseurs de modèles, d'autres partenaires du secteur et la communauté du renseignement afin de garantir la mise en place de garde-fous et de garanties appropriés avant d'éventuellement diffuser une version modifiée du modèle aux agences. »
La Maison Blanche ouvre la porte alors que le mythe anthropique se dirige vers une utilisation par les agences
Ce message est parvenu à destination alors que les ministres des Finances, les banquiers centraux et les régulateurs se trouvaient à Washington pour les réunions de printemps du FMI et de la Banque mondiale, où de hauts responsables financiers ont averti que l'IA avancée des entreprises technologiques américaines pourrait révéler des failles dans les cyberdéfenses des prêteurs et mettre sous pression l'ensemble du système bancaire.
Andrew Bailey, gouverneur de la Banque d'Angleterre et président du Conseil de stabilité financière, a déclaré : « C'est un défi très sérieux pour nous tous. Cela nous rappelle à quelle vitesse évolue le monde de l'IA. »
Andrew a ensuite déclaré que les organismes de réglementation du monde entier devraient rapidement évaluer le risque cybernétique que Claude Mythos Preview d'Anthropic pourrait représenter pour le système financier.
Dan Katz, directeur général adjoint du FMI, a déclaré : « L’évolution des technologies numériques pose d’immenses risques en matière de cybersécurité. Ce sujet sera absolument essentiel à l’agenda international au cours des prochains mois. »
Christine Lagarde,dent de la Banque centrale européenne, a également cité Anthropic et Mythos comme exemples où un outil utile peut devenir dangereux entre de mauvaises mains.
« Le développement que nous avons observé avec Anthropic et Mythos est un bon exemple d'entreprise responsable qui se dit soudainement : "Ah, ça pourrait être vraiment bien", mais si cela tombe entre de mauvaises mains, cela pourrait être vraiment catastrophique. »
Les responsables internationaux font pression pour l'établissement de règles tandis qu'Anthropic limite l'Opus 4.7
Certains responsables ont appelé à une réponse internationale coordonnée après qu'Anthropic a déclaré plus tôt ce mois-ci que Mythos avait découvert « des milliers de vulnérabilités de haute gravité, dont certaines dans tous les principaux systèmes d'exploitation et navigateurs Web »
Anthropic a également averti que de telles capacités pourraient se propager rapidement et ne pas rester entre de bonnes mains. L'entreprise a déclaré qu'il ne faudrait « pas longtemps avant que ces capacités ne prolifèrent, potentiellement au-delà des acteurs qui s'engagent à les déployer en toute sécurité ». Elle a ajouté : « Les répercussions sur les économies, la sécurité publique et la sécurité nationale pourraient être graves. »
Christine a déclaré plus tard aux journalistes que les responsables souhaitent un cadre de travail, mais qu'aucun système de gouvernance n'est encore prêt. Elle a ajouté : « Tout le monde souhaite disposer d'un cadre opérationnel. Je ne pense pas qu'il existe un cadre de gouvernance spécifiquement conçu pour gérer ces aspects. Nous devons y travailler. »
Pip White, directrice d'Anthropic pour le Royaume-Uni, l'Irlande et l'Europe du Nord, a indiqué que l'intérêt des dirigeants s'était rapidement accru après la diffusion de l'information concernant le modèle. Dans une interview, elle a déclaré : « Nous mettons en place nos propres mesures de sécurité et limitations pour ce produit, car nous sommes conscients de son potentiel. »
Jeudi, Anthropic a également lancé Opus 4.7, un nouveau modèle conçu pour optimiser les tâches d'ingénierie logicielle. L'entreprise a indiqué qu'Opus 4.7 peut gérer certaines tâches de codage qui nécessitaient auparavant une supervision plus étroite, suivre les instructions avec plus de précision que les modèles précédents et analyser des images haute résolution afin de détecter les détails dans les graphiques denses et les images complexes.
Malgré cela, Anthropic a indiqué qu'Opus 4.7 est moins performant que Mythos, notamment dans les cas d'utilisation liés à la cybersécurité. L'entreprise a précisé avoir testé, lors de la formation, des méthodes permettant de réduire de manière différenciée les capacités cybernétiques du modèle.
