Agências federais alinham-se para o Anthropic Mythos enquanto a Casa Branca alivia o impasse

A Anthropic está se aproximando de uma implementação federal após o governo dos EUA começar a preparar a concessão de acesso a uma versão de seu modelo Mythos para grandes agências.

A Bloomberg relatou na quinta-feira que o plano já está em andamento, mesmo enquanto funcionários dentro e fora de Washington se preocupam que a ferramenta possa aumentar os riscos de cibersegurança se não for rigorosamente controlada.

A Cryptopolitan relatou anteriormente que o Mythos é limitado a grupos selecionados e destinado ao trabalho cibernético defensivo, não ao uso comercial amplo. Gregory Barbaccia, oficial-chefe de tecnologia da informação do Gabinete de Gestão e Orçamento da Casa Branca, disse aos funcionários dos departamentos do Gabinete em um e-mail de terça-feira que o OMB estava estabelecendo proteções para que as agências pudessem começar a usar o Mythos. 

Relatou-se que a linha de assunto da mensagem era “Acesso ao Modelo Mythos”, e lia-se:

“Estamos trabalhando estreitamente com provedores de modelos, outros parceiros da indústria e a comunidade de inteligência para garantir que as proteções e salvaguardas apropriadas estejam no lugar antes de potencialmente liberar uma versão modificada do modelo para as agências.”

Casa Branca abre a porta enquanto Anthropic Mythos se aproxima do uso em agências

Essa mensagem chegou enquanto ministros das finanças, banqueiros centrais e reguladores estavam em Washington para as reuniões de primavera do FMI e do Banco Mundial, onde altos funcionários financeiros alertaram que a IA avançada das empresas de tecnologia dos EUA poderia expor pontos fracos nas defesas cibernéticas dos credores e colocar o sistema bancário mais amplo sob pressão.

Andrew Bailey, governador do Banco da Inglaterra e presidente do Conselho de Estabilidade Financeira, disse: “É um desafio muito sério para todos nós. Isso nos lembra o quão rápido o mundo da IA se move.”

Andrew então disse que os reguladores em todo o mundo precisariam avaliar rapidamente o risco cibernético que o Anthropic Claude Mythos Preview poderia representar para o sistema financeiro.

Dan Katz, vice-chefe do FMI, disse: “A evolução da tecnologia digital está apresentando riscos imensos do ponto de vista da cibersegurança. Isso será absolutamente essencial na agenda internacional nos próximos meses.”

Christine Lagarde, presidente do Banco Central Europeu, também apontou a Anthropic e o Mythos como um caso em que uma ferramenta útil pode se tornar perigosa nas mãos erradas.

“O desenvolvimento que vimos com a Anthropic e o Mythos é um bom exemplo de uma empresa responsável que de repente está pensando, ‘ah, isso poderia ser realmente bom’, mas se cair nas mãos erradas, pode ser realmente ruim.”

Funcionários globais pressionam por regras enquanto Anthropic limita Opus 4.7

Alguns funcionários pediram uma resposta internacional coordenada após a Anthropic dizer no início deste mês que o Mythos havia encontrado “milhares de vulnerabilidades de alta gravidade, incluindo algumas em todos os principais sistemas operacionais e navegadores web.”

A Anthropic também alertou que capacidades como essas podem se espalhar rapidamente e não permanecer em mãos seguras. A empresa disse que “não demorará muito antes que tais capacidades proliferem, potencialmente além de atores comprometidos em implantá-los com segurança”. Ela acrescentou: “As consequências para economias, segurança pública e segurança nacional podem ser severas.”

Christine disse mais tarde aos repórteres que os funcionários querem um quadro em que possam trabalhar, mas nenhum sistema de governança real está pronto ainda. Ela disse: “Todos estão ansiosos para ter um quadro dentro do qual operar. Não acho que haja um quadro de governança que realmente se preocupe com essas coisas. Precisamos trabalhar nisso.”

Pip White, chefe da Anthropic para o Reino Unido, Irlanda e norte da Europa, disse que o interesse dos executivos aumentou rapidamente após a notícia sobre o modelo. Em uma entrevista, Pip disse: “Estamos colocando nossas próprias salvaguardas e nossas próprias limitações em torno deste produto porque sabemos o quão poderoso ele pode ser.”

Na quinta-feira, a Anthropic também lançou o Opus 4.7, um novo modelo construído para fazer melhor em tarefas de engenharia de software. A empresa disse que o Opus 4.7 pode lidar com algum trabalho de codificação que antes exigia supervisão mais próxima, seguir instruções melhor do que modelos mais antigos e inspecionar imagens de maior resolução para capturar detalhes em gráficos densos e imagens complexas.

Mesmo assim, a Anthropic disse que o Opus 4.7 é menos capaz do que o Mythos, incluindo em casos de uso cibernéticos. Durante o treinamento, a empresa disse que testou maneiras de “reduzir diferencialmente” a capacidade cibernética do modelo.