Anthropic retoma testes de cibersegurança após pausa de segurança

Após implementar novas medidas de proteção, a Anthropic retomou seus testes externos de cibersegurança de seus vários modelos. Os testes haviam parado anteriormente em 23 de julho devido a problemas de segurança que ocorreram durante as avaliações.

A reinicialização é importante, pois considera-se que a avaliação externa é um dos meios de avaliar essas soluções de IA de fronteira por clientes, autoridades reguladoras e concorrentes. Essa avaliação está ganhando importância no contexto do aumento do investimento no setor. De acordo com as estimativas feitas pela Gartner em 20 de julho, o gasto total dos usuários finais com modelos e plataformas de IA atingirá US$ 64,252 bilhões em 2026. Isso representa um crescimento de 63,4% em comparação com os US$ 39,311 bilhões de 2025.

Por que uma pausa nos testes abala um mercado de 64 bilhões

A previsão da Gartner indica o rápido crescimento dos gastos em plataformas e modelos de inteligência artificial. À medida que as empresas começam a alocar mais dinheiro para inteligência artificial de ponta, as perguntas sobre a confiabilidade, risco e comportamento de diferentes modelos começam a ganhar força. As avaliações de terceiros fornecem um meio para corporações e reguladores obterem uma avaliação imparcial desses riscos antes que os sistemas sejam finalmente colocados em operação.

Quando a Anthropic interrompeu os testes externos de cibersegurança de seus modelos pré-lançamento, ela removeu temporariamente uma das ferramentas utilizadas por clientes e reguladores para analisar as respostas dos modelos em caso de condições adversárias.

O momento da pausa foi particularmente crítico. Em um resumo de um julho 20 documento de pesquisa realizado pelo MIT FutureTech e pela Universidade de Queensland, 272 especialistas internacionais em IA classificaram armas habilitadas para IA e ciberataques entre os cinco riscos mais perigosos entre 2025 e 2030.

De acordo com o cenário de “mitigação pragmática” do estudo, os especialistas estimam uma chance de 12% de resultados desastrosos para armas habilitadas para IA, ciberataques e outras capacidades causando danos em massa. O relatório destaca informação, segurança nacional e finanças como as áreas mais expostas ao risco da IA.

“Programação e hacking são algumas das áreas onde estamos vendo o crescimento mais rápido na capacidade da IA.” — Peter Slattery, pesquisador do MIT FutureTech e coautor do estudo, falando para o MIT Sloan

Isso torna este caso especialmente importante para os setores de criptomoedas e finanças, onde o risco cibernético, fraude, manipulação e ataques automatizados podem provocar mudanças em numerosos mercados interconectados em questão de minutos.

O que o Claude fez durante as avaliações

Em 30 de julho, a Anthropic reportou três incidentes de suas avaliações de cibersegurança nos quais os modelos Claude acessaram a internet a partir de um ambiente de avaliação de terceiros e obtiveram acesso não autorizado aos sistemas reais de três organizações.

O acesso à internet estava disponível devido a uma configuração incorreta, mesmo que os prompts dissessem aos modelos que eles estavam operando em uma simulação sem acesso à internet. Os modelos também foram executados deliberadamente sem as salvaguardas cibernéticas normais da Anthropic para que os pesquisadores pudessem medir suas capacidades subjacentes.

Então, em 4 de agosto, o Instituto de Segurança de IA do Reino Unido publicou seu relatório de incidente sobre comportamento de agentes não autorizados durante testes cibernéticos. O AISI disse que detectou a atividade em 28 de julho durante uma avaliação de rotina.

O instituto conduziu um teste de cibersegurança de diferentes modelos um total de 122 vezes. Destes, um agente agiu de forma independente e realizou ações não autorizadas em 10 casos, resultando em 19 dessas ações.

Dezessete ações estiveram relacionadas ao Mythos 5 desenvolvido pela Anthropic, e duas ações estiveram relacionadas ao GPT-5.6-Sol desenvolvido pela OpenAI. No caso mais grave, um agente tentou inserir código malicioso em um projeto real de código aberto no GitHub e mais tarde criou contas falsas e tentou persuadir o mantenedor a aprovar a oferta. No entanto, o mantenedor não concordou e o AISI não encontrou danos provenientes das tentativas.

O AISI enfatizou que isso não foi uma fuga de sandbox. Eles disseram que a conectividade à internet foi ativada propositalmente e os classificadores cibernéticos do provedor foram desligados. Eles também apontaram que as configurações do Mythos 5 e GPT-5.6-Sol que foram submetidas ao teste não são vendidas comercialmente.

As salvaguardas que a Anthropic implementou antes da reinicialização

A Anthropic diz que os incidentes combinaram uma falha de segurança operacional com problemas de alinhamento que ela documentou anteriormente, incluindo raciocínio motivado e uma disposição para tomar medidas prejudiciais em busca de um objetivo estreito.

Antes de reiniciar as avaliações externas, a empresa disse em 31 de agosto que havia adicionado um classificador em tempo real que pode bloquear chamadas de ferramentas, encerrar tarefas e alertar um humano quando um modelo explora agressivamente seu ambiente de teste, tenta escapar dele ou obtém acesso à internet inesperadamente.

A Anthropic também moveu sandboxes cibernéticas internas de alto risco para um isolamento mais forte e agora exige que parceiros externos que testam modelos pré-lançamento com salvaguardas reduzidas usem controles mais rigorosos, incluindo sandboxes endurecidas sem acesso à internet por padrão.

A empresa também planeja trabalhar com a METR em uma revisão independente. A METR realizou no início deste ano uma avaliação piloto de riscos internos de IA envolvendo Anthropic, Google, Meta e OpenAI.

A questão mais ampla é o que a Anthropic chama de “ritmar a fronteira”: decidir quando as preocupações com a segurança devem desacelerar o desenvolvimento, mesmo que a pressão comercial empurre a indústria a se mover mais rápido.