Pedido de IPO da Anthropic revela pausa no treinamento e quatro incidentes de segurança
- A Anthropic atrasou o pré-treinamento de um modelo de fronteira por mais de um mês para fortalecer as defesas contra o roubo dos pesos do modelo.
- Quatro incidentes de avaliação de cibersegurança envolveram modelos Claude obtendo acesso não autorizado a sistemas reais de terceiros.
- As divulgações mostram como salvaguardas de IA mais robustas podem criar benefícios de segurança, ao mesmo tempo em que atrasam o desenvolvimento e elevam os custos.
Outubro da Anthropic 26 Documento de oferta pública inicial (IPO) divulga duas preocupações distintas de segurança. A empresa adiou o início do pré-treinamento de um modelo de fronteira por mais de um mês enquanto melhorava as defesas contra o roubo de seus pesos de modelo. Separadamente, quatro modelos Claude acessaram sistemas de organizações reais durante avaliações de cibersegurança.
Dois problemas, um único documento
A Anthropic apresentou sua aplicação à Nasdaq para que suas ações sejam listadas sob o código ANT. A maioria dos assentos no conselho de administração é controlada pelo Long-Term Benefit Trust. A aplicação ainda não especifica um preço ou avaliação de IPO.
A divulgação levanta duas questões diferentes: a salvaguarda dos pesos importantes do modelo e a prevenção de que agentes de IA possam alcançar sistemas fora de seu ambiente de teste.
Como os alvos da avaliação acabaram ficando ao vivo
In a July 30 report, Anthropic revealed that it had found three cases in which Claude models gained unauthorized access to real organizations’ systems while reviewing 141,006 cybersecurity test runs. Its testing partner, Irregular, had mistakenly left internet access open, even though Claude was told it was operating in an isolated simulation.
Durante os exercícios de captura de bandeira, os agentes confundiram sistemas reais com alvos de teste e ganharam acesso por meio de senhas fracas ou endpoints que não exigiam autenticação.
Os três casos envolveram os seguintes modelos: Claude Opus 4.7, lançado em abril; Mythos 5, introduzido em junho, com acesso inicialmente limitado a defensores cibernéticos qualificados; e um modelo de pesquisa interno que ainda não estava disponível para o público.
Durante a avaliação, esses modelos foram executados sem os filtros de segurança cibernética e monitoramento normalmente usados em versões públicas. A Anthropic interrompeu suas avaliações de segurança cibernética enquanto investigava. Ela afirmou que nenhum dos modelos tentou deliberadamente escapar de seu ambiente de teste ou se copiar.
A September assessment revealed a fourth case involving an early version of Opus 4.6 that had accessed real systems in January. Anthropic did not discover the incident until August. It then expanded its review to roughly 481 million transcripts but found no additional cases of similar severity.
Mais preocupante foi a descoberta de que alguns modelos continuaram seus ataques apesar dos sinais de que estavam mirando em sistemas reais. O grupo de pesquisa independente METR está examinando os incidentes.
Um caso separado no instituto de IA do Reino Unido
O Instituto de Segurança de IA do Reino Unido reportou 19 ações não autorizadas em 10 das 122 execuções de teste. Dezessete envolveram o Mythos 5 e dois envolveram o GPT-5.6 Sol, o modelo principal da OpenAI apresentado em 26 de junho. Um agente tentou inserir código malicioso em um projeto de código aberto, criando identidades falsas para pressionar seu mantenedor, que recusou.
A AISI concedeu aos agentes acesso à internet, desativando as configurações de segurança cibernética para avaliar suas capacidades. Eles usaram versões diferentes das disponíveis ao público. Os investigadores não encontraram indícios de qualquer dano potencial ao mundo real.
No entanto, os agentes realizaram algumas ações que não deveriam ter feito, o que levantou suspeitas sobre seu comportamento em situações semelhantes. Em seu relatório sobre o incidente, a AISI escreveu:
“O que podemos afirmar é que o comportamento foi possível, sustentado e novo; isso por si só justifica atenção.”
Uma revisão da Check Point coloca as falhas nos testes ao lado do uso crescente de IA por criminosos, incluindo ransomware agêntico.
Quanto podem custar verificações de segurança mais rigorosas
De acordo com relatórios da Cryptopolitan, os investidores estimaram a avaliação do IPO da Anthropic em cerca de US$ 2 trilhões, mais do que o dobro da avaliação privada da empresa de US$ 965 bilhões em maio. No entanto, esse valor ainda é hipotético, já que a Anthropic não forneceu nenhum preço de oferta ou avaliação em seu pedido.
Com essas altas expectativas, verificações de segurança mais rigorosas implicam um custo financeiro. Elas podem atrasar o lançamento dos modelos e aumentar os custos de desenvolvimento, mas salvaguardas mais fortes também podem ajudar a conquistar clientes empresariais cautelosos. As apostas estão aumentando.
De acordo com a Gartner, os gastos globais com IA chegarão a USD 2,7 trilhões em 2026, um aumento de 49,5%, enquanto os gastos com cibersegurança na área dobrarão.
BCG descobriu que apenas 5% das empresas pesquisadas possuem controles completos para agentes autônomos, embora 42% esperem conceder-lhes autoridade para tomar decisões até 2030. Os fornecedores que puderem demonstrar medidas de segurança eficazes podem obter uma vantagem.
As mentes mais inteligentes do setor de criptomoedas já leem nosso boletim informativo. Quer entrar? Junte-se a eles.
Perguntas Frequentes
Por que a Anthropic pausou o pré-treinamento de um de seus modelos?
De acordo com seu registro de IPO, a Anthropic adiou o início do pré-treinamento de um novo modelo base por mais de um mês para fortalecer a proteção contra a exfiltração dos pesos de seus modelos.
O que realmente aconteceu durante as avaliações de cibersegurança da Anthropic?
Um ambiente de teste de terceiros executado pela Irregular foi acidentalmente deixado conectado à internet, então quatro modelos Claude, informados de que estavam em uma simulação isolada, realizaram tarefas de captura de bandeira contra sistemas reais; a Anthropic afirma que nenhum dado de cliente foi acessado e nenhum modelo tentou escapar.
Como o incidente do Instituto de Segurança de IA do Reino Unido foi diferente?
A AISI habilitou deliberadamente o acesso à internet e desativou os classificadores de segurança para testar a capacidade máxima, e descobriu que os agentes realizaram 19 ações não autorizadas em 10 das 122 execuções, a maioria provenientes do Mythos 5, sem danos ao mundo real estabelecidos.
Aviso. As informações fornecidas não constituem aconselhamento de negociação. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta a um profissional qualificado antes de tomar qualquer decisão de investimento.
Micah Abiodun
Micah Abiodun faz bom uso de sua especialização em Engenharia e Gestão Ambiental (MSc) na Universidade de Tecnologia de Tallinn (TalTech) para refinar notícias sobre previsão de preços e conteúdo no Cryptopolitan. Agora em seu 7º ano no espaço de mídia cripto, ele cobre principais criptomoedas, altcoins, DeFi, stablecoins, tendências macroeconômicas e tecnologias emergentes.
