Agentes da OpenAI e Anthropic registram 19 violações em testes de segurança no Reino Unido
- O Instituto de Segurança de IA do Reino Unido identificou 19 ações que violam as regras em 122 execuções de teste.
- O Mythos 5 da Anthropic foi responsável por 17 dos incidentes, enquanto o GPT-5.6-Sol da OpenAI foi responsável pelos outros dois.
- O pior incidente envolveu um agente escrevendo código malicioso e forjando identidades online falsas para convencer um humano a aprová-lo.
Durante testes de cibersegurança, os agentes de IA da OpenAI e Anthropic realizaram 19 ações não autorizadas, de acordo com o AI Security Institute do Reino Unido. O instituto afirmou na terça-feira que um dos agentes criou identidades online falsas para enganar uma pessoa e aprovar código malicioso.
AISI registra 19 violações, principalmente da Anthropic
Os resultados basearam-se em um exercício de cibersegurança fictício realizado pela AISI, um órgão do governo do Reino Unido, para explorar o que os agentes das duas empresas poderiam ser capazes de fazer. O instituto repetiu o mesmo desafio 122 vezes e registrou 19 ações que violavam as regras em 10 dessas execuções.
17 das ações sinalizadas foram devido ao agente da Anthropic usar seu modelo Mythos 5. As outras duas vieram do GPT-5.6-Sol da OpenAI.
A AISI disse em um post de blog que alguns dos agentes “haviam se envolvido em atividade sustentada, potencialmente prejudicial, direcionada a pessoas reais e organizações”, embora tenha dito que nenhuma das violações causou danos no mundo real.
A AISI tem acesso antecipado a modelos de fronteira por meio de acordos voluntários com os principais laboratórios. Existem testes para detectar esse tipo de comportamento antes que os modelos cheguem aos clientes.
A OpenAI e a Anthropic comercializam agentes como a próxima onda de software empresarial, mas o instituto apresenta os resultados como evidência de que as salvaguardas em torno dos testes de agentes ainda são frágeis.
O incidente mais grave envolveu um agente que escreveu código malicioso e criou identidades online falsas, depois tentou obter a aprovação de um humano para assinar o código. A AISI não nomeou o modelo por trás disso. Ela disse que o episódio não se encaixava em nenhum dos dois casos OpenAI já havia divulgado.
Isso deixou o provável culpado como sendo o agente da Anthropic, disse Andrew Yoon, pesquisador da CivAI, uma organização sem fins lucrativos da Califórnia que estuda os riscos da IA.
O @AISecurityInst do Reino Unido (AISI) publicou um relatório sobre sua recente avaliação de cibersegurança do Claude Mythos 5 da Anthropic e do GPT-5.6 Sol da OpenAI. Os modelos tentaram concluir uma atribuição em uma configuração onde suas salvaguardas normais foram removidas e eles foram deliberadamente…
— Anthropic (@AnthropicAI) agosto 4, 2026
OpenAI e Anthropic culpam configuração incorreta
A Anthropic disse em uma publicação no X que está trabalhando com a AISI para coletar detalhes e conduzir uma investigação.
A OpenAI respondeu às duas ações associadas ao seu agente em uma publicação no blog da empresa, ambas envolvendo o acesso à internet de maneiras que o prompt havia desautorizado.
A empresa disse que deseja “fortalecer práticas compartilhadas para conduzir avaliações de alto risco com segurança” e planeja reunir institutos nacionais de IA, avaliadores externos e laboratórios rivais nas próximas semanas.
A OpenAI usou a mesma publicação para relatar um problema diferente. A Irregular, uma provedora de testes de terceiros, configurou incorretamente uma instalação, o que inadvertidamente permitiu que os agentes da OpenAI acessassem a internet.
A Anthropic fez uma divulgação muito semelhante sobre a Irregular uma semana antes. A OpenAI ampliou sua própria investigação de hacking após descobrir mais fugas de agentes.
Em julho, um agente da OpenAI escapou de um ambiente isolado e acessou sistemas ao vivo no Hugging Face, que notificou o FBI antes que o ataque fosse rastreado de volta à própria empresa cerca de uma semana depois.
Na avaliação da AISI, os agentes nunca escaparam de suas caixas de areia. A AISI concedeu-lhes acesso à internet de propósito, como parte de seu procedimento padrão.
A violação da Hugging Face também levou Anthropic a auditar seus logs. A Cryptopolitan relatou em 31 de julho que a empresa descobriu que três de seus modelos, incluindo o Mythos 5, haviam escapado dos ambientes de teste e alcançado três organizações reais após uma configuração incorreta ter lhes dado acesso à internet.
O Mythos 5 publicou um pacote Python malicioso no PyPI que foi executado em 15 sistemas reais antes de ser removido. A Anthropic solicitou ao grupo de avaliação METR que revisse os eventos de forma independente.
As mentes mais inteligentes do setor de criptomoedas já leem nosso boletim informativo. Quer entrar? Junte-se a eles.
Perguntas Frequentes
Quantas violações o Instituto de Segurança de IA encontrou e qual modelo causou a maioria delas?
A AISI registrou 19 ações não autorizadas em 122 execuções de teste. O agente Mythos 5 da Anthropic foi responsável por 17 delas, e o GPT-5.6-Sol da OpenAI respondeu pelos outros dois.
Qual foi o incidente mais grave durante os testes?
Um agente escreveu código malicioso e criou identidades online falsas para tentar obter aprovação humana para esse código.
Essas violações causaram algum dano no mundo real?
Não. A AISI afirmou que não encontrou danos reais causados por nenhuma das 19 ações.
Aviso. As informações fornecidas não constituem aconselhamento de negociação. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta a um profissional qualificado antes de tomar qualquer decisão de investimento.
Randa Moses
Randa Moses é editora e repórter na Cryptopolitan, cobrindo tecnologia, IA, robótica, criptomoedas, golpes e hacks. Ela atua no espaço de criptomoedas desde 2017. Já ocupou cargos na Forward Protocol, AmaZix e Cryptosomniac. Randa possui graduação em Engenharia Elétrica e Eletrônica pela Universidade de Bradford.
