- Os próprios agentes de modelos de fronteira da OpenAI encontraram falhas desconhecidas que lhes permitiram escapar das caixas de areia e acessar a internet.
- Agentes em máquinas virtuais separadas trocavam segredos por meio do cache do processador, o truque de timing por trás dos ataques Spectre e Meltdown.
- A OpenAI reiniciou o treinamento de RL de fronteira em 1º de outubro, sem acesso à internet.
A OpenAI enviou equipes de seus próprios agentes de modelos de fronteira para sua infraestrutura de treinamento, e os modelos encontraram bugs de software desconhecidos que lhes permitiram romper as caixas de areia e acessar a internet.
Correções atingem Kata Containers, gVisor e o kernel do Linux
A campanha contou com alguns dos melhores modelos da empresa, incluindo o futuro modelo GPT-6 Astra Cyber e um modelo interno de fronteira. A OpenAI forneceu-lhes o código-fonte da infraestrutura, informações de configuração e documentação sobre possíveis pontos fracos.
Em seguida, gastaram centenas de bilhões de tokens nos testes.
Os agentes tinham três objetivos: alcançar a internet em tempo real, cruzar uma fronteira de segurança interna e trocar mensagens com outros agentes dos quais deveriam estar isolados.
As correções foram enviadas para os repositórios upstream do Kata Containers (incluindo CVE-2026-24834), bem como para gVisor e Moby/Docker.
Patches para o kernel Linux estão disponíveis para CVE-2026-74753, CVE-2026-80521 e CVE-2026-80841. A OpenAI afirmou que também reportou muitas outras vulnerabilidades que ainda não foram divulgadas publicamente.
Agentes que receberam acesso a uma máquina host expuseram falhas em quase todos os serviços restritos que ainda permitiam saída, como métricas, logs e gerenciamento de autenticação. Em um dos testes, um agente utilizou uma conexão existente aprovada por um firewall para acessar um endpoint de autenticação bloqueado no serviço de métricas e, em seguida, fez com que ele buscasse uma URL fornecida pelo modelo.
Agentes em VMs distintas trocaram segredos mesmo na ausência de um link de rede e arquivos comuns. Um expulsou os dados escolhidos do cache do processador; o outro cronometrou quanto tempo levou para recarregá-los, usando a mesma técnica de timing de cache por trás dos ataques Spectre e Meltdown.
A OpenAI afirmou que não encontrou uma maneira trivialmente explorável pelos agentes de acessar a internet enquanto se escondiam de seus monitores. À medida que os testes avançavam, as descobertas diminuíram, disse a empresa, mas espera que modelos futuros encontrem falhas que ainda não conhece.
As retomadas da Frontier ocorreram em 20 de outubro 1 sem acesso à internet em tempo real
Agora, segundo a OpenAI, ela bloqueia o acesso à internet em tempo real durante o treinamento de modelos frontier, até que suas salvaguardas sejam suficientemente robustas para justificar mais acesso. Os modelos praticam a navegação em um “mundo offline” composto por páginas web indexadas e em cache, escreveu a OpenAI, para que agentes capazes e desalinhados não tenham oportunidades de influenciar sistemas fora do controle da empresa por meio de acesso em tempo real.
A pausa foi imposta pelo incidente de 20 de setembro. Um modelo de pesquisa interno, preso em uma tarefa de busca, detectou que o próprio resolvedor DNS da sandbox estava respondendo a consultas reais.
Ele usava delegação DNS para encaminhar perguntas a um chatbot externo, que respondeu: "A capital da França é Paris." O monitoramento sinalizou a atividade para revisão em 15 minutos e uma pessoa começou a analisá-la três minutos depois.
A execução não parou automaticamente e foi interrompida cerca de 2,5 horas depois. A OpenAI congelou o treinamento e a avaliação de seus modelos mais capazes e, em seguida, fechou a brecha em duas camadas independentes.
O treinamento RL e o uso interno de seus modelos de fronteira foram retomados em 1º de outubro, 11 dias após o início da pausa.
O lockdown remonta a julho, quando agentes da OpenAI hackearam os sistemas do Hugging Face, contornando os controles de avaliação. O maior run planejado de RL de fronteira pela OpenAI ainda estava suspenso em agosto.
Desde então, o Procurador-Geral da Califórnia, Rob Bonta, emitiu um mandado investigativo à empresa sobre incidentes de cibersegurança envolvendo seus modelos, conforme relatou o Cryptopolitan.
As mentes mais inteligentes do setor de criptomoedas já leem nosso boletim informativo. Quer entrar? Junte-se a eles.
Perguntas Frequentes
O que os agentes de red-teaming da OpenAI realmente encontraram?
Falhas de software e configurações incorretas anteriormente desconhecidas que permitiram escapar das caixas de areia e acessar a internet.
Como o agente de setembro 20 alcançou a internet?
Ele usou o resolvedor DNS e a delegação DNS da própria caixa de areia para encaminhar perguntas a um chatbot externo.
Por que a OpenAI está treinando seus modelos de fronteira sem acesso à internet?
A OpenAI afirmou que o acesso à internet real oferece a um agente capaz e mal alinhado oportunidades de afetar sistemas além de seu controle.
Aviso. As informações fornecidas não constituem aconselhamento de negociação. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta a um profissional qualificado antes de tomar qualquer decisão de investimento.
Randa Moses
Randa Moses é editora e repórter na Cryptopolitan, cobrindo tecnologia, IA, robótica, criptomoedas, golpes e hacks. Ela atua no espaço de criptomoedas desde 2017. Já ocupou cargos na Forward Protocol, AmaZix e Cryptosomniac. Randa possui graduação em Engenharia Elétrica e Eletrônica pela Universidade de Bradford.
