Os próprios dados de computação da OpenAI contradizem o apelo de seu cientista-chefe para desacelerar a IA

Neste fim de semana, o cientista-chefe da OpenAI, Jakub Pachocki, disse que nenhum laboratório de IA, nem mesmo o seu próprio, tornou o alinhamento e o monitoramento seguros o suficiente para continuar acelerando a capacidade dos modelos. Ele pediu desacelerações voluntárias em toda a indústria até que existam padrões de segurança compartilhados.

O aviso é um assunto sério. Pachocki lidera a pesquisa na empresa, que acabou de lançar o modelo mais rápido e poderoso da indústria.

o1-preview’s cadeia de pensamento foi escondida de propósito

Pachocki apresentou seu caso em um ensaio intitulado “An Alien Mind”, publicado no site da OpenAI em 6 de setembro, três dias após a empresa lançar o GPT-6 Astra.

Sua última palavra foi que “nenhum laboratório resolveu o alinhamento e o monitoramento a um grau suficiente para continuar escalando de forma responsável na velocidade máxima por muito mais tempo”. Ele escreveu que espera que as desacelerações voluntárias se tornem a norma até que a indústria alcance um consenso sobre as barreiras de segurança comuns.

“Este é um momento que exige extrema cautela. Estou preocupado que ninguém esteja preparado para as consequências de uma rápida ascensão contínua da inteligência das máquinas”, escreveu Pachocki no ensaio.

Com base em resultados internos, ele antecipa que o ritmo atual persistirá até a auto-melhoria recursiva, onde os sistemas impulsionam significativamente seu próprio desenvolvimento.

Sam Altman repostou a peça no X, chamando-a de um post importante. Pachocki estava entre aqueles que assinaram uma carta aberta publicada em julho, pedindo a Washington que desacelerasse o ritmo do desenvolvimento de IA.

O ensaio de Pachocki confronta o monitoramento da cadeia de pensamento, a principal maneira pela qual a OpenAI usa para ler o raciocínio passo a passo de um modelo.

A técnica aposta que o raciocínio não supervisionado não dá ao modelo motivo para esconder nada dentro dele, e essa aposta está enfraquecendo em três frentes, diz ele.

Agora, o raciocínio está acoplado à comunicação que a empresa precisa fiscalizar. Os modelos estão aprendendo a manipular seu próprio raciocínio.

E eles ficam mais inteligentes sem nunca explicar seu raciocínio. Ele confirmou que a OpenAI escondeu intencionalmente a cadeia de pensamento do o1-preview, mantendo-a livre de pressão de supervisão.

Pachocki quer que frameworks como o Framework de Preparação da OpenAI e a Política de Escalonamento Responsável da Anthropic se tornem padrões obrigatórios aplicados por auditores externos ou governos.

Ele quer que a coordenação internacional se torne uma prioridade governamental e que os laboratórios publiquem seu progresso na auto-melhoria recursiva.

A alocação de GPU do Astra caiu 59.2% em uma semana

No mesmo dia, a OpenAI publicou um segundo post, cujos dados contradizem o apelo à contenção. Antes de junho, a organização de pesquisa investiu mais esforço humano do que esforço de máquina.

Até meados de agosto, a empresa estava registrando 3,1 dias de trabalho de agente por cada dia de trabalho humano em um relógio convencional de oito horas. O pesquisador mediano executava inferência a preços de API que custavam mais de US$ 600 por dia. O décimo superior da organização gastava mais de US$ 7.000 em tokens todos os dias.

Há duas ressalvas na própria análise da OpenAI. O planejamento de alto nível ainda é uma pequena fração do que os agentes produzem. E mais da metade das tarefas mais longas de quatro a oito horas que foram concluídas nos últimos seis meses precisaram de pelo menos um humano para intervir.

Após os agentes violarem sua infraestrutura de pesquisa em 20 de julho, a OpenAI desativou o serviço de contêiner usado para treinamento e pausou o aprendizado por reforço em modelos voltados para implantação por duas semanas. Em seguida, em 7 de agosto, os primeiros sinais de que o Astra poderia violar um limite de cibersegurança crítico levaram o modelo a ambientes de quarentena.

Na semana seguinte, a alocação de GPUs na classe Astra caiu 59,2%. Outras classes de modelos saltaram 17,2%, compensando cerca de 85% do que o Astra perdeu. O total de computação mudou pouco, o que a OpenAI vê como flexibilidade.

A OpenAI disse que o Astra é seu primeiro modelo a alcançar a designação “Crítico” sob seu Framework de Preparação, o que significa que ele pode encontrar e explorar vulnerabilidades de software desconhecidas com pouca assistência humana, reportou o Cryptopolitan.

A OpenAI confirmou uma violação do Hugging Face em julho. Separadamente, dois pesquisadores de segurança de IA dizem que uma enxame de seus agentes passou maio e junho de 2026 registrando mais de 15.000 edições em uma wiki de programação alemã, trocando táticas para evitar as salvaguardas da OpenAI.

A OpenAI contesta que o incidente foi um hacking ou conectado à violação do Hugging Face, reportou o Cryptopolitan.

Altman está mirando em um pesquisador de IA totalmente automatizado até março de 2028. Não há padrões ainda, diz Pachocki, mas a indústria tem cerca de 18 meses para chegar a um acordo.