OpenAI interrompe campanha vinculada à Moonshot enquanto guerra de destilação de IA se intensifica

A OpenAI fez acusações de raspagem de dados contra sua concorrente chinesa, a Moonshot AI. Ela conectou uma enorme onda de atividades de sondagem, projetadas para decifrar como seus modelos pensam ao resolver problemas complexos, a milhares de tentativas de usuários afiliados à Moonshot.

Começando na primeira semana de julho, a campanha coordenada associada à Moonshot cresceu para 16.000 solicitações de mais de 4.000 usuários em apenas dois dias, revelou a OpenAI. A fabricante do ChatGPT acabou mapeando mais atividades relacionadas que rodavam por um cluster de mais de 15.000 usuários, todas totalmente interrompidas até 28 de julho.

Com base na análise da empresa, a campanha não resultou em nenhuma violação do banco de dados, quebra de criptografia ou exposição das conversas armazenadas dos usuários. No entanto, os atacantes exploraram prompts e manipulações do modelo, permitindo-lhes duplicar visivelmente capacidades de raciocínio proibidas por meio de uma operação elaborada e em grande escala que violou os termos de serviço.

A OpenAI afirma ter implementado mais salvaguardas para prevenir a destilação

De acordo com a OpenAI, ela detectou e interrompeu algumas operações nas quais usuários tentavam roubar lógica oculta transferindo informações de raciocínio criptografadas entre diferentes conversas e depois decodificando-as em outra conversa.

A maioria dessas operações estava associada à Moonshot. Simultaneamente, outros pesquisadores de terceiros relataram vulnerabilidades semelhantes à empresa, incluindo problemas de cross-modelo e compactação de dados.

Até o momento, o desenvolvedor do ChatGPT caracterizou o evento recente como "destilação adversarial" e alertou que a destilação da lógica poderia permitir que adversários imitassem tecnologias avançadas.

Adicionalmente, afirmou que um processo de destilação em larga escala poderia reduzir drasticamente o tempo necessário para desenvolver uma capacidade avançada de IA, sem qualquer compromisso com segurança e alinhamento.

Até o momento, para enfrentar a tendência de destilação, a OpenAI implementou penalidades em contas, fortaleceu a infraestrutura e buscou parcerias.

Além disso, suspendeu contas suspeitas, reforçou o processo de registro e a segurança do back-end, e expandiu sua monitoração da comunidade de usuários.

Adicionalmente, implementou proteções mais robustas contra raciocínio oculto, afetando todos os usuários, espaços de trabalho, organizações empresariais e arquiteturas de modelos.

Caroline Zier, líder das iniciativas de política de segurança nacional estratégica na OpenAI, acrescentou que continuarão a investir em proteções mais fortes. Ela declarou: 'Nossa preocupação é com a violação dos nossos termos de serviço, não com modelos abertos ou destilação legítima'.

Por que a destilação de modelos de IA está se tornando uma preocupação maior

A destilação de modelos permite que desenvolvedores utilizem as saídas de um sistema de IA mais capaz para melhorar ou replicar o desempenho de outro modelo.

Embora a destilação legítima possa ser usada para criar sistemas menores e mais eficientes, a OpenAI argumenta que a extração em larga escala não autorizada pode dar aos concorrentes acesso a capacidades que exigiram recursos significativos para desenvolver.

A empresa afirmou que a última campanha foi particularmente preocupante porque os agentes não estavam simplesmente usando o ChatGPT para tarefas comuns. Em vez disso, eles supostamente projetaram fluxos de trabalho automatizados para consultar repetidamente os modelos e transferir respostas úteis para outros sistemas.

Ao coletar saídas suficientes, os atacantes poderiam potencialmente reproduzir aspectos do raciocínio, da programação e das capacidades de resolução de problemas de um modelo sem acessar diretamente seus pesos subjacentes ou infraestrutura.

As divulgações da OpenAI destacam um desafio crescente para as empresas de IA, à medida que modelos cada vez mais capazes se tornam amplamente acessíveis por meio de APIs e produtos de consumo. Os provedores devem equilibrar o amplo acesso aos seus sistemas com salvaguardas projetadas para prevenir a extração sistemática de capacidades proprietárias.

A Anthropic também identificou a campanha de destilação da Moonshot

Nos últimos meses, a Anthropic também A HypurrFi, por meio de seu sistema de monitoramento interno, e interrompeu várias campanhas cibernéticas nas quais agentes maliciosos visavam o Claude.

Esses perpetradores incluíam grupos de inteligência supostamente apoiados por Estados, hackers motivados financeiramente e ativistas políticos, com os incidentes ocorrendo entre dezembro de 2025 e agosto de 2026.

Seus ataques específicos visavam extrair as competências de alto valor do Claude: sua dedução lógica, codificação, avaliação de dados e fluxos de trabalho de agentes automatizados.

Segundo relatos, cinco processos diferentes de destilação resultaram em quase 200 milhões consultas ilegais. A maior parte das consultas de destilação veio de uma campanha da Alibaba, que a Anthropic caracterizou como o maior esforço de coleta de dados já registrado na história da corporação. Esta campanha específica gerou 151 milhões de consultas registradas de maio a julho de 2026, atingindo um pico de quase 3 milhões por dia.

Uma segunda campanha da Moonshot AI teria encaminhado consultas diretamente do exército chinês para a Anthropic. Em 10 dias, a empresa registrou quase 300.000 consultas provenientes de 5.000 contas, a maioria direcionada ao modelo Opus.

A Moonshot tem recebido considerável atenção em Washington devido ao ritmo acelerado com que superou seus rivais americanos.

Embora Pequim já tenha ignorado acusações anteriores de Silicon Valley e da administração Trump sobre suas atividades de coleta de dados, ela ameaçou tomar medidas contra-eventuais sanções vindas de Washington.