OpenAI suspende contas ligadas à China que usavam o ChatGPT por sua ferramenta de vigilância

A OpenAI, principal startup de inteligência artificial dos Estados Unidos, acaba de banir diversas contas no ChatGPT, acusando-as de envolvimento no desenvolvimento de uma ferramenta de vigilância. 

Segundo um relatório da empresa publicado em fevereiro de 2025, as contas suspensas supostamente têm ligações com a China. Essas contas estariam usando modelos da OpenAI para gerar descrições detalhadas de uma ferramenta de monitoramento de mídias sociais, que, segundo eles, era usada para fornecer feedback em tempo real sobre protestos no Ocidente aos serviços de segurança chineses. 

As contas banidas também haviam encontrado uma maneira de usar os modelos da OpenAI para depurar um código aparentemente destinado a implementar tal ferramenta. 

Por que a China está sendo suspeita? 

A OpenAI implementou políticas para impedir o uso de IA para monitorar comunicações ou realizar vigilância não autorizada de indivíduos, incluindo atividades realizadas por governos ou em seu nome que buscam suprimir liberdades e direitos individuais.

A OpenAI conseguiudentas contas em questão com base em padrões de comportamento, entre outras descobertas. Alguns dos usos relatados dos modelos da OpenAI por essas contas incluíam análise de documentos, geração de propostas de vendas, descrições de ferramentas para monitoramento de atividades em redes sociais e pesquisa de atores e tópicos políticos.

Suspeita-se que as contas tenham origem chinesa, pois suas atividades ocorreram principalmente durante o horário comercial da China continental, e as contas acionaram os modelos da OpenAI com o idioma chinês. 

A OpenAI também descobriu que os responsáveis ​​pelas contas estavam usando as ferramentas de maneira consistente com instruções manuais, e não com automação. Em alguns casos, a empresa de IA descobriu que uma mesma conta podia ter vários operadores.

Uma das principais atividades da operação envolveu a geração de descrições detalhadas, consistentes com os argumentos de venda, para o que foi descrito como o "Assistente de IA de Opinião Pública Internacional Qianyue" 

Essa ferramenta foi projetada para analisar publicações e comentários de plataformas como X, Facebook, YouTube, Instagram, Telegram e Reddit, e fornecer às autoridades chinesas as informações coletadas. 

Infelizmente, a OpenAI não conseguiu verificar essas descrições de formadent, e odent colocou os EUA em alerta máximo. De acordo com o investigador principal da OpenAI, Ben Nuimmo, este caso é um exemplo de como regimes autoritários como a China podem tentar usar tecnologia desenvolvida nos EUA contra os EUA e seus aliados.

“Este é um vislumbre bastante preocupante da maneira como um agente não democrático tentou usar inteligência artificial democrática ou baseada nos EUA para fins não democráticos, de acordo com os materiais que eles próprios estavam gerando.”

A OpenAI também revelou que as contas faziam referência a outras ferramentas de IA, incluindo uma versão do Llama, o modelo de IA de código aberto da Meta. 

Este caso surge pouco tempo depois da criação do DeepSeek 

A OpenAI vem alertando sobre os perigos da IA ​​chinesa, especialmente depois que a DeepSeek impressionou com seu modelo de raciocínio R1, que superou muitos outros modelos americanos em testes de desempenho e causou uma enorme onda de vendas de ações de tecnologia nos mercados dos EUA. 

DeepSeeké discutível, e seus criadores afirmam tê-lo desenvolvido a uma fração do custo que a maioria das empresas americanas utilizava para construir seus próprios sistemas. Essa afirmação gerou reações diversas do público, mas muitos especialistas estão convencidos de que se trata de um exagero. 

A OpenAI não só está convencida de que a equipe por trás do DeepSeek gastou mais com ele, como também acusou o DeepSeek de usar os resultados de seus modelos para criar os seus próprios. 

Segundo uma reportagem da Bloomberg, a Microsoft, uma das principais investidoras da OpenAI, está investigando se dados pertencentes à empresa foram usados ​​sem autorização.

David Sacks, o recém-nomeado "czar da IA ​​e criptografia" da Casa Branca, fez coro às preocupações da OpenAI, sugerindo que a DeepSeek pode ter usado os modelos da empresa americana de IA para se aprimorar, um processo denominado destilação de conhecimento.

“Há evidências substanciais de que o que a DeepSeek fez aqui foi extrair o conhecimento dos modelos da OpenAI”, disse. 

Ele acrescentou que, nos próximos meses, as principais empresas de IA da América começarão a tomar medidas para impedir a destilação, na esperança de que isso desacelere alguns dos modelos imitadores.