OpenAI suspende contas ligadas à China usando ChatGPT para ferramenta de vigilância
- Após uma investigação, a OpenAI suspendeu várias contas que pareciam estar usando o ChatGPT para desenvolver ferramentas de vigilância.
- De acordo com um relatório publicado pela empresa, as contas suspensas foram identificadas com base em padrões comportamentais e vinculadas à China
- Essa medida da OpenAI enfatiza seu compromisso em impedir que regimes autoritários utilizem tecnologias de IA para fins opressivos.
A OpenAI, a principal startup de inteligência artificial da América, acabou de banir várias contas no ChatGPT, acusando-as de estarem envolvidas no desenvolvimento de uma ferramenta de vigilância.
De acordo com um relatório da empresa publicado em fevereiro de 2025, as contas suspensas supostamente têm ligações com a China. Essas contas estariam usando os modelos da OpenAI para gerar descrições detalhadas de uma ferramenta de escuta de redes sociais, que afirmavam ser usada para fornecer feedback em tempo real sobre protestos no Ocidente aos serviços de segurança chineses.
As contas banidas também encontraram uma maneira de usar os modelos da OpenAI para depurar código aparentemente destinado a implementar tal ferramenta.
Por que a China está sendo suspeita
A OpenAI tem políticas implementadas para impedir o uso de IA para monitorar comunicações ou vigilância não autorizada de indivíduos, incluindo atividades de ou em nome de governos que buscam suprimir liberdades e direitos pessoais.
A OpenAI foi capaz de identificar as contas em questão com base em padrões comportamentais, entre outras descobertas. Algumas das coisas que as contas estariam usando os modelos da OpenAI para incluir assistindo na análise de documentos, gerando pitches de vendas, descrições de ferramentas para monitorar a atividade nas redes sociais e pesquisando atores políticos e tópicos.
As contas são suspeitas de ter origens chinesas porque suas atividades ocorreram principalmente durante o horário comercial da China continental, e as contas solicitaram aos modelos da OpenAI em chinês.
A OpenAI também descobriu que aqueles por trás das contas estavam usando as ferramentas de uma maneira consistente com a solicitação manual, em vez de automação. Em alguns casos, a empresa de IA descobriu que uma conta pode ter tido vários operadores.
Uma das principais atividades da operação envolveu gerar descrições detalhadas, consistentes com pitches de vendas, para o que foi descrito como o "Assistente de Opinião Pública Internacional Qianyue de IA".
Esta ferramenta foi projetada para analisar postagens e comentários de plataformas como X, Facebook, YouTube, Instagram, Telegram e Reddit e alimentar as autoridades chinesas com o que aprende.
Infelizmente, a OpenAI não conseguiu verificar independentemente essas descrições, e o incidente colocou os EUA em alerta máximo. De acordo com o investigador principal da OpenAI, Ben Nuimmo, este caso é um exemplo de como regimes autoritários como a China podem tentar aproveitar a tecnologia construída nos EUA contra os EUA e seus aliados.
"Este é um vislumbre bastante preocupante da maneira como um ator não democrático tentou usar a IA democrática ou baseada nos EUA para fins não democráticos, de acordo com os materiais que eles estavam gerando."
A OpenAI também revelou que as contas referenciaram outras ferramentas de IA, incluindo uma versão do Llama, o modelo de IA de código aberto da Meta.
Este caso ocorre não muito tempo após a criação do DeepSeek
A OpenAI tem alertado sobre os perigos da IA chinesa, especialmente após o DeepSeek impressionar com seu modelo de raciocínio R1, que superou muitos outros modelos feitos nos EUA em benchmarks e causou uma grande venda de ações nos mercados americanos.
DeepSeekA superioridade do DeepSeek é debatível, e seus criadores afirmam tê-lo criado por uma fração do custo que a maioria dos modelos dos EUA usava para construir os seus. Essa afirmação foi recebida com reações mistas do público, mas muitos especialistas estão convencidos de que foi um exagero.
A OpenAI não apenas está convencida de que a equipe por trás do DeepSeek gastou mais nele, mas também acusou o DeepSeek de destilar a saída de seus modelos para criar o seu próprio.
De acordo com um relatório da Bloomberg, a Microsoft, um grande investidor na OpenAI, agora está investigando se dados pertencentes à empresa foram usados sem autorização.
David Sacks, o recentemente nomeado "chefe de IA e cripto" da Casa Branca, ecoou as preocupações da OpenAI, sugerindo que o DeepSeek pode ter usado os modelos da empresa de IA americana para melhorar, um processo denominado destilação de conhecimento.
"Há evidências substanciais de que o que o DeepSeek fez aqui foi destilar o conhecimento dos modelos da OpenAI", disse Sacks disse.
Ele acrescentou que nos próximos meses, as principais empresas de IA da América começarão a tomar medidas para impedir a destilação, na esperança de que isso desacelere alguns dos modelos copiadores.
Se você está lendo isso, já está à frente. Mantenha-se assim com nosso boletim informativo.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Hannah Collymore
Hannah é escritora e editora com quase uma década de experiência em redação de blogs e cobertura de eventos no espaço cripto. Na Cryptopolitan, Hannah contribui para a página de notícias, relatando e analisando os últimos desenvolvimentos nos setores DeFi, RWA, regulação cripto, IA e tecnologias de fronteira. Ela se formou na Universidade Arcadia com graduação em Administração de Empresas.
