xAI processa usuário do Grok por imagens explícitas geradas por IA de menores
- A xAI processou Terry Harwood, um homem da Carolina do Sul já preso por explorar menores, alegando que ele enganou o chatbot Grok para produzir deepfakes de abuso sexual infantil.
- Este é o primeiro processo desse tipo que uma empresa de IA moveu contra um usuário por conteúdo criado em sua plataforma.
- O resultado pode estabelecer um modelo para como a indústria lida com usuários que armam ferramentas generativas.
A xAI de Elon Musk levou um homem da Carolina do Sul ao tribunal federal no Texas, acusando-o de usar o chatbot Grok para criar deepfakes sexualmente explícitos de menores, marcando a primeira vez que uma empresa de IA processa um de seus próprios usuários por conteúdo gerado usando sua plataforma.
O réu, Terry Harwood, foi preso em fevereiro por acusações separadas de exploração sexual de menores, de acordo com a Reuters. A queixa civil da xAI foi apresentada na terça-feira, 14 de abril, e agora seguirá junto com qualquer caso criminal que se desenvolva a partir dessa prisão.
A ação judicial da xAI
O documento afirma que ele abriu várias contas sob identidades falsas e, em seguida, alimentou a ferramenta de IA com fotografias regulares de adultos e crianças, antes de escrever prompts destinados a transformar essas imagens em conteúdo sexual. De acordo com a Al Jazeera, os sujeitos usados nessas ações não deram consentimento e não sabiam que suas fotos estavam sendo usadas.
A xAI afirma que o sistema resistiu à ação. O Grok recusou os pedidos, sinalizando-os como violações de suas regras de conteúdo. A resposta de Harwood, de acordo com a queixa, foi continuar reescrevendo os prompts e tentar novamente.
“As ações do Réu foram um esquema calculado para transformar a ferramenta do Autor em um instrumento para fins criminosos, expondo vítimas reais a danos profundos e duradouros”, escreveu a xAI na ação judicial, citada pela Reuters. A empresa também alega que ele produziu imagens sexuais não consensuais de adultos.
A empresa de IA solicitou duas coisas ao tribunal no documento da ação judicial. Isso inclui danos monetários sem uma figura específica anexada e uma ordem que proíba Harwood de usar o produto Grok novamente.
A xAI também usou o documento para declarar a escala de seu trabalho de aplicação da lei contra atores mal-intencionados. A empresa disse que suspendeu 52.222 contas este ano e enviou 73.604 relatórios ao Centro Nacional para Crianças Desaparecidas e Exploradas, referências que levaram a pelo menos 244 prisões em 2026.
O Grok permanece sob escrutínio mais amplo
A xAI já estava sob pressão quanto ao que o Grok pode produzir antes desse caso surgir. Reguladores na Europa têm analisado a ferramenta de IA, enquanto legisladores em Washington levantaram múltiplas preocupações. Tanto a Malásia quanto a Indonésia baniram o chatbot devido a saídas sexualmente explícitas, conforme reportado pela Al Jazeera .
O próprio Elon Musk negou o problema subjacente no início deste ano. “Não estou ciente de nenhuma imagem nua de menores gerada pelo Grok. Literalmente zero”, ele escreveu no X em janeiro.
Não estou ciente de nenhuma imagem nua de menores gerada pelo Grok. Literalmente zero.
Obviamente, o Grok não gera imagens espontaneamente; ele o faz apenas de acordo com as solicitações dos usuários.
Ao ser solicitado a gerar imagens, ele se recusará a produzir qualquer coisa ilegal, como princípio operacional… https://t.co/YBoqo7ZmEj
— Elon Musk (@elonmusk) Janeiro 14, 2026
Uma via legal recentemente criada chamada DEFIANCE Act também levou a um aumento nesses tipos de casos. A lei, assinada em 2024, dá às vítimas de deepfakes íntimos não consensuais uma maneira de processar, e vários estados aprovaram leis individuais nesse sentido.
Não apenas leia notícias sobre criptomoedas. Entenda-as. Inscreva-se em nossa newsletter. É grátis.
Aviso. As informações fornecidas não constituem aconselhamento de negociação. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta a um profissional qualificado antes de tomar qualquer decisão de investimento.
Opeyemi Olanrewaju
Opeyemi é especialista em criar e refinar conteúdo de alta qualidade focado em criptomoedas, mercados financeiros globais e economia. Formou-se pela Universidade de Ibadan com grau de MBBS. Trabalhou como Editor-Chefe da publicação editorial de sua faculdade e anteriormente na CFA. Por mais de seis anos, ajudou a salvaguardar a originalidade como editor de notícias na Cryptopolitan.
