xAI processa usuário do Grok por imagens explícitas de menores geradas por IA
- A xAI processou Terry Harwood, um homem da Carolina do Sul já preso por exploração de menores, alegando que ele enganou o chatbot Grok da empresa para produzir deepfakes de abuso sexual infantil.
- Este é o primeiro processo desse tipo movido por uma empresa de IA contra um usuário por conteúdo criado em sua plataforma.
- O resultado poderá estabelecer um modelo de como a indústria lida com usuários que utilizam ferramentas generativas como armas.
A xAI de Elon Musk levou um homem da Carolina do Sul a um tribunal federal no Texas, acusando-o de usar o chatbot Grok para criar deepfakes sexualmente explícitos de menores, marcando a primeira vez que uma empresa de IA processa um de seus próprios usuários por conteúdo gerado usando sua plataforma.
O réu, Terry Harwood, foi preso em fevereiro sob acusações separadas de exploração sexual de menores, de acordo com a Reuters. A ação civil da xAI foi protocolada na terça-feira, 14 de abril, e agora será acompanhada de qualquer processo criminal decorrente dessa prisão.
Processo da xAI
O processo alega que ele abriu diversas contas comdentfalsas e, em seguida, alimentou a ferramenta de IA com fotografias regulares de adultos e crianças, antes de escrever instruções destinadas a transformar essas imagens em conteúdo sexual. De acordo com a Al Jazeera, as pessoas usadas nessas ações não consentiram e não sabiam que suas fotos estavam sendo utilizadas.
A xAI alega que o sistema reagiu à ação. O Grok recusou as solicitações, sinalizando-as como violações de suas regras de conteúdo. A resposta de Harwood, segundo a denúncia, foi continuar reescrevendo as mensagens e tentando novamente.
“As ações do réu foram um esquema calculado para usar a ferramenta da autora para fins criminosos, expondo vítimas reais a danos profundos e duradouros”, escreveu a xAI no processo, citado pela Reuters. A empresa também alega que ele produziu imagens sexuais não consensuais de adultos.
A empresa de IA solicitou duas coisas ao tribunal no processo judicial. Estas incluem indenização monetária, sem valor específico estipulado, e uma ordem judicial que impeça Harwood de usar o produto Grok novamente.
A xAI também aproveitou o documento para detalhar a dimensão de seu trabalho de combate a infratores. A empresa afirmou ter suspendido 52.222 contas este ano e enviado 73.604 denúncias ao Centro Nacional para Crianças Desaparecidas e Exploradas (National Center for Missing & Exploited Children), denúncias que resultaram em pelo menos 244 prisões em 2026.
Grok continua sob escrutínio mais amplo
Antes mesmo deste caso, a xAI já vinha sofrendo pressão devido ao conteúdo que o Grok era capaz de produzir. Órgãos reguladores na Europa examinaram minuciosamente a ferramenta de IA, enquanto legisladores em Washington levantaram diversas preocupações. Tanto a Malásia quanto a Indonésia proibiram o chatbot devido ao conteúdo sexualmente explícito, conforme relatado pela.
O próprio Elon Musk negou o problema subjacente no início deste ano. "Não tenho conhecimento de nenhuma imagem de menores de idade nus gerada pelo Grok. Literalmente zero", escreveu ele no X em janeiro.
Não tenho conhecimento de nenhuma imagem de menores de idade nus gerada pelo Grok. Literalmente zero.
Obviamente, o Grok não gera imagens espontaneamente, ele faz isso apenas de acordo com as solicitações do usuário.
Quando solicitado a gerar imagens, ele se recusará a produzir qualquer coisa ilegal, pois o princípio de funcionamento… https://t.co/YBoqo7ZmEj
— Elon Musk (@elonmusk) 14 de janeiro de 2026
Uma via legal criada recentemente, chamada Lei DEFI, também levou a um aumento nesses casos. A lei, assinada em 2024, oferece às vítimas de deepfakes íntimos não consensuais uma maneira de processar, e vários estados aprovaram leis individuais nesse sentido.
Não se limite a ler notícias sobre criptomoedas. Compreenda-as. Assine nossa newsletter. É grátis.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. CryptopolitanO não se responsabiliza por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamostrona realização de pesquisas independentesdent /ou a consulta a um profissional qualificado antes de tomar qualquer decisão de investimento.
Opeyemi Olanrewaju
Opeyemi é especialista na criação e aprimoramento de conteúdo de alta qualidade focado em criptomoedas, mercados financeiros globais e economia. Ele se formou em Medicina pela Universidade de Ibadan. Trabalhou como editor-chefe da publicação editorial de sua faculdade e anteriormente na CFA. Por mais de seis anos, contribuiu para a preservação da singularidade do conteúdo como editor de notícias da Cryptopolitan.
