xAI batalha com Minnesota sobre lei que visa imagens sexuais geradas por IA

O Procurador-Geral de Minnesota, Keith Ellison, apresentou um parecer na sexta-feira opondo-se à tentativa da xAI de bloquear o HF 1606, a lei pioneira do estado que restringe ferramentas de IA que geram imagens sexuais de pessoas identificáveis, segundo a Decrypt.

Ellison argumentou que é improvável que a empresa tenha sucesso em sua alegação constitucional e não conseguiu demonstrar que a aplicação da lei causaria danos irreparáveis.

Com o Grok Imagine, a X.AI criou um mercado sem precedentes para violência sexual digital, e o estado estaria indefeso desde o início, a menos que pudesse direcionar suas leis para a própria tecnologia.

– Procurador-Geral Keith Ellison

O argumento de Minnesota é que o Grok Imagine é uma ferramenta e não discurso protegido, o que o tiraria das considerações apresentadas pela xAI para o juiz examinar. Haverá uma audiência sobre o assunto por um juiz federal na quarta-feira.

A lei de Minnesota visa provedores de IA mesmo sem conhecimento ou intenção

O HF 1606 proíbe uma empresa de permitir que os usuários gerem imagens realistas mostrando partes íntimas que estavam ausentes na fotografia original de uma pessoa identificável, e de produzir tal imagem em nome de um usuário. As violações acarretam penalidades de até $500.000 por imagem. As pessoas retratadas podem processar separadamente.

O estatuto não exige que uma empresa soubesse sobre a imagem ou a tivesse intencionado. A maioria das leis de deepfake, incluindo a Lei Federal Take It Down, penaliza quem quer que faça ou compartilhe a imagem.

O Texas entrou em contato com os operadores em 2025, mas apenas quando o proprietário estava ciente da falta de consentimento ou não respondeu a um aviso de remoção. Minnesota eliminou o elemento de conhecimento, e é essa a disposição sob ataque pela xAI na quarta-feira.

A Câmara aprovou o projeto de lei por 132-1 e o Senado por 65-0, após relatos de um homem que usou fotos de redes sociais para criar imagens sexuais de mais de 80 mulheres que conhecia. Foi assinado em abril. A xAI processou em 27 de julho e pediu uma ordem restritiva temporária em 29 de julho.

Em 31 de julho, o Juiz Donovan Frank rejeitou o pedido, observando que a empresa apresentou o pedido quase três meses após a assinatura e três dias antes da data de vigência, indicando que “o dano não é imediato”. A lei entrou em vigor em 1º de agosto.

xAI diz que as regras de Minnesota podem criminalizar sátira e imagens consensuais

A queixa não contesta o interesse do estado em prevenir imagens não consensuais, mas argumenta que o estatuto vai muito além disso, e o argumento gira em torno de uma definição. O estado de Minnesota baseou sua definição de parte íntima em uma legislação destinada a crimes que envolvem contato corporal, segundo a xAI, e isso cobre as coxas internas e seios, incluindo maiôs e sátira.

A página 19 do documento contém uma imagem gerada por IA que Trump compartilhou no Truth Social em 1º de maio, na qual ele é visto com JD Vance, Marco Rubio e o Secretário do Interior Doug Burgum sem camisa, junto com uma mulher desconhecida, na Piscina de Reflexão do Memorial de Lincoln, uma piada sobre o custo das reformas da piscina. O seio de cada homem é retratado onde não estava antes, argumenta a xAI, o que torna a imagem ilegal em Minnesota.

“Mesmo que os sujeitos tenham dado seu consentimento, gerado as imagens eles mesmos ou nunca as tenham compartilhado, não há porto seguro para esforços de boa-fé do provedor de ferramentas criativas de IA de propósito geral”, disse a empresa.

Pela própria matemática da empresa, dez imagens desse tipo custam $5 milhões e cem mil chegariam a $50 bilhões.

O histórico de aplicação da lei do Grok destaca a escala do problema de abuso

A empresa apresentou seu histórico de conformidade como evidência de boa-fé. Como a Cryptopolitan relatou anteriormente, a xAI afirmou em um documento de julho que suspendeu 52.222 contas este ano e enviou 73.604 relatórios ao Centro Nacional de Crianças Desaparecidas e Exploradas, resultando em pelo menos 244 prisões em 2026.

Esses números também são uma medida de escala. De acordo com o Center for Countering Digital Hate, no período de 11 dias entre 29 de dezembro e 8 de janeiro, após o endosso de Musk à funcionalidade de edição do aplicativo, o Grok criou cerca de 3 milhões de imagens sexualmente explícitas, incluindo cerca de 23.000 que pareciam retratar crianças.

A Califórnia abriu um inquérito em 14 de janeiro e enviou uma notificação de cessação e desistência dois dias depois. Trinta e cinco procuradores-gerais assinaram uma demanda conjunta em 23 de janeiro. De acordo com Ellison, uma ação coletiva foi apresentada por cinco crianças, e duas famílias do Arkansas entraram com processo na justiça federal.

A Comissão Europeia lançou um inquérito em 27 de janeiro, e o chatbot foi banido na Malásia e na Indonésia.