Procurador-Geral da Califórnia emite ordem de cessação e abstenção à xAI por imagens de deepfake inadequadas

O Procurador-Geral da Califórnia, Rob Bonta, enviou uma carta de cessação e abstenção à xAI de Elon Musk, exigindo que a empresa interrompesse imediatamente a produção e a disseminação de imagens ofensivas de deepfake produzidas por seu chatbot Grok. 

Procurador-Geral da Califórnia lançou a carta de cessação e abstenção na sexta-feira em resposta a alegações de que o Grok estava sendo usado para criar conteúdo ilegal envolvendo crianças e fotos de adultos sem consentimento, o que levou a uma investigação do estado da Califórnia. Bonta argumentou que é ilegal criar, distribuir, publicar e exibir material de abuso sexual infantil (CSAM).

Procurador-Geral da Califórnia visa a xAI por suposto uso indevido do Grok

No início desta semana, o escritório do procurador-geral da Califórnia declarou que estava investigando a xAI devido a alegações de que o chatbot da startup, Grok, estava sendo usado para produzir imagens inadequadas e não consensuais de mulheres e crianças. Em resposta, o governo enviou à empresa uma carta de cessação e abstenção.

“Hoje, enviei à xAI uma carta de cessação e abstenção, exigindo que a empresa interrompesse imediatamente a criação e a distribuição de deepfakes, imagens íntimas não consensuais e material ilegal de abuso infantil. A criação desse material é ilegal. Espero plenamente que a xAI cumpra imediatamente. A Califórnia tem tolerância zero para imagens ilegais de abuso infantil.”

–Rob Bonta, Procurador-Geral da Califórnia.

O escritório do AG afirmou ainda que a xAI parece estar “facilitando a produção em larga escala” de fotos inadequadas e não consensuais, que são então “usadas para assediar mulheres e meninas na internet”. De acordo com o escritório do AG, uma pesquisa revelou que mais da metade das 20.000 fotos produzidas pela xAI entre o Natal e o Ano Novo mostravam pessoas vestindo pouca roupa, algumas das quais pareciam crianças.

Rob Bonta afirmou na anúncio que as práticas corporativas violaram as leis civis da Califórnia, incluindo a Seção 1708.86 do Código Civil da Califórnia, as Seções 311 e seguintes e 647(j)(4) do Código Penal da Califórnia, e a Seção 17200 do Código de Negócios e Profissões da Califórnia. 

O Departamento de Justiça da Califórnia espera que a xAI afirme seus esforços para abordar esses problemas e tome medidas imediatas para resolvê-los nos próximos cinco dias.

No entanto, a conta de segurança do X havia anteriormente condenado esse tipo de comportamento do usuário. Ela esclareceu em 4 de janeiro que toma medidas contra conteúdo ilícito no X, como CSAM, deletando-o, suspendendo contas indefinidamente e colaborando com autoridades policiais e governos municipais, conforme necessário.

Notavelmente, em 4 de janeiro, Elon Musk alertou que qualquer pessoa que usasse ou solicitasse Grok para criar conteúdo ilegal enfrentaria as mesmas consequências que se a tivesse enviado.

Procuradores-gerais intensificam pressão sobre empresas de IA por segurança infantil

Um aumento inquietante em conteúdo adulto não consensual resultou do desenvolvimento de ferramentas de IA generativa gratuitas. Este problema tem assolado várias plataformas, não apenas o X.

Por exemplo, o Procurador-Geral Bonta e o Procurador-Geral Jennings de Delaware atendeu com a OpenAI em setembro do ano passado para expressar suas sérias preocupações sobre o crescente número de relatórios sobre como os produtos da OpenAI interagiam com jovens.

Em agosto do mesmo ano, o AG Bonta, junto com outros 44 Procuradores-Gerais, enviou uma carta a 12 principais empresas de IA após relatórios de interações inadequadas entre chatbots de IA e crianças. As cartas foram enviadas para Anthropic, Apple, Chai AI, Google, Luka Inc., Meta, Microsoft, Nomi AI, OpenAI, Perplexity AI, Replika e xAI.

O AG Bonta e os 44 Procuradores-Gerais informaram às empresas na carta que os estados de todo o país estavam monitorando de perto como as empresas desenvolvem suas políticas de segurança de IA. Eles também enfatizaram que essas empresas têm um dever legal para com as crianças como consumidoras, já que lucram com o uso de seus produtos por crianças. 

Em 2023, o AG Bonta juntou-se a uma coalizão bipartidária de 54 estados e territórios no envio de uma carta aos líderes do Congresso, defendendo a criação de um comitê de especialistas para investigar o uso potencial da IA para explorar crianças por meio de CSAM. 

A coalizão solicitaram que a comissão de especialistas sugerisse leis para proteger as crianças desse tipo de maus-tratos. “A produção de CSAM cria um registro permanente da vitimização da criança”, de acordo com o Departamento de Justiça dos EUA.