Mulheres do Arizona processam por deepfakes sexuais gerados por IA

Três mulheres do Arizona processaram várias pessoas e empresas, alegando que suas imagens foram retiradas de suas páginas de redes sociais e alimentadas em modelos de inteligência artificial (IA) para gerar deepfakes delas. Elas afirmaram que os suspeitos envolvidos usaram os modelos para gerar suas imagens explícitas e lucrar com elas.

A ação judicial apresentada no Tribunal Superior do Condado de Maricopa, no Arizona, visa uma conta do Instagram que publicou vários vídeos de mulheres, anunciando-as como modelos de IA para ganhar dinheiro. Os autores da ação, cujos nomes estão sendo mantidos em sigilo por motivos de privacidade, observaram que algumas das imagens geradas por IA foram criadas usando suas fotos de redes sociais sem consentimento prévio. Uma das vítimas mencionou que agora está sendo olhada de uma maneira que não lhe agrada, simplesmente por causa das imagens circulantes.

Mulheres do Arizona iniciam processo judicial por conteúdo gerado por IA

A ação judicial nomeia três réus do Condado de Maricopa no Arizona, incluindo Beau Schultz, proprietário da conta do Instagram. A ação também nomeia 50 outros John Does e várias empresas que supostamente foram criadas ou usadas para gerir o negócio. Os autores da ação estão sendo representados por Nick Brand do Donlon Group e Cristina Perez Hesano do Pere Law Group.

De acordo com Brand, os réus, que provavelmente são do Arizona, criaram planos para ensinar outros homens e meninos a fazer esses chamados influenciadores de IA, que depois são despidos de imagens totalmente vestidas. Ele acrescentou que os réus usam esses deepfakes gerados para criar um site pornográfico baseado em assinatura, onde compartilham mensagens eróticas com os clientes. Brand observou que o problema parece mais amplo do que ele imaginava antes de ser designado para o caso.

No processo judicial no Arizona, os réus instruíram seus clientes a evitar usar influenciadores populares ou bem conhecidos e, em vez disso, usar micro-influenciadores para reduzir o risco de problemas legais. “Não consigo acreditar o quão ingênua eu era sobre o que as mulheres estão sofrendo à medida que a tecnologia avança”, afirmou Brand . De acordo com uma das vítimas, apenas legislação rigorosa pode ser usada para prevenir esses males e evitar que mais mulheres sejam alvo de esquemas semelhantes.

Plataforma de pagamentos nega qualquer irregularidade

Outra vítima mencionou que o público não deveria poder usar a inteligência artificial para causar tanto estrago, observando que aqueles que a usam estão mirando na irmã, mãe, amiga e colega de trabalho de alguém. Enquanto isso, uma das empresas listadas na ação, a Phyziro, uma plataforma de processamento de pagamentos, disse que as acusações são materialmente falsas. A empresa afirmou ser um provedor de Serviço de Computação Interativa sob § 47 U.S.C. 230.

“A empresa não deve ser tratada como editora, oradora ou autora de qualquer conteúdo ou transação gerada por usuários de terceiros ou agentes autônomos. Além disso, não mantemos o dever de monitorar a intenção específica subsequente ou atividades ilícitas de usuários ou usuários de usuários. O Membro e o Gerente estão imunes a responsabilidade por eventos de ‘Conhecimento Assimétrico’ onde agentes de IA, usuários ou usuários de usuários atuam fora da visibilidade direta ou programação do Gerente.”

A empresa mencionou que atua apenas como provedora de ferramentas e infraestrutura neutras, destacando que sua responsabilidade é estritamente limitada à operabilidade técnica da pilha tecnológica. Em sua declaração, a empresa observa que a Seção 230 da Lei de Decência nas Comunicações a isenta de qualquer wrongdoing. No entanto, há atualmente um esforço bipartidário no Congresso para revogar a lei, o que forçaria as plataformas a serem responsáveis pelo conteúdo postado em ou conectado aos seus sites.

Este desenvolvimento no Arizona também ocorre num momento em que o chatbot Grok tem sido alvo de pesada crítica pela população global. Governos em todo o país acusaram a plataforma de não manter barreiras de segurança para controlar as atividades do chatbot, levando-o a criar deepfakes gerados por IA de imagens explícitas de mulheres e crianças. Enquanto alguns países emitiram avisos à plataforma, outros suspenderam temporariamente seu acesso até que o problema seja corrigido.