São Francisco processa 16 sites por "nudificação" de mulheres e meninas por inteligência artificial

A cidade de São Francisco fez um anúncio importante ao entrar com um processo contra 16 sites que criam e distribuem imagens de nudez geradas por inteligência artificial de adultos reais e até mesmo de menores de idade. 

De acordo com um tweet do Procurador da Cidade de São Francisco, David Chiu, esses sites estavam disseminando imagens deepfake de nudez não consensual de adultos e menores reais. Chiu mencionou em seu tweet que os proprietários e operadores dos sites violam leis estaduais e federais que proíbem pornografia deepfake, pornografia de vingança e pornografia infantil.

Conforme informações de uma reportagem do NY Times, as pessoas e empresas por trás desses sites estão localizadas na Califórnia, Novo México, Reino Unido e Estônia.

Dezesseis sites receberam um total de 200 milhões de visitas

Chiu afirmou que esses 16 sites receberam um total de 200 milhões de visitas no primeiro semestre deste ano. Alguns deles permitiam a criação gratuita de imagens de nudez antes de começarem a cobrar por imagens mais elaboradas. Alguns até aceitavam criptomoedas e cartões de crédito.

Segundo o procurador-geral da cidade, os modelos de IA do site foram treinados com imagens reais de pornografia e abuso infantil para criar deepfakes gerados por IA. Os sites foram até mesmo treinados para exibir imagens realistas de partes íntimas do corpo em questão de segundos.

O modelo de IA do site chegou a criar um deepfake da Taylor Swift

O modelo de IA do site chegou a criar imagens de nudez realistas de celebridades como Taylor Swift e meninas do ensino fundamental. Em alguns casos, essas imagens foram usadas para humilhar, assediar e até extorquir dinheiro das vítimas.

Uma das mães das vítimas, Sara Eisenberg, declarou: "Você pode ser o mais experiente em internet e redes sociais que quiser, e pode ensinar seus filhos todas as maneiras de se protegerem online, mas nada disso pode protegê-los de alguém que usa esses sites para fazer coisas realmente terríveis e prejudiciais."

Chiu também mencionou que é praticamente impossível traca origem das imagens depois que elas começam a circular. O processo busca fechar esses sites e impedi-los permanentemente de criar imagens de nudez geradas por IA no futuro.

Embora a IA tenha seus lados positivos em diferentes aspectos globalmente, Chiu mencionou que a questão da pornografia deepfake é um de seus lados obscuros.