Pais exigem medidas contra a proliferação de imagens de nudez geradas por inteligência artificial

Em uma revelação arrepiante, uma mãe e sua filha de 14 anos estão liderando uma campanha por maior proteção após imagens de nudez da adolescente e de suas colegas, geradas por inteligência artificial, circularem em uma escola de ensino médio em Nova Jersey. Simultaneamente, do outro lado do país, autoridades investigam umdent semelhante envolvendo um adolescente que usou inteligência artificial para criar e distribuir imagens explícitas dedentnos subúrbios de Seattle, Washington. 

Esses casos perturbadores destacam a necessidade urgente de medidas de proteção contra a crescente ameaça de material explícito gerado por IA, especialmente direcionado a mulheres e crianças. A proliferação desse conteúdo atingiu níveis semdent, com mais de 143.000 novos vídeos deepfake publicados online somente neste ano, de acordo com uma análise compartilhada com a Associated Press pela pesquisadoradent Genevieve Oh.

A crescente ameaça de imagens de nudez geradas por IA

Odent em Westfield, Nova Jersey, ocorreu neste verão, mas só chegou ao conhecimento da escola em 20 de outubro. Imagens geradas por inteligência artificial, usando os rostos dedentdo sexo feminino, foram compartilhadas no aplicativo de mídia social Snapchat entre um grupo de amigos. As famílias afetadas, desesperadas por soluções, agora pressionam os legisladores a implementarem medidas de segurança robustas contra a manipulação das imagens das vítimas por meio de modelos de IA e diversas plataformas que anunciam abertamente seus serviços.

A crise não se restringe a Nova Jersey. Nos subúrbios de Seattle, um adolescente teria usado inteligência artificial para criar e distribuir imagens explícitas de colegasdent. Essa onda dedentlevou famílias afetadas, defensores e especialistas jurídicos a exigirem uma regulamentação federal que estabeleça proteções uniformes em todo o país. Tais medidas não apenas protegeriam as vítimas, mas também enviariam uma mensagem contundente a potenciais agressores.

Recorrer a medidas legais

Embora diversos estados, incluindo Texas, Minnesota e Nova York, tenham aprovado leis que criminalizam a pornografia deepfake não consensual, o alcance e a eficácia dessas legislações variam. Estados como Califórnia e Illinois permitem que as vítimas processem os autores por danos em tribunais civis. Atualmente, Nova Jersey está considerando sua própria legislação para proibir a pornografia deepfake e impor penalidades, incluindo prisão ou multas, àqueles que a disseminarem.

A senadora estadual Kristin Corrado apresentou um projeto de lei em Nova Jersey para combater a pornografia deepfake, enfatizando a necessidade de uma lei federal que ofereça proteção consistente em todo o país. Defensores da causa estão se mobilizando por uma lei federal que penalize organizações que lucram com aplicativos que facilitam a criação de deepfakes, reforçando os esforços da ordem executiva dodent Joe Biden que visa combater o uso de inteligência artificial generativa para conteúdo explícito.

O caminho à frente

À medida que a atenção se intensifica sobre essa questão alarmante, a pergunta que permanece é: a regulamentação federal será a chave para combater a crescente onda de conteúdo explícito gerado por IA? Enquanto alguns legisladores pressionam pela divulgação de informações sobre conteúdo gerado por IA e por leis que tornem ilegal o compartilhamento de imagens pornográficas deepfake, entidades como a União Americana pelas Liberdades Civis (ACLU) e atron. A batalha contra o conteúdo explícito gerado por IA continua, com famílias afetadas e defensores lutando pela proteção de indivíduos vulneráveis ​​em um cenário digital em constante evolução. Como a legislação pode encontrar o equilíbrio certo entre a proteção dos indivíduos e a preservação da liberdade de expressão diante dessa ameaça tecnológica?