- Imagens nudes geradas por IA de adolescentes circulando nas escolas levam pais e legisladores a exigirem proteções mais rigorosas contra deepfakes.
- Mais de 143.000 novos vídeos deepfake publicados online este ano, levantando preocupações sobre a crescente prevalência de conteúdo explícito gerado por IA.
- Defensores pedem regulamentação federal para oferecer proteções uniformes e enviar uma mensagem forte aos perpetradores, enquanto famílias afetadas buscam soluções.
Em uma revelação perturbadora, uma mãe e sua filha de 14 anos estão liderando uma campanha por proteções aprimoradas após imagens nus geradas por IA da adolescente e de seus colegas circularem em uma escola secundária em Nova Jersey. Simultaneamente, do outro lado do país, autoridades estão investigando um incidente semelhante envolvendo um adolescente que usou inteligência artificial para criar e distribuir imagens explícitas de estudantes em Seattle suburbano, Washington.
Esses casos perturbadores destacam a necessidade urgente de salvaguardas contra a ameaça crescente de material explícito gerado por IA, que visa particularmente mulheres e crianças. A proliferação desse conteúdo atingiu níveis sem precedentes, com mais de 143.000 novos vídeos deepfake postados online apenas este ano, de acordo com uma análise compartilhada com a Associated Press pela pesquisadora independente Genevieve Oh.
A ameaça crescente de imagens nus geradas por IA
O incidente em Westfield, Nova Jersey, ocorreu neste verão, mas chamou a atenção da escola em 20 de outubro. Imagens geradas por IA, usando os rostos de alunas, foram circuladas no aplicativo de redes sociais Snapchat entre um grupo de amigos. As famílias afetadas, desesperadas por soluções, estão agora instando os legisladores a implementar salvaguardas robustas contra a manipulação das imagens das vítimas por meio de modelos de IA e várias plataformas que publicitam abertamente seus serviços.
A crise não se limita a Nova Jersey. Em Seattle suburbano, um adolescente supostamente empregou inteligência artificial para criar e distribuir imagens explícitas de colegas de escola. Essa onda de incidentes levou famílias afetadas, defensores e especialistas jurídicos a exigirem regulação federal que possa estabelecer proteções uniformes em todo o país. Tais medidas não apenas protegeriam as vítimas, mas também enviariam uma mensagem ressoante aos potenciais perpetradores.
Buscando remédios jurídicos
Embora vários estados, incluindo Texas, Minnesota e Nova York, tenham aprovado leis que criminalizam a pornografia deepfake sem consentimento, o escopo e a eficácia dessas legislações variam. Estados como Califórnia e Illinois permitem que as vítimas processem os perpetradores por danos em tribunais civis. Atualmente, Nova Jersey está considerando sua própria legislação para banir a pornografia deepfake e impor penalidades, incluindo prisão ou multas, para aqueles que a espalham.
A senadora estadual Kristin Corrado apresentou um projeto de lei em Nova Jersey para abordar a pornografia deepfake, enfatizando a necessidade de uma lei federal para fornecer proteções consistentes em todo o país. Os defensores estão se mobilizando por uma lei federal que possa penalizar organizações que lucram com aplicativos que facilitam a criação de deepfakes, reforçando os esforços da ordem executiva do presidente Joe Biden, que visa combater o uso de IA generativa para conteúdo explícito.
O caminho à frente
À medida que o foco se intensifica sobre essa questão alarmante, a pergunta permanece: A regulação federal será a chave para combater a maré crescente de conteúdo explícito gerado por IA? Enquanto alguns legisladores defendem divulgações sobre conteúdo gerado por IA e legislação para tornar ilegal o compartilhamento de imagens de pornografia deepfake, preocupações sobre possível violação da Primeira Emenda são expressas por entidades como a União Americana das Liberdades Civis e a Fundação Electronic Frontier. A batalha contra o conteúdo explícito gerado por IA continua, com famílias afetadas e defensores defendendo a proteção de indivíduos vulneráveis em um cenário digital em constante evolução. Como a legislação pode encontrar o equilíbrio certo entre proteger os indivíduos e preservar a liberdade de expressão diante dessa ameaça tecnológica?
Se você está lendo isso, já está à frente. Mantenha-se assim com nosso boletim informativo.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Aamir Sheikh
Aamir é um jornalista de tecnologia com quase seis anos de experiência nos setores de criptomoedas e tecnologia. Formou-se na MAJ University com um MBA em Finanças e Marketing. Atualmente trabalha na Cryptopolitan, onde relata os últimos desenvolvimentos nos mercados de criptomoedas e previsões de preços.
