Nudes Falsos Gerados por IA Aumentam, Representando Ameaças à Privacidade e Vidas

A ascensão das ferramentas de inteligência artificial (IA) alimentou um aumento perturbador de imagens e vídeos pornográficos falsos, levantando preocupações significativas sobre privacidade e exploração. As vítimas, principalmente mulheres e adolescentes, encontram-se despreparadas para a visibilidade que os nudes falsos gerados por IA trazem.

A invasão de privacidade

Gabi Belle, uma influenciadora do YouTube, descobriu que sua imagem estava sendo usada em uma fotografia nua falsa circulando na internet. A imagem a retratava em uma situação comprometida, embora ela nunca tivesse consentido com tal conteúdo. A experiência de Belle não é única, pois muitos indivíduos, incluindo celebridades e adolescentes comuns, caíram vítimas de nudes falsos gerados por IA. Essas imagens falsas podem incitar vergonha, extorquir dinheiro ou servir como uma saída para fantasias privadas.

Crescimento sem precedentes de nus falsos

A inteligência artificial permitiu um boom sem precedentes em imagens e vídeos pornográficos falsos. Nos 10 principais sites conhecidos por hospedar fotos pornográficas geradas por IA, o número de nus falsos aumentou mais de 290% desde 2018, segundo a analista do setor Genevieve Oh. Esses sites apresentam não apenas celebridades e figuras políticas, mas também indivíduos desprevenidos cujas imagens foram exploradas sem consentimento.

Falta de proteções legais

As vítimas de pornografia falsa gerada por IA têm recursos limitados devido à ausência de leis federais que regulem a pornografia deepfake. Apenas um punhado de estados promulgou regulamentações, deixando uma lacuna legal significativa. A recente ordem executiva de IA do presidente Biden recomenda que as empresas rotulem o conteúdo gerado por IA, mas não o torna obrigatório. Juristas argumentam que as imagens falsas geradas por IA podem não se enquadrar nas proteções de direitos autorais para semelhanças pessoais, pois são derivadas de vastos conjuntos de dados.

Mulheres e adolescentes em risco particular

Os nus falsos gerados por IA representam um risco significativo para mulheres e adolescentes, que muitas vezes se encontram despreparados para a visibilidade repentina. Uma pesquisa da Sensity AI, uma empresa de monitoramento de deepfakes, revela que 96% das imagens deepfake são pornográficas, com 99% direcionadas a mulheres. A análise de Genevieve Oh dos 10 principais sites que hospedam imagens pornográficas falsas descobriu que mais de 415.000 dessas imagens foram carregadas apenas em 2023, acumulando quase 90 milhões de visualizações.

Explosão de vídeos pornográficos gerados por IA

Os vídeos pornográficos gerados por IA também proliferaram na web. Em 2023, mais de 143.000 vídeos falsos foram adicionados aos 40 sites mais populares que apresentam conteúdo deepfake, superando o número total de novos vídeos de 2016 a 2022. Esses vídeos receberam mais de 4,2 bilhões de visualizações. O Federal Bureau of Investigation (FBI) alertou para um aumento na extorsão sexual, com mais de 26.800 pessoas caindo vítimas de campanhas de “sextorsão” até setembro.

Proteções limitadas do Google

O popular mecanismo de busca Google possui políticas para impedir que imagens sexuais não consensuais apareçam nos resultados de busca. No entanto, suas proteções para imagens deepfake não são tão robustas, permitindo que a pornografia falsa gerada por IA apareça de forma proeminente nos resultados de busca. O Google está trabalhando para aprimorar essas proteções e visa criar salvaguardas que não exijam solicitações individuais para remoção de conteúdo.

Desafios na penalização de criadores

Punir os criadores de conteúdo pornográfico falso gerado por IA prova ser desafiador. A Seção 230 da Lei de Decência nas Comunicações protege as empresas de mídia social da responsabilidade pelo conteúdo postado em suas plataformas, deixando pouco incentivo para que os sites monitorem essas imagens. As vítimas podem solicitar a remoção de suas imagens, mas o conteúdo gerado por IA é derivado de extensos conjuntos de dados, tornando difícil provar violações de direitos autorais ou infringência de semelhança pessoal.

Esforços em nível estadual e regulamentações variadas

Pelo menos nove estados, incluindo Califórnia, Texas e Virgínia, aprovaram legislação direcionada a deepfakes. No entanto, essas leis diferem em escopo, com algumas permitindo que as vítimas apresentem acusações criminais e outras permitindo apenas processos civis. Identificar as partes responsáveis pela ação legal pode ser uma tarefa complexa.

A necessidade de regulamentações mais fortes

A pressão para regular imagens e vídeos gerados por IA visa principalmente prevenir a distribuição em massa e abordar preocupações relacionadas à interferência eleitoral. No entanto, essas regras fazem pouco para mitigar o dano causado pela pornografia deepfake, que pode impactar severamente a vida de um indivíduo, mesmo que compartilhada em pequenos grupos.

A proliferação de nus falsos gerados por IA representa uma grave ameaça à privacidade e à integridade pessoal, particularmente para mulheres e adolescentes. A ausência de leis federais abrangentes e os desafios em punir os criadores desse tipo de conteúdo destacam a necessidade urgente de regulamentações e proteções mais fortes. À medida que a IA continua a avançar, abordar a questão crescente da pornografia falsa gerada por IA torna-se cada vez mais crítico para proteger os indivíduos da exploração e do dano na era digital.