Aumenta a popularidade de fotos de nudez falsas geradas por inteligência artificial, representando ameaças à privacidade e à vida das pessoas

O avanço das ferramentas de inteligência artificial (IA) impulsionou um aumento alarmante de imagens e vídeos pornográficos falsos, levantando sérias preocupações sobre privacidade e exploração. As vítimas, principalmente mulheres e adolescentes, se veem despreparadas para a visibilidade que as fotos de nudez falsas geradas por IA trazem.

A invasão de privacidade

Gabi Belle, uma influenciadora do YouTube, descobriu que sua imagem estava sendo usada em uma foto falsa de nudez que circulava na internet. A imagem a retratava em uma situação comprometedora, embora ela nunca tivesse consentido com tal conteúdo. A experiência de Belle não é única, já que muitas pessoas, incluindo celebridades e adolescentes comuns, foram vítimas de fotos de nudez falsas geradas por inteligência artificial. Essas imagens falsas podem incitar vergonha, extorquir dinheiro ou servir como válvula de escape para fantasias privadas.

Crescimento semdentem fotos falsas de nudez

A inteligência artificial possibilitou um crescimento semdentna produção de imagens e vídeos pornográficos falsos. Nos 10 principais sites conhecidos por hospedar fotos pornográficas geradas por IA, o número de nudes falsos aumentou mais de 290% desde 2018, de acordo com a analista do setor Genevieve Oh. Esses sites exibem não apenas celebridades e figuras políticas, mas também indivíduos inocentes que tiveram suas imagens exploradas sem consentimento.

Falta de proteção legal

As vítimas de pornografia falsa gerada por IA têm recursos limitados devido à ausência de leis federais que regulamentem a pornografia deepfake. Apenas alguns estados promulgaram regulamentações, deixando uma lacuna legal significativa. A recente ordem executiva do presidente Bidendent IA recomenda que as empresas rotulem o conteúdo gerado por IA, mas não torna isso obrigatório. Juristas argumentam que as imagens falsas geradas por IA podem não estar protegidas pelos direitos autorais de imagens pessoais, uma vez que são derivadas de vastos conjuntos de dados.

Mulheres e adolescentes correm risco particular

Nudes falsos gerados por IA representam um risco significativo para mulheres e adolescentes, que muitas vezes se veem despreparadas para a repentina exposição. Uma pesquisa da Sensity AI, empresa de monitoramento de deepfakes, revela que 96% das imagens deepfake são pornográficas, sendo que 99% delas têm como alvo mulheres. O estudo de Genevieve Oh sobre os 10 principais sites que hospedam imagens pornográficas falsas constatou que mais de 415.000 dessas imagens foram carregadas somente em 2023, acumulando quase 90 milhões de visualizações.

Explosão de vídeos pornográficos gerados por IA

Vídeos pornográficos gerados por inteligência artificial também proliferaram na internet. Em 2023, mais de 143.000 vídeos falsos foram adicionados aos 40 sites mais populares com conteúdo deepfake, superando o número total de novos vídeos de 2016 a 2022. Esses vídeos acumularam mais de 4,2 bilhões de visualizações. O FBI (Departamento Federal de Investigação dos Estados Unidos) alertou para um aumento na extorsão sexual, com mais de 26.800 pessoas vítimas de campanhas de "sextorsão" até setembro.

Proteções limitadas do Google

O popular mecanismo de busca Google possui políticas para impedir que imagens sexuais não consensuais apareçam nos resultados de pesquisa. No entanto, suas proteções contra deepfakes não são tão robustas, permitindo que pornografia falsa gerada por IA seja exibida com destaque nos resultados de pesquisa. O Google está trabalhando para aprimorar essas proteções e pretende criar mecanismos de segurança que não exijam solicitações individuais para a remoção de conteúdo.

Desafios na penalização de criadores

Penalizar os criadores de conteúdo pornográfico falso gerado por IA tem se mostrado um desafio. A Seção 230 da Lei de Decência nas Comunicações protege as empresas de mídia social da responsabilidade pelo conteúdo publicado em suas plataformas, deixando poucos incentivos para que os sites monitorem essas imagens. As vítimas podem solicitar a remoção de suas imagens, mas o conteúdo gerado por IA utiliza extensos conjuntos de dados, o que dificulta a comprovação de violações de direitos autorais ou de uso de imagem pessoal.

Esforços a nível estadual e regulamentações variadas

Pelo menos nove estados, incluindo Califórnia, Texas e Virgínia, aprovaram leis que visam combater deepfakes. No entanto, essas leis diferem em escopo, algumas permitindo que as vítimas apresentem queixa-crime e outras permitindo apenas ações cíveis.dentos responsáveis ​​para fins legais pode ser uma tarefa complexa.

A necessidade de regulamentaçõestron

A iniciativa para regulamentar imagens e vídeos gerados por IA visa principalmente impedir a distribuição em massa e abordar preocupações relacionadas à interferência eleitoral. No entanto, essas regras pouco fazem para mitigar os danos causados ​​pela pornografia deepfake, que pode impactar severamente a vida de um indivíduo, mesmo quando compartilhada em pequenos grupos.

A proliferação de nudes falsos gerados por IA representa uma grave ameaça à privacidade e à integridade pessoal, especialmente para mulheres e adolescentes. A ausência de leis federais abrangentes e os desafios na penalização dos criadores desse conteúdo destacam a necessidade urgente de regulamentações e proteçõestron. À medida que a IA continua a avançar, abordar o crescente problema da pornografia falsa gerada por IA torna-se cada vez mais crucial para proteger os indivíduos da exploração e dos danos na era digital.