Aplicativos ‘Nudify’ com IA ganham popularidade, levantando preocupações

Uma tendência perturbadora está emergindo, à medida que aplicativos e sites que utilizam inteligência artificial (IA) para despir mulheres em fotos ganham popularidade significativa, de acordo com pesquisas recentes. Esses aplicativos, frequentemente referidos como serviços de “nudify”, levantaram sérias preocupações sobre privacidade, ética e consentimento.

Popularidade crescente

Somente em setembro, aproximadamente 24 milhões de indivíduos visitaram esses sites de despir, conforme relatado pela Graphika, uma empresa de análise de redes sociais. Muitos desses serviços são comercializados por meio de redes sociais populares, e o número de links anunciando aplicativos de despir em plataformas como X e Reddit aumentou mais de 2.400% desde o início do ano, de acordo com pesquisadores. A função principal desses aplicativos é usar IA para manipular imagens, criando uma versão nua simulada do sujeito. É importante notar que a maioria desses serviços tem como alvo exclusivamente mulheres.

Dilemas éticos e legais

Esses aplicativos impulsionados por IA fazem parte de uma tendência perturbadora associada à pornografia não consensual, facilitada pelos avanços na tecnologia de IA, levando à proliferação de pornografia deepfake. A pornografia deepfake geralmente envolve a criação de mídia fabricada, como vídeos ou imagens, muitas vezes sem o conhecimento ou consentimento do sujeito. Essas imagens são frequentemente originadas de plataformas de mídia social e distribuídas sem o controle ou conhecimento do sujeito, apresentando desafios éticos e legais significativos.

Assédio online e violações de privacidade

As preocupações aumentaram à medida que alguns desses aplicativos e serviços promovem comportamento não consensual e assédio. Por exemplo, uma imagem postada no X promovendo um aplicativo de despir sugeriu que os clientes poderiam gerar imagens nuas e enviá-las aos subjects digitalmente despidos, incitando assédio e abuso. Além disso, alguns desses aplicativos pagaram por conteúdo patrocinado na plataforma YouTube do Google, aparecendo proeminentemente nos resultados de busca por termos como “nudify”. No entanto, o Google afirmou que não permite anúncios contendo conteúdo sexualmente explícito e está removendo ativamente os anúncios que violam as regras. Até o momento, nem o X nem o Reddit responderam aos pedidos de comentário.

Proliferação de deepfakes

A pornografia não consensual envolvendo figuras públicas tem sido um problema de longa data na internet. No entanto, especialistas em privacidade estão cada vez mais alarmados com o fato de que os avanços na tecnologia de IA tornaram o software deepfake mais acessível e eficaz. Essas ferramentas estão sendo utilizadas não apenas por atores mal-intencionados, mas também por indivíduos comuns, incluindo estudantes do ensino médio e universitários, para atingir vítimas desprevenidas.

Desafios no combate aos deepfakes

Enfrentar o problema da pornografia deepfake apresenta desafios significativos. Embora existam leis contra a geração desse tipo de conteúdo envolvendo menores, atualmente não há lei federal nos Estados Unidos que proíba especificamente a criação de pornografia deepfake envolvendo adultos. As forças policiais frequentemente enfrentam dificuldades para investigar esses casos, e as vítimas podem ter dificuldades para obter fundos para ações legais.

Em um desenvolvimento notável, um psiquiatra infantil na Carolina do Norte foi condenado a 40 anos de prisão em novembro por usar aplicativos de despir em fotos de pacientes. Isso marcou a primeira acusação desse tipo sob leis que proíbem a geração de material de abuso sexual infantil deepfake.

Respostas das plataformas

Em resposta às crescentes preocupações, as plataformas de mídia social tomaram medidas. O TikTok, por exemplo, bloqueou a palavra-chave “undress” (despir), que está comumente associada a esses serviços. Quando os usuários pesquisam por esse termo, recebem um aviso de que ele pode estar ligado a comportamentos ou conteúdos que violam as diretrizes da plataforma. Da mesma forma, a Meta Platforms Inc., empresa-mãe do Facebook, também começou a bloquear palavras-chave associadas à busca por aplicativos de despir. No entanto, ambas as empresas se recusaram a fornecer mais comentários sobre o assunto.

Considerações legais e éticas

A ascensão dos aplicativos “nudify” com IA destaca a necessidade urgente de abordar considerações legais e éticas em torno da pornografia deepfake e do conteúdo não consensual gerado por IA. Embora a tecnologia continue a avançar, regulamentações e salvaguardas devem ser implementadas para proteger os indivíduos de assédio, violações de privacidade e o uso indevido da IA para fins prejudiciais.

Em conclusão, a proliferação de aplicativos impulsionados por IA capazes de gerar nus deepfakes não consensuais é uma tendência preocupante que destaca a urgência de abordar questões éticas, legais e de privacidade na era digital. À medida que a tecnologia evolui, tanto legisladores quanto empresas de tecnologia precisam tomar medidas proativas para combater o uso indevido da IA para fins maliciosos e proteger os indivíduos de possíveis danos