Aplicativos de "incentivo" com inteligência artificial ganham popularidade, gerando preocupações

Uma tendência preocupante está surgindo: aplicativos e sites que utilizam inteligência artificial (IA) para despir mulheres em fotos estão ganhando popularidade significativa, segundo pesquisas recentes. Esses aplicativos, frequentemente chamados de serviços de "nudificação", têm levantado sérias preocupações sobre privacidade, ética e consentimento.

Popularidade crescente

Só em setembro, aproximadamente 24 milhões de pessoas visitaram esses sites de despir-se, segundo a Graphika, empresa de análise de redes sociais. Muitos desses serviços são divulgados por meio de redes sociais populares, e o número de links que anunciam aplicativos de despir-se em plataformas como X e Reddit aumentou mais de 2.400% desde o início do ano, de acordo com pesquisadores. A principal função desses aplicativos é usar inteligência artificial para manipular imagens, criando uma versão nua simulada da pessoa retratada. É importante ressaltar que a maioria desses serviços tem como público-alvo exclusivo mulheres.

Dilemas éticos e legais

Esses aplicativos baseados em inteligência artificial fazem parte de uma tendência preocupante associada à pornografia não consensual, facilitada pelos avanços na tecnologia de IA, levando à proliferação da pornografia deepfake. A pornografia deepfake geralmente envolve a criação de mídias fabricadas, como vídeos ou imagens, frequentemente sem o conhecimento ou consentimento da pessoa envolvida. Essas imagens são geralmente obtidas de plataformas de mídia social e distribuídas sem o controle ou conhecimento da pessoa envolvida, apresentando desafios éticos e legais significativos.

Assédio online e violações de privacidade

As preocupações aumentaram, pois alguns desses aplicativos e serviços promovem comportamentos não consensuais e assédio. Por exemplo, uma imagem publicada no X, promovendo um aplicativo de despir digitalmente, sugeria que os usuários poderiam gerar imagens de nudez e enviá-las para as pessoas digitalmente despidas, incitando assédio e abuso. Além disso, alguns desses aplicativos pagaram por conteúdo patrocinado na plataforma YouTube do Google, aparecendo com destaque nos resultados de busca para termos como "nudify". No entanto, o Google afirmou que não permite anúncios com conteúdo sexualmente explícito e está removendo ativamente os anúncios que violam as regras. Até o momento, nem o X nem o Reddit responderam aos pedidos de comentários.

Proliferação de deepfakes

A pornografia não consensual envolvendo figuras públicas é um problema antigo na internet. No entanto, especialistas em privacidade estão cada vez mais alarmados com o fato de os avanços na tecnologia de inteligência artificial terem tornado o software deepfake mais acessível e eficaz. Essas ferramentas agora estão sendo utilizadas não apenas por agentes maliciosos, mas também por pessoas comuns, incluindodentdo ensino médio e universitários, para atingir vítimas inocentes.

Desafios no combate aos deepfakes

Lidar com a questão da pornografia deepfake apresenta desafios significativos. Embora existam leis contra a produção desse tipo de conteúdo envolvendo menores, atualmente não há nenhuma lei federal nos Estados Unidos que proíba especificamente a criação de pornografia deepfake envolvendo adultos. As autoridades policiais frequentemente enfrentam dificuldades para investigar esses casos, e as vítimas podem ter dificuldades para obter recursos para entrar com uma ação judicial.

Em um desenvolvimento notável, um psiquiatra infantil da Carolina do Norte foi condenado a 40 anos de prisão em novembro por usar aplicativos de desnudamento em fotos de pacientes. Esta foi a primeira condenação desse tipo sob as leis que proíbem a geração de material deepfake de abuso sexual infantil.

Respostas da plataforma

Em resposta às crescentes preocupações, as plataformas de mídia social tomaram medidas. O TikTok, por exemplo, bloqueou a palavra-chave "undress" (despir), comumente associada a esses serviços. Quando os usuários pesquisam esse termo, recebem um aviso de que ele pode estar vinculado a comportamentos ou conteúdo que violam as diretrizes da plataforma. Da mesma forma, a Meta Platforms Inc., empresa controladora do Facebook, também começou a bloquear palavras-chave associadas à busca por aplicativos de despir. No entanto, ambas as empresas se recusaram a comentar o assunto.

Considerações legais e éticas

O surgimento de aplicativos de "nudificação" com inteligência artificial ressalta a necessidade urgente de abordar as considerações legais e éticas em torno da pornografia deepfake e do conteúdo não consensual gerado por IA. Embora a tecnologia continue a avançar, regulamentações e salvaguardas devem ser implementadas para proteger os indivíduos contra assédio, violações de privacidade e o uso indevido de IA para fins prejudiciais.

Em conclusão, a proliferação de aplicativos baseados em IA capazes de gerar deepfakes de nudez sem consentimento é uma tendência preocupante que destaca a urgência de abordar questões éticas, legais e de privacidade na era digital. À medida que a tecnologia evolui, tanto legisladores quanto empresas de tecnologia precisam tomar medidas proativas para combater o uso indevido de IA para fins maliciosos e proteger os indivíduos de possíveis danos