Deepfakes de IA dificultam que autoridades dos EUA protejam crianças – relatório

A enorme quantidade de deepfakes de IA sexualmente explícitos de crianças está dificultando que as forças policiais nos EUA separem crianças reais em situação de vulnerabilidade das falsas, alertaram promotores e grupos de segurança. Eles dizem que as imagens são tão realistas que se tornou difícil saber se crianças reais foram abusadas, relata o Guardian.

Também leia: Urso de pelúcia Poe alimentado por ChatGPT lê histórias de ninar para crianças

Kristina Korobov, advogada sênior da Zero Abuse Project, uma organização sem fins lucrativos baseada em Minnesota, diz que o grupo começou a notar relatórios de imagens de crianças reais feitas usando IA, que não foram abusadas sexualmente. “Mas agora o rosto delas está em uma criança que foi abusada”, ela diz.

Promotor do DoJ diz que “estamos afogando” devido à IA

“Às vezes, reconhecemos a cama ou o fundo em um vídeo ou imagem, o perpetrador ou a série da qual ele vem, mas agora há o rosto de outra criança colocado nele”, disse Korobov, conforme o Guardian.

Os modelos de IA são capazes de produzir milhares de imagens e vídeos semelhantes a fotografias da vida real por dia. De acordo com o relatório, isso facilitou que predadores usassem a tecnologia para comunicar conteúdo desagradável na dark web e na internet convencional.

Para as autoridades, tornou-se um pesadelo. “De uma perspectiva de aplicação da lei, crimes contra crianças são uma das áreas mais carentes de recursos, e haverá uma explosão de conteúdo da IA”, disse um promotor do Departamento de Justiça dos EUA (DoJ), acrescentando:

“Já estamos nos afogando nisso.”

O Centro Nacional de Crianças Desaparecidas e Exploradas dos EUA (NCMEC) diz que, em 2023, os relatórios de abuso infantil online aumentaram 12% para 36,2 milhões. Embora a maioria dos relatórios estivesse relacionada à circulação de fotos e vídeos da vida real de crianças abusadas sexualmente, o centro também recebeu 4.700 relatórios de imagens ou vídeos de deepfake de IA envolvendo a exploração sexual de crianças.

O NCMEC disse que algumas das maneiras mais comuns pelas quais os predadores têm usado a IA incluem editar imagens online existentes para torná-las explícitas. Os criminosos também aproveitam os chatbots de inteligência artificial generativa que dão instruções gráficas sobre como recrutar crianças para abuso.

As leis atuais não vão longe o suficiente sobre deepfakes de IA

Parece haver uma lacuna no que pode ser considerado um crime. Em muitas jurisdições, possuir imagens que objetificam sexualmente crianças é um crime, mas as leis ainda não avançaram para incorporar imagens geradas por IA.

“Ao processar casos no sistema federal”, disse o promotor do DoJ, “a IA não muda o que podemos processar, mas há muitos estados onde você precisa ser capaz de provar que é uma criança real.” O promotor acrescentou:

“Discutir a legitimidade das imagens causará problemas nos julgamentos. Se eu fosse um advogado de defesa, é exatamente o que eu argumentaria.”

Mesmo que as leis sejam promulgadas, a tecnologia habilitadora ainda será necessária para capturar criminosos, e atualmente há uma grande lacuna. Grupos de segurança infantil alertaram que os departamentos de polícia provavelmente serão inundados com solicitações.

Também leia: Chefe da ONU alerta que IA torna a guerra nuclear mais provável

Imagens sexualmente explícitas de crianças geradas com IA começaram a aumentar sua pegada online por volta de 2022, coincidindo com o lançamento do ChatGPT pela OpenAI, de acordo com o relatório do Guardian.

O NCMEC acusa as empresas de IA de não fazerem o suficiente para impedir a geração e a disseminação de conteúdo explorador. No ano passado, apenas cinco empresas de IA enviaram voluntariamente relatórios ao Centro. Em comparação, 70% das plataformas de mídia social compartilharam seus relatórios, disse.