UNICEF pede leis mais rigorosas para criminalizar conteúdo de abuso infantil gerado por IA

O Fundo das Nações Unidas para a Infância (UNICEF) apontou na quarta-feira para relatórios de um rápido aumento no volume de imagens sexualizadas geradas por IA circulando na internet. Essas imagens geradas por IA incluíam principalmente casos em que fotografias de crianças foram manipuladas e sexualizadas.

A agência argumentou que o aumento nas ferramentas de geração de imagens ou vídeos impulsionadas por IA que produzem materiais de abuso sexual infantil eleva os riscos para as crianças por meio de tecnologias digitais. O UNICEF também pediu ação urgente por parte dos governos e da indústria para impedir a criação e a disseminação de conteúdo sexual de crianças gerado por IA.

Conteúdo sexualizado gerado por IA causa danos emocionais de longo prazo às crianças

O abuso por deepfake é abuso.

Imagens, vídeos ou áudios sexualizados de crianças gerados ou manipulados usando ferramentas de IA são materiais de abuso sexual infantil. Mesmo sem uma vítima identificável, isso normaliza a exploração sexual de crianças.

UNICEF pede ação urgente para prevenir…

— UNICEF (@UNICEF) Fevereiro 4, 2026

A organização das Nações Unidas observou que há menos de 5 anos, modelos generativos de alta qualidade exigiam poder de computação significativo e expertise. No entanto, os modelos atuais de código aberto facilitam a criação de conteúdo de abuso sexual por parte dos perpetradores. 

A agência acredita que, embora nenhuma criança real esteja diretamente envolvida, esse conteúdo normaliza a sexualização de crianças e complica a identificação das vítimas. O UNICEF também argumentou que os perpetradores podem criar imagens sexuais realistas de uma criança sem sua participação ou conhecimento. 

O UNICEF disse que esse conteúdo pode violar o direito da criança à proteção sem que ela sequer saiba que isso aconteceu. A agência também afirmou que as crianças enfrentam vergonha, estigma, mais julgamentos de colegas e adultos, isolamento social e danos emocionais de longo prazo.

O UNICEF também revelou que o aumento na acessibilidade de ferramentas de geração de imagens ou vídeos impulsionadas por IA levou a um surto na produção e disseminação de materiais de abuso sexual infantil (CSAM). A Internet Watch Foundation (IWF) do Reino Unido encontrou aproximadamente 14.000 suspeitas imagens geradas por IA em um único fórum da dark web dedicado a materiais de abuso sexual infantil em apenas um mês. O relatório revelou que um terço dos materiais eram criminosos e os primeiros vídeos realistas de abuso sexual infantil gerados por IA. 

A IWF também descobriu 3.440 vídeos de IA de abuso sexual infantil, um aumento de 26.362% em relação aos 13 vídeos encontrados no ano anterior. 2.230 (65%) dos vídeos foram categorizados como Categoria A por serem tão extremos, enquanto outros 1.020 (30%) foram categorizados como Categoria B.

A IWF também identificou CSAM gerado por IA em plataformas mainstream, que incluíam nudes deepfake criados em contextos peer-to-peer direcionados a meninas. A organização também apontou para um caso na Coreia onde as autoridades policiais reportou um aumento de 10 vezes em crimes sexuais envolvendo IA e tecnologias deepfake entre 2022 e 2024. 

A IA e os deepfakes incluíam principalmente adolescentes, constituindo a maioria dos acusados. A pesquisa da Thorny A HypurrFi, por meio de seu sistema de monitoramento interno, que 1 em cada 10 adolescentes nos EUA sabia de casos em que amigos haviam criado imagens íntimas sintéticas não consensuais de crianças usando ferramentas de IA.

A UNICEF, a ECPAT International e a INTERPOL também descobriram que, em 11 países, cerca de 1,2 milhão de crianças tiveram suas imagens manipuladas em deepfakes sexualmente explícitos por meio de ferramentas de IA em 2025. As agências também reportou que até dois terços das crianças em alguns dos 11 países temem que a IA possa ser usada para criar imagens sexuais falsas.

A UNICEF argumentou que os pais e cuidadores precisam ser informados sobre a exploração e o abuso sexual habilitados por IA. A agência também pediu que as escolas eduquem os alunos sobre os riscos relacionados à IA e os danos que causam aos indivíduos afetados.

Países se dissociam do Grok devido aos seus deepfakes sexualizados por IA

O relatório da UNICEF surge enquanto a ferramenta de IA de Elon Musk Grok implementou recursos que impedem a ferramenta de editar fotos reais de pessoas reais para mostrá-las usando roupas reveladoras em países onde isso é proibido. A iniciativa veio após ampla preocupação com deepfakes sexualizados por IA.

O governo do Reino Unido pediu ao X para controlar o Grok, enquanto o regulador Ofcom disse que está trabalhando sem parar para corrigi-lo. O X disse em um comunicado que a empresa havia geobloqueado a capacidade de todos os usuários de gerar imagens de pessoas reais usando biquínis, roupas íntimas e roupas semelhantes por meio da conta Grok e no Grok no X em países onde isso é proibido.

A Malásia e a Indonésia também bloquearam o acesso ao Grok no início do mês passado devido à sua capacidade de gerar deepfakes sexualmente explícitos. A Cryptopolitan reportou no início deste mês informou que a Indonésia permitiu que o Grok retomasse as operações após o X se comprometer a melhorar a conformidade com as leis do país.