Empresas de Tecnologia Urgidas a Combater o Aumento do Material de Abuso Sexual Infantil Gerado por IA

O ano passado foi chamado de "o ano mais extremo já registrado" pela organização de caridade do Reino Unido Internet Watch Foundation (IWF), que descobriu um alarmante número de 275.652 imagens de abuso infantil sexual online, com um número assustador delas sendo causadas por predadores que coagiram vítimas a produzir materiais explícitos – pedindo às empresas de tecnologia e plataformas online que ajam rapidamente – já que as regulamentações têm desacelerado e a Inteligência Artificial

"Cada URL pode revelar apenas um, uma dúzia, centenas ou até milhares dessas imagens ou vídeos individuais de abuso sexual infantil", disse o relatório (92%) (com auto ou coagido ou com ajuda de rede social para realizar sobre uma webcam").

Achados da IWF

De acordo com a IWF, os números foram derivados de "busca proativa" e uma análise de quase 400.000 relatórios em todo o mundo através de mais de 50 portais de denúncia. Isso representa um aumento de 8% em relação ao ano anterior.

Os EUA foram o país líder com 14,8% dos sites, com 41.502 URLs, um aumento de uma proporção da nação como anfitriã em relação ao ano recente de 34%, um terço de todos os sites anexados.

A IWF disse que a análise mostrou que 2.401 vídeos gerados por si mesmos de crianças com idades entre 3 e 6 anos estavam fora disso. A maioria dessas crianças eram meninas, o que é um sinal de que os abusadores considerados "oportunistas" hoje estão muito ativos no abuso sexual não apenas com crianças adolescentes, mas também com crianças pequenas.

Medidas a serem tomadas 

É a posição da IWF de que "empresas de tecnologia e plataformas online" devem imediatamente reforçar essas medidas de segurança para a criança online, em vez de depender dos governos tomando a ação de regulamentação muito dolorosa ou perdendo mais tempo para que essa atividade entre em vigor no Reino Unido com sua Lei de Segurança Online. A IWF revelou que a Categoria de material também viu um aumento de 22% em comparação com 2022. Esse conteúdo extremo sendo visto com mais frequência é uma das tendências, de acordo com a IWF; de 2021 a 2022, a quantidade de conteúdo da Categoria A aumentou em 38%. 

O número de casos de sextorsão – o uso de fotos/arquivos de crianças, informações ou vídeos que os perpetradores podem então usar para chantagear suas vítimas por mais fotos/dinheiro – também está aumentando. A agência registrou apenas 6 casos desse tipo em 2021, quando introduziu o mecanismo de notificação. No ano passado, ela mencionou que a instituição viu 176 casos relacionados à sextorsão. A fundação enfatizou que as evidências IA recebe e gera estão se tornando uma ameaça séria às crianças na Internet. No ano de 2023, a IWF concluiu que havia processado 51 páginas da web que continham imagens geradas automaticamente de abuso sexual infantil, 38 com a aparência de serem reais.

Dessa forma, elas foram contidas nos relatórios estatísticos como imagens "reais". Além disso, outros 228 URLs tinham conteúdo gerado por IA. Embora apenas uma pequena porcentagem do material scrutinizado pela IWF seja gerado por computador, a caridade está alarmada devido ao "potencial de crescimento rápido". Este é o caso, especialmente em domínios como a publicação de manuais sobre como criar ou distribuir material pornográfico infantil através da IA, o que pode ficar fora das estruturas legais existentes. A IWF disse que encontrou um texto manual no DW explicando como os perpetradores "Nós já vimos esse comportamento antes, mas o fato de esta ser a primeira evidência de criminosos agindo em concerto para aconselhar e encorajar uns aos outros a usar a IA para fins de autodefesa é particularmente perturbador", alegou comentar a IWF.