Fundação Internet Watch Foundation alerta que avanços de IA podem piorar o CSAM
Enacy Mapakame
3 min de leitura
- A IWF alertou para um possível aumento de material de abuso sexual infantil (CSAM) gerado por IA, à medida que as ferramentas de IA generativa se tornam mais acessíveis e sofisticadas.
- A IWF já observou que o CSAM criado em 2024 parece "mais realista" do que o produzido em 2023.
- A entidade fiscalizadora está agora a pressionar pela criação de leis que criminalizem a produção e a disseminação de CSAM.
A Internet Watch Foundation (IWF) está preocupada que a prevalência de material de abuso sexual infantil (CSAM) gerado por IA na internet possa continuar a aumentar, impulsionada pelos avanços nas ferramentas de IA.
Também leia: Deepfakes de IA dificultam que autoridades dos EUA protejam crianças – relatório
O órgão de segurança indicou que, à medida que as ferramentas de IA generativa se tornam sofisticadas, também se tornou difícil distinguir entre imagens ou vídeos reais e conteúdo falso gerado por IA. De acordo com a organização, as imagens geradas por IA de 2024 tornaram-se mais “realistas” do que as que foram vistas pela primeira vez em 2023.
Internet Watch Foundation vê um aumento no CSAM
A IWF está preocupada que mais CSAM gerado por IA possa encontrar seu caminho na internet conforme pervertidos tiram vantagem dos avanços na tecnologia de IA, o que torna as ferramentas mais fáceis de usar e mais difundidas. O órgão de segurança já notou um aumento no CSAM gerado por IA na internet.
A organização já notou casos de manipulação de CSAM, enquanto outros casos envolviam pornografia adulta, mas com o rosto de uma criança usado nas filmagens. De acordo com a IWF, alguns dos conteúdos envolviam vídeos de cerca de 20 segundos.
O diretor de tecnologia da IWF, Dan Sexton, revelou que há chances de que mais CSAM de IA surja se as ferramentas de vídeo de IA seguirem a mesma tendência das ferramentas de geração de imagens de IA, já que a tecnologia está crescendo a um ritmo rápido.
“Eu diria provisoriamente que, se seguir as mesmas tendências, veremos mais vídeos”, disse ele.
Sexton acrescentou que também há altas chances de que os futuros vídeos de IA sejam de “maior qualidade e realismo.”
De acordo com analistas da IWF, a maioria dos vídeos que foram revisados pela organização em um fórum da dark web por pedófilos eram deepfakes parciais. Neste caso, modelos de IA disponíveis gratuitamente na internet foram utilizados para manipular as imagens, incluindo as de vítimas conhecidas de CSAM, em vídeos de CSAM existentes e pornografia adulta.
A organização encontrou nove desses vídeos, enquanto um pequeno número de vídeos totalmente feitos por IA era de qualidade básica.
(1/4) #AI cenário de material de abuso sexual infantil – No ano passado, estávamos entre os primeiros a levantar o alarme sobre a proliferação de imagens realistas #AI-geradas de abuso sexual infantil… pic.twitter.com/s4igkjHH78
— Internet Watch Foundation (IWF) (@IWFhotline) 22 de julho de 2024
O órgão quer criminalizar a produção de CSAM
A IWF está agora pressionando por leis que criminalizem a produção de tal material, incluindo a criação de guias para fazer esse conteúdo. Também deve criminalizar o desenvolvimento de ferramentas e plataformas que permitam a criação de CSAM.
Isso ocorre enquanto um estudo realizado este ano de um único fórum da dark web revelou 12.000 novas imagens geradas por IA postadas durante um período de um mês.
De acordo com a IWF, nove em cada dez dessas imagens eram realistas e poderiam ser processadas sob as mesmas leis do Reino Unido que cobrem o CSAM real.
Também leia: Homem do Texas condenado por comprar pornografia infantil com criptomoeda
No ano passado, o Centro Nacional de Crianças Desaparecidas e Exploradas (NCMEC) disse que recebeu numerosos relatórios de pervertidos usando IA de várias maneiras, como inserir prompts de texto para criar imagens de abuso infantil. Em alguns casos, os predadores alteraram imagens enviadas anteriormente para torná-las sexualmente explícitas e abusivas.
A CEO da IWF, Susie Hargreaves, destacou a necessidade de governar as ferramentas de IA generativa para limitar a proliferação do CSAM.
“Sem controles adequados, as ferramentas de IA generativa fornecem um playground para predadores online realizarem suas fantasias mais perversas e repugnantes”, disse Hargreaves.
Hargreaves acrescentou que a IWF estava começando a ver mais CSAM sendo compartilhado e vendido em sites comerciais de abuso sexual infantil.
De acordo com o The Guardian, outra organização que opera uma linha direta para relatar abuso revelou que encontrou CSAM feito por IA à venda em plataformas online por infratores.
As mentes mais inteligentes do setor de criptomoedas já leem nosso boletim informativo. Quer entrar? Junte-se a eles.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Enacy Mapakame
Enacy Mapakame é jornalista com mais de 10 anos de experiência em notícias de negócios e finanças. Cobre mercados de capitais e tecnologias emergentes — metaverso, IA e criptomoedas. Enacy possui graduação honrosa em Estudos de Mídia e Sociedade.
