Startups de IA usam fotos de crianças brasileiras para treinar modelos sem consentimento
Enacy Mapakame
3 min de leitura
- As imagens abrangem toda a infância delas, tornando suas identidades facilmente rastreáveis.
- As imagens foram retiradas de bilhões de fotos de família enviadas em blogs pessoais.
- A LAION argumentou que pais e responsáveis devem ser responsáveis por remover as imagens das crianças da internet.
Um grupo de defesa revelou que geradores de imagens usaram bilhões de fotos de crianças brasileiras para treinar seus modelos de IA sem seu consentimento. A Human Rights Watch (HRW) realizou uma pesquisa que mostra que geradores de imagens populares, como o Stable Diffusion, utilizaram imagens de crianças “que abrangem toda a sua infância” para treinar seus modelos.
Também leia: Empresas de tecnologia são instadas a combater o aumento do material de abuso sexual infantil gerado por IA
O estudo da HRW revela que essas imagens foram retiradas de cerca de 10 estados brasileiros. O relatório aponta que essas fotos representam um enorme “risco à privacidade das crianças”, pois o ato também aumenta a produção de imagens não consensuais com a semelhança delas.
Bilhões de imagens de crianças brasileiras usadas para treinar modelos de IA
A pesquisadora da HRW, Hye Jung Han, expôs o problema após analisar uma fração (menos de 0,0001%) do LAION-5B, um conjunto de dados construído a partir de instantâneos do Common Crawl da web pública. Ela revelou que o conjunto de dados não continha as fotos reais, mas sim "pares de imagem e texto" extraídos de quase 6 bilhões de imagens e legendas publicadas desde 2008.
Fotos de crianças de 10 estados brasileiros foram encontradas, a maioria delas sendo imagens familiares publicadas em blogs de parentalidade e pessoais. De acordo com o relatório, são fotos que os usuários da internet não encontram facilmente.
Também leia: Reino Unido declara a criação de deepfakes sexualmente explícitos como ato criminoso
A HRW removeu os links para as imagens em colaboração com LAION, a organização sem fins lucrativos alemã que criou o conjunto de dados. Ainda persistem preocupações de que o conjunto de dados possa estar referenciando imagens de crianças de todo o mundo, pois apenas remover os links não resolve totalmente o problema.
“Este é um problema maior e muito preocupante e, como organização voluntária, faremos nossa parte para ajudar”, disse Nate Tyler, porta-voz da LAION, à Ars.
As identidades das crianças podem ser facilmente rastreadas
O relatório da HRW revelou ainda que as identidades de muitas crianças brasileiras poderiam ser rastreadas, pois seus nomes e localizações foram usados nas legendas que compuseram o conjunto de dados. Também levantou preocupações de que as crianças possam estar em risco de serem alvo de bullies enquanto suas imagens podem ser usadas para conteúdo explícito.
“As fotos analisadas abrangem toda a infância”, lê-se parte do relatório.
“Elas capturam momentos íntimos de bebês nascendo nas mãos enluvadas de médicos, crianças pequenas soprando velas no bolo de aniversário ou dançando de cueca em casa…”
HRW.
No entanto, Han revelou que “todas as versões publicamente disponíveis do LAION-5B foram retiradas”, reduzindo assim o risco de as fotos de crianças brasileiras serem utilizadas.
De acordo com a HRW, o conjunto de dados não estará disponível novamente até que a LAION tenha certeza de que todo o conteúdo sinalizado foi removido. A decisão foi tomada após um relatório da Universidade de Stanford também ter "encontrado links no conjunto de dados apontando para conteúdo ilegal na web pública", incluindo mais de 3.000 casos suspeitos de abuso sexual infantil.
Pelo menos 85 meninas no Brasil também relataram que colegas as assediavam usando IA para gerar conteúdo deepfake sexualmente explícito “baseado em fotos tiradas de seus conteúdos nas redes sociais.”
Proteção da privacidade das crianças
De acordo com a Ars, o LAION-5B foi lançado em 2022, supostamente para replicar o conjunto de dados da OpenAI, e foi apresentado como o maior "conjunto de dados de imagem e texto disponível gratuitamente."
Quando a HRW entrou em contato com a LAION sobre as imagens, a organização respondeu afirmando que os modelos de IA treinados no LAION-5B “não poderiam reproduzir dados de crianças de forma literal”, embora reconhecesse os riscos de privacidade e segurança.
A organização então começou a remover algumas imagens, mas também opinou que pais e responsáveis eram responsáveis por retirar fotos pessoais de crianças da internet. Han discordou desse argumento, dizendo:
“Crianças e seus pais não devem ser responsabilizados pela proteção dos filhos contra uma tecnologia fundamentalmente impossível de proteger. Não é culpa deles.”
Han.
A HRW pediu intervenção urgente dos legisladores brasileiros para proteger os direitos das crianças diante das tecnologias emergentes. Novas leis devem ser implementadas para proibir a incorporação de dados infantis em modelos de IA, conforme as recomendações da HRW.
Reportagem do Cryptopolitan por Enacy Mapakame
Não apenas leia notícias sobre criptomoedas. Entenda-as. Inscreva-se em nossa newsletter. É grátis.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Enacy Mapakame
Enacy Mapakame é jornalista com mais de 10 anos de experiência em notícias de negócios e finanças. Cobre mercados de capitais e tecnologias emergentes — metaverso, IA e criptomoedas. Enacy possui graduação honrosa em Estudos de Mídia e Sociedade.
