Relatório de Stanford Revela Pornografia Infantil nos Dados de Treino de IA

O Stanford Internet Observatory fez uma descoberta perturbadora: mais de 1.000 imagens falsas de abuso sexual infantil no LAION-5B, um conjunto de dados usado para treinar geradores de imagens de IA. Esta descoberta, tornada pública em abril, levantou sérias preocupações sobre as fontes e métodos utilizados para compilar materiais de treino de IA.

O LAION-5B, associado à Stability AI, sediada em Londres, e ao seu gerador de imagens IA Stable Diffusion, acumulou estas imagens ao amostrar conteúdo de redes sociais e sites pornográficos. A descoberta de tal conteúdo em materiais de treino de IA é alarmante, considerando a ampla utilização e influência potencial destas plataformas.

Abordar o desafio com tecnologia

Os investigadores de Stanford, na sua busca para identificar estas imagens, não visualizaram diretamente o conteúdo abusivo. Em vez disso, utilizaram a tecnologia PhotoDNA da Microsoft, uma ferramenta projetada para detetar imagens de abuso infantil, correspondendo imagens com hash a conteúdo abusivo conhecido de várias bases de dados.

As descobertas da equipa de Stanford, comunicadas a organizações sem fins lucrativas relevantes nos Estados Unidos e no Canadá, sublinham a necessidade urgente de medidas mais rigorosas na curadoria de conjuntos de dados de treino de IA. Os investigadores sugerem o uso de ferramentas como o PhotoDNA para futuras compilações de conjuntos de dados, a fim de filtrar conteúdo prejudicial. No entanto, destacam também os desafios na limpeza de conjuntos de dados abertos, particularmente na ausência de uma autoridade de alojamento centralizada.

Em resposta ao relatório, a LAION, ou a Large-scale Artificial Intelligence Open Network, removeu temporariamente os seus conjuntos de dados para garantir a sua segurança antes de os republicar. A LAION enfatizou a sua política de tolerância zero para conteúdo ilegal e a necessidade de cautela no manuseamento de materiais tão sensíveis.

As Implicações Mais Amplas e as Respostas

Este problema não se limita ao conjunto de dados em questão. O relatório de Stanford sugere que mesmo um pequeno número de imagens abusivas pode impactar significativamente as ferramentas de IA, permitindo-lhes gerar milhares de deepfakes. Isto representa uma ameaça global para jovens e crianças, pois não só perpetua como também amplifica o abuso de vítimas reais.

A pressa em colocar no mercado muitos projetos de IA generativa tem sido criticada, com especialistas como David Thiel, chief technologist do Stanford Internet Observatory, defendendo uma atenção mais rigorosa à compilação de conjuntos de dados. Thiel enfatiza que este tipo de raspagem extensiva em toda a internet deve ser confinada a operações de investigação e não deve ser open-sourced sem uma verificação rigorosa.

À luz destas descobertas, a Stability AI, um utilizador proeminente do conjunto de dados LAION, tomou medidas para mitigar os riscos de uso indevido. Versões mais recentes do seu modelo Stable Diffusion foram projetadas para tornar a criação de conteúdo prejudicial mais difícil. No entanto, uma versão mais antiga lançada no ano passado ainda representa riscos e é amplamente utilizada em outras aplicações.

As reações internacionais a este problema variaram. Nos Estados Unidos, o governo está a lançar um instituto de segurança de IA para avaliar os riscos apresentados pelos modelos de IA. Da mesma forma, a Austrália está a implementar novos algoritmos para impedir a partilha de material de abuso sexual infantil criado por IA. Na Grã-Bretanha, os principais desenvolvedores de IA concordaram em trabalhar com os governos para testar novos modelos antes do seu lançamento.

A Cimeira Global de Segurança de IA na Grã-Bretanha viu a assinatura da "Declaração de Bletchley" por mais de 25 países, incluindo os Estados Unidos e a Índia, bem como a União Europeia. Este acordo visa estabelecer uma abordagem comum à supervisão da IA, sublinhando o compromisso da comunidade internacional em gerir os riscos da IA de forma responsável.

A descoberta de pornografia infantil em conjuntos de dados de treino de IA levanta profundas preocupações éticas e de segurança. Destaca a necessidade de mecanismos mais rigorosos de curadoria e monitorização de dados no desenvolvimento de tecnologias de IA. À medida que a IA continua a evoluir e a penetrar vários aspetos da vida, garantir o uso ético e a implementação segura destas tecnologias torna-se cada vez mais crucial.