Startups de inteligencia artificial usan fotos de niños brasileños para entrenar modelos sin consentimiento

Un grupo de defensa reveló que generadores de imágenes han utilizado miles de millones de imágenes de niños brasileños para entrenar sus modelos de IA sin su consentimiento. Human Rights Watch (HRW) realizó una investigación que demuestra que generadores de imágenes populares como Stable Diffusion utilizaron imágenes de niños que abarcan toda su infancia para entrenar sus modelos.

Lea también: Se insta a las empresas tecnológicas a combatir el aumento de material de abuso sexual infantil generado por IA

El estudio de HRW revela que estas imágenes fueron tomadas en unos 10 estados brasileños. Informó que representan un grave riesgo para la privacidad de los niños, ya que la ley también aumenta la producción de imágenes no consentidas con su imagen.

Miles de millones de imágenes de niños brasileños se utilizan para entrenar modelos de IA

La investigadora de Human Rights Watch, Hye Jung Han, expuso el problema tras analizar una fracción (menos del 0,0001 %) de LAION-5B, un conjunto de datos creado a partir de capturas de pantalla de Common Crawl de la web pública. Reveló que el conjunto de datos no contenía las fotografías en sí, sino pares de imágenes y texto extraídos de casi 6 mil millones de imágenes y sus respectivos pies de foto publicados desde 2008.

Se encontraron fotos de niños de 10 estados brasileños, la mayoría de ellas fotos familiares subidas a blogs de padres y personales. Según el informe, estas son imágenes con las que los usuarios de internet no se topan fácilmente.

Lea también: Reino Unido declarará como delito la creación de deepfakes sexualmente explícitos

Human Rights Watch eliminó los enlaces a las imágenes en colaboración con LAION, la organización alemana sin ánimo de lucro que creó el conjunto de datos. Sin embargo, persiste la preocupación de que el conjunto de datos aún pueda contener imágenes de niños de todo el mundo, ya que la simple eliminación de los enlaces no resuelve completamente el problema.

“Este es un problema mayor y muy preocupante y, como organización de voluntarios, haremos nuestra parte para ayudar”, dijo el portavoz de LAION, Nate Tyler, a Ars.

Lasdentde los niños son fácilmente trac

El informe de HRW reveló además que ladentde muchos niños brasileños podría trac, ya que sus nombres y ubicaciones se utilizaron en los subtítulos que conformaron el conjunto de datos. También planteó la preocupación de que los niños pudieran correr el riesgo de ser objeto de acoso, y que sus imágenes pudieran utilizarse para contenido explícito.

“Las fotografías revisadas abarcan toda la infancia”, se lee en parte del informe.

“Capturan momentos íntimos de bebés naciendo en las manos enguantadas de los médicos, niños pequeños soplando las velas de su cake de cumpleaños o bailando en ropa interior en casa…”

Human Rights Watch.

Sin embargo, Han reveló que “todas las versiones disponibles públicamente de LAION-5B fueron eliminadas” y, por lo tanto, ahora hay menos riesgo de que se utilicen las fotos de los niños brasileños.

Según Human Rights Watch, el conjunto de datos no volverá a estar disponible hasta que LAION tenga la certeza de que se ha eliminado todo el contenido marcado. Esta decisión se tomó después de que un informe también encontrara enlaces en el conjunto de datos que apuntaban a contenido ilegal en la web pública, incluyendo más de 3000 casos sospechosos de abuso sexual infantil .

Al menos 85 niñas en Brasil también denunciaron que sus compañeros de clase las acosaban utilizando inteligencia artificial para generar contenido deepfake sexualmente explícito “basado en fotos tomadas de sus contenidos en las redes sociales”

Protegiendo la privacidad de los niños

Según Ars, LAION-5B se presentó en 2022, supuestamente para replicar el conjunto de datos de OpenAI, y se promocionó como el mayor "conjunto de datos de imágenes y texto disponible gratuitamente".

Cuando HRW contactó a LAION por las imágenes, la organización respondió diciendo que los modelos de IA entrenados en LAION-5B “no podían reproducir los datos de los niños textualmente”, aunque reconocieron los riesgos de privacidad y seguridad.

La organización comenzó entonces a eliminar algunas imágenes, pero también opinó que los padres y tutores eran responsables de eliminar las fotos personales de los niños de internet. Han discrepó con este argumento, afirmando:

Los niños y sus padres no deberían asumir la responsabilidad de protegerlos de una tecnología que es fundamentalmente imposible de proteger. No es su culpa

Han.

HRW solicitó la intervención urgente de los legisladores brasileños para proteger los derechos de los niños frente a las tecnologías emergentes. Es necesario promulgar nuevas leyes que prohíban la manipulación de datos infantiles en modelos de IA, según las recomendaciones de HRW.

Informe Cryptopolitan de Enacy Mapakame