Las startups de IA usan imágenes de niños brasileños para entrenar modelos sin consentimiento
Enacy Mapakame
3 min de lectura
- Las imágenes abarcan toda su infancia, lo que hace que sus identidades sean fácilmente rastreables.
- Las imágenes fueron extraídas de miles de millones de fotos familiares subidas a blogs personales.
- LAION argumentó que los padres y tutores deben ser responsables de eliminar las imágenes de los niños de internet.
Un grupo de defensa reveló que los generadores de imágenes han utilizado miles de millones de imágenes de niños brasileños para entrenar sus modelos de IA sin su consentimiento. Human Rights Watch (HRW) llevó a cabo una investigación que muestra que generadores de imágenes populares como Stable Diffusion utilizaron imágenes de niños "que abarcan toda su infancia" para entrenar sus modelos.
También lea: Se insta a las empresas tecnológicas a combatir el aumento del material de abuso sexual infantil generado por IA
El estudio de HRW revela que estas imágenes fueron tomadas de unos 10 estados brasileños. Informó que estas fotos representan un enorme "riesgo de privacidad para los niños" porque el acto también aumenta la producción de imágenes no consentidas que llevan su semejanza.
Miles de millones de imágenes de niños brasileños utilizadas para entrenar modelos de IA
La investigadora de HRW Hye Jung Han expuso el problema después de analizar una fracción (menos del 0,0001%) de LAION-5B, un conjunto de datos construido a partir de instantáneas de Common Crawl de la web pública. Ella reveló que el conjunto de datos no tenía las fotos reales, sino que contenía "pares de texto de imagen" tomados de casi 6 mil millones de imágenes y subtítulos publicados desde 2008.
Se encontraron imágenes de niños de 10 estados brasileños, la mayoría de ellas compuestas por fotos familiares subidas a blogs de crianza y personales. Según el informe, estas son imágenes que los usuarios de internet no encuentran fácilmente.
También lea: Reino Unido declarará la creación de deepfakes sexualmente explícitos como un acto criminal
HRW eliminó los enlaces a las imágenes en colaboración con LAION, la organización sin fines de lucro alemana que creó el conjunto de datos. Aún persisten las preocupaciones de que el conjunto de datos pueda seguir haciendo referencia a imágenes de niños de todo el mundo, ya que eliminar los enlaces por sí solo no resuelve completamente el problema.
"Este es un problema más grande y muy preocupante y, como organización voluntaria, haremos nuestra parte para ayudar", dijo el portavoz de LAION, Nate Tyler, a Ars.
Las identidades de los niños son fácilmente rastreables
El informe de HRW reveló aún más que las identidades de muchos niños brasileños podrían ser rastreables ya que sus nombres y ubicaciones se utilizaron en los subtítulos que construyeron el conjunto de datos. También planteó preocupaciones de que los niños puedan estar en riesgo de ser blanco de acosadores mientras sus imágenes pueden ser utilizadas para contenido explícito.
"Las fotos revisadas abarcan toda la infancia", lee parte del informe.
"Capturan momentos íntimos de bebés siendo nacidos en las manos enguantadas de doctores, niños pequeños soplando velas en su pastel de cumpleaños o bailando en ropa interior en casa…"
HRW.
Sin embargo, Han reveló que "todas las versiones públicamente disponibles de LAION-5B fueron retiradas", y por lo tanto menos riesgo de que las fotos de los niños brasileños se utilicen ahora.
Según HRW, el conjunto de datos no estará disponible nuevamente hasta que LAION esté segura de que todo el contenido marcado ha sido eliminado. La decisión se tomó después de que un informe de la Universidad de Stanford también "encontrara enlaces en el conjunto de datos que apuntan a contenido ilegal en la web pública", incluyendo más de 3.000 casos sospechosos de contenido de abuso sexual infantil.
Al menos 85 niñas en Brasil también han reportado que sus compañeros las acosan utilizando IA para generar contenido de deepfake sexualmente explícito "basado en fotos tomadas de su contenido de redes sociales."
Protegiendo la privacidad de los niños
Según Ars, LAION-5B se presentó en 2022, supuestamente para replicar el conjunto de datos de OpenAI, y fue promocionado como el mayor "conjunto de datos de imagen-texto disponible gratuitamente".
Cuando HRW contactó a LAION sobre las imágenes, la organización respondió diciendo que los modelos de IA entrenados en LAION-5B "no podrían producir datos de niños literalmente", aunque reconocieron los riesgos de privacidad y seguridad.
La organización luego comenzó a eliminar algunas imágenes pero también opinó que los padres y tutores eran responsables de eliminar las fotos personales de los niños de internet. Han estuvo en desacuerdo con su argumento, diciendo:
"Los niños y sus padres no deberían ser hechos para cargar con la responsabilidad de proteger a los niños contra una tecnología que es fundamentalmente imposible de proteger. No es su culpa."
Han.
HRW pidió la intervención urgente de los legisladores brasileños para proteger los derechos de los niños frente a las tecnologías emergentes. Deben estar en vigor nuevas leyes para prohibir el raspado de datos de niños en modelos de IA, según las recomendaciones de HRW.
Reporte de Cryptopolitan por Enacy Mapakame
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Enacy Mapakame
Enacy Mapakame es una periodista con más de 10 años de experiencia en noticias empresariales y financieras. Cubre los mercados de capitales y las tecnologías emergentes: el metaverso, la inteligencia artificial y las criptomonedas. Enacy posee un título de licenciatura con honores en Estudios de Medios y Sociedad.
