Los conjuntos de datos de entrenamiento de IA albergan niveles perturbadores de material de abuso sexual infantil

En una investigación reciente realizada por el Observatorio de Internet de Stanford (SIO), se identificaron cientos de imágenes conocidas de material de abuso sexual infantil (CSAM) en un conjunto de datos abierto utilizado para entrenar modelos populares de generación de imágenes a partir de texto, incluido Stable Diffusion. Los hallazgos arrojan luz sobre el uso perturbador de conjuntos de datos de acceso abierto en el desarrollo de modelos avanzados de inteligencia artificial (IA).

Descubriendo fuentes de datos de entrenamiento perturbadoras

La investigación de la SIO reveló que estos modelos de IA fueron entrenados directamente con CSAM presente en el conjunto de datos LAION-5B, que comprende miles de millones de imágenes obtenidas de varias plataformas, incluidos sitios web de redes sociales mainstream y sitios populares de videos para adultos. La revelación plantea preocupaciones sobre la perpetuación inadvertida de la explotación infantil a través del uso de conjuntos de datos contaminados con contenido ilegal y dañino.

Acciones rápidas para abordar el problema

Al identificar el material fuente, los investigadores iniciaron el proceso de eliminación informando las URL de las imágenes al Centro Nacional para Niños Desaparecidos y Explotados (NCMEC) en EE. UU. y al Centro Canadiense de Protección Infantil (C3P). El uso de herramientas de hash, como PhotoDNA, desempeñó un papel crucial al hacer coincidir las huellas dactilares de las imágenes con bases de datos mantenidas por organizaciones sin fines de lucro dedicadas a combatir la explotación y el abuso sexual infantil en línea.

Desafíos en la limpieza de conjuntos de datos abiertos

Aunque existen métodos para minimizar la presencia de CSAM en los conjuntos de datos de entrenamiento, el informe subraya los desafíos en la limpieza o detención de la distribución de conjuntos de datos abiertos que carecen de una autoridad central. La ausencia de una entidad de alojamiento para estos conjuntos de datos complica los esfuerzos para garantizar su integridad y seguridad. El estudio enfatiza la necesidad de medidas proactivas para prevenir la inclusión inadvertida de contenido ilegal en los datos de entrenamiento de IA.

Recomendaciones de seguridad para el manejo futuro de conjuntos de datos

A la luz de estos hallazgos, el informe describe recomendaciones de seguridad para la recopilación de conjuntos de datos, el entrenamiento de modelos y el alojamiento de modelos entrenados con conjuntos de datos extraídos. Aboga por verificaciones exhaustivas de las imágenes contra listas conocidas de CSAM utilizando herramientas de detección como PhotoDNA de Microsoft. También se recomienda la colaboración con organizaciones de seguridad infantil, como NCMEC y C3P, para garantizar el uso ético y legal de la tecnología de IA.

A medida que la IA continúa avanzando, el manejo responsable de los conjuntos de datos de entrenamiento se vuelve primordial para prevenir contribuciones involuntarias a actividades ilícitas. La investigación de la SIO sirve como una llamada de atención para la comunidad de IA, instando a las partes interesadas a adoptar medidas estrictas en la curación de conjuntos de datos, el entrenamiento de modelos y la colaboración con agencias relevantes de protección infantil.

En respuesta a estas revelaciones, se insta a la comunidad de IA a reevaluar sus estándares éticos y tomar medidas decisivas para abordar el uso involuntario de CSAM en los conjuntos de datos de entrenamiento. Al implementar las medidas de seguridad recomendadas, la industria puede contribuir al desarrollo de la tecnología de IA de manera responsable y ética, salvaguardando contra las consecuencias no deseadas de fuentes de conjuntos de datos sin control.

Los hallazgos de la investigación de la SIO subrayan la importancia de la vigilancia en una era donde los avances tecnológicos deben ir acompañados de un fuerte compromiso con el desarrollo ético de la IA. La colaboración entre investigadores, líderes de la industria y organizaciones de protección infantil es esencial para garantizar que la tecnología de IA progrese de una manera que se alinee con los valores sociales y priorice el bienestar de las personas vulnerables.