El informe de Stanford revela pornografía infantil en los datos de entrenamiento de la IA

El Observatorio de Internet de Stanford ha realizado un descubrimiento angustiante: más de 1.000 imágenes falsas de abuso sexual infantil en LAION-5B, un conjunto de datos utilizado para entrenar generadores de imágenes de IA. Este hallazgo, hecho público en abril, ha planteado serias preocupaciones sobre las fuentes y los métodos utilizados para compilar materiales de entrenamiento de IA.

LAION-5B, asociado con el creador de imágenes de IA Stable Diffusion de Stability AI con sede en Londres, acumuló estas imágenes muestreando contenido de redes sociales y sitios web pornográficos. El descubrimiento de este contenido en materiales de entrenamiento de IA es alarmante, considerando el uso generalizado de estas plataformas y su posible influencia.

Abordando el desafío con tecnología

Los investigadores de Stanford, en su búsqueda para identificar estas imágenes, no vieron el contenido abusivo directamente. En su lugar, utilizaron la tecnología PhotoDNA de Microsoft, una herramienta diseñada para detectar imágenes de abuso infantil emparejando imágenes en hash con contenido abusivo conocido de varias bases de datos.

Los hallazgos del equipo de Stanford, comunicados a organizaciones benéficas relevantes en Estados Unidos y Canadá, subrayan la urgente necesidad de medidas más estrictas en la curación de conjuntos de datos de entrenamiento de IA. Los investigadores sugieren el uso de herramientas como PhotoDNA para futuras compilaciones de conjuntos de datos para filtrar contenido dañino. Sin embargo, también destacan los desafíos en la limpieza de conjuntos de datos abiertos, especialmente en ausencia de una autoridad de alojamiento centralizada.

En respuesta al informe, LAION, o la Red Abierta de Inteligencia Artificial a Gran Escala, eliminó temporalmente sus conjuntos de datos para garantizar su seguridad antes de volver a publicarlos. LAION enfatizó su política de tolerancia cero con el contenido ilegal y la necesidad de precaución al manejar materiales tan sensibles.

Las implicaciones y respuestas más amplias

Este problema no se limita al conjunto de datos en cuestión. El informe de Stanford sugiere que incluso un pequeño número de imágenes abusivas puede impactar significativamente en las herramientas de IA, permitiendo generar miles de deepfakes. Esto representa una amenaza global para los jóvenes y los niños, ya que no solo perpetúa, sino que también amplifica el abuso de víctimas reales.

La prisa por comercializar muchos proyectos de IA generativa ha sido criticada, con expertos como David Thiel, jefe de tecnología del Observatorio de Internet de Stanford, abogando por una atención más rigurosa a la compilación de conjuntos de datos. Thiel enfatiza que este raspado extenso de internet debería limitarse a operaciones de investigación y no ser de código abierto sin una debida diligencia.

A la luz de estos hallazgos, Stability AI, un usuario prominente del conjunto de datos LAION, ha tomado medidas para mitigar los riesgos de mal uso. Las versiones más recientes de su modelo Stable Diffusion han sido diseñadas para hacer más difícil la creación de contenido dañino. Sin embargo, una versión anterior lanzada el año pasado aún representa riesgos y se utiliza ampliamente en otras aplicaciones.

Las reacciones internacionales a este problema han variado. En Estados Unidos, el gobierno está lanzando un instituto de seguridad de IA para evaluar los riesgos planteados por los modelos de IA. De manera similar, Australia está implementando nuevos algoritmos para evitar el intercambio de material de abuso sexual infantil creado por IA. En Gran Bretaña, los principales desarrolladores de IA han acordado trabajar con los gobiernos para probar nuevos modelos antes de su lanzamiento.

La Cumbre Global de Seguridad de IA en Gran Bretaña vio la firma de la «Declaración de Bletchley» por más de 25 países, incluidos Estados Unidos e India, así como la Unión Europea. Este acuerdo tiene como objetivo establecer un enfoque común para la supervisión de la IA, subrayando el compromiso de la comunidad internacional de gestionar los riesgos de la IA de manera responsable.

El descubrimiento de pornografía infantil en conjuntos de datos de entrenamiento de IA plantea profundas preocupaciones éticas y de seguridad. Destaca la necesidad de mecanismos más rigurosos de curación y monitoreo de datos en el desarrollo de tecnologías de IA. A medida que la IA continúa evolucionando y permeando varios aspectos de la vida, garantizar el uso ético y el despliegue seguro de estas tecnologías se vuelve cada vez más crucial.