España inicia acciones legales contra X, Meta y TikTok por riesgos de abuso de IA

España ha iniciado acciones legales contra X, Meta y TikTok por alegaciones de que sus modelos de IA ayudaron a crear y difundir material de abuso sexual infantil.

El primer ministro español, Pedro Sánchez, dijo el martes que el gabinete invocará el Artículo 8 del Estatuto Orgánico del Ministerio Fiscal. Escribió:

“Hoy, el Consejo de Ministros invocará el Artículo 8 del Estatuto Orgánico del Ministerio Fiscal para solicitar que investigue los crímenes que X, Meta y TikTok puedan estar cometiendo mediante la creación y difusión de pornografía infantil a través de su IA.”

Pedro añadió que: “Estas plataformas están atacando la salud mental, la dignidad y los derechos de nuestros hijos e hijas. El Estado no puede permitirlo. Debe terminar la impunidad de los gigantes.”

Dos semanas antes de esta solicitud legal, Pedro compartió nuevos planes para abordar el abuso en línea en España, jurando que bloquearía el acceso a las redes sociales para cualquier persona menor de 16 años.

En noviembre, Pedro dijo que el parlamento de España investigaría a Meta por posibles violaciones de privacidad que afectan a usuarios de Facebook e Instagram.

Los datos de la Internet Watch Foundation, con sede en Gran Bretaña, muestran lo rápido que crece el problema. El año pasado, identificó 3,440 videos de abuso sexual infantil generados por IA. El año anterior, solo reportó 13.

Europa continúa endureciendo la aplicación de la ley contra las grandes empresas tecnológicas

La acción de España se suma a la creciente tensión entre los gobiernos europeos y las grandes empresas tecnológicas estadounidenses. Esas empresas cuentan con el apoyo de la administración de Donald Trump, el 47º Presidente de los Estados Unidos, elegido en 2024 y en ejercicio en 2026.

Los líderes europeos argumentan que las plataformas deben proteger a los usuarios. Los políticos y ejecutivos tecnológicos de EE. UU. argumentan que una regulación estricta limita la libertad de expresión. El desacuerdo ahora se desarrolla en los tribunales y las agencias reguladoras.

En diciembre, la Unión Europea multó a X con 120 millones de euros, aproximadamente 140 millones de dólares, bajo la Ley de Servicios Digitales. Fue la primera sanción emitida bajo esa ley. Este mes, la policía francesa registró las oficinas locales de X como parte de una investigación por ciberdelitos sobre la difusión de pornografía infantil y la negación del Holocausto en la plataforma.

La Comisión de Protección de Datos de Irlanda también ha intervenido. El regulador, que aplica el Reglamento General de Protección de Datos de la Unión Europea, dijo el lunes por la noche que abrió una investigación formal sobre la creación y publicación de lo que llamó imágenes sexualizadas “potencialmente dañinas” creadas por Grok.

La preocupación es que estas imágenes puedan haber implicado el procesamiento de datos personales pertenecientes a usuarios en la UE.

Grok está integrado directamente en el feed de redes sociales de X. Fue desarrollado por la empresa de IA de Elon Musk, xAI, que compró X el año pasado. A principios de este mes, xAI se fusionó con la empresa de cohetes de Musk, SpaceX. El acuerdo creó un grupo combinado valorado en 1.5 billones de dólares.

La investigación irlandesa es la última acción tomada por los reguladores de todo el mundo contra X. A principios de enero, se generaron miles de imágenes sexualizadas de deepfake de mujeres utilizando Grok. Las imágenes se extendieron rápidamente en línea. La reacción fue inmediata. Usuarios, expertos en seguridad en línea y políticos reaccionaron con fuerza.

Graham Doyle, el comisario adjunto del regulador irlandés, dijo que la agencia ya había estado en contacto con X después de que los informes de los medios aparecieran por primera vez hace semanas. Dijo que esos informes se quejaban de que los usuarios podían solicitar a la cuenta @Grok en X que generara imágenes sexualizadas de personas reales, incluidos niños.