La UE abre una investigación sobre el Grok de Musk tras 3 millones de imágenes deepfake en días

La Comisión Europea ha iniciado procedimientos formales contra la plataforma de redes sociales de Elon Musk, X, después de que se descubriera que su chatbot de inteligencia artificial, Grok, producía imágenes sexuales de personas reales sin su permiso, incluidas fotos de niños.

Las personas que usan X han estado creando versiones alteradas por IA de fotografías reales pidiendo a Grok que las genere. Un estudio publicado la semana pasada por el Centre for Countering Digital Hate encontró que Grok generó aproximadamente tres millones de imágenes deepfake de mujeres y niños en solo unos pocos días.

La controversia ha provocado llamamientos a investigaciones en varios países. En Irlanda, varios ministros del gobierno han cerrado sus cuentas en X como respuesta.

Regina Doherty, miembro del Parlamento Europeo por Fine Gael, confirmó el movimiento de la Comisión contra la empresa en un comunicado publicado esta mañana. Dijo que apoyaba la decisión de iniciar una investigación formal.

"Cuando surgen informes creíbles de que los sistemas de IA se utilizan de maneras que dañan a mujeres y niños, es esencial que la legislación de la UE se examine y aplique sin demora", dijo Doherty.

Añadió que el caso plantea serias preocupaciones sobre si las plataformas están cumpliendo con sus responsabilidades legales de verificar los riesgos y detener la propagación de material ilegal y dañino.

Doherty enfatizó que la investigación debe resultar en consecuencias reales.

"Ninguna empresa que opere en la UE está por encima de la ley", afirmó.

También señaló que la situación muestra problemas más amplios en cómo se regulan y monitorean las nuevas tecnologías de IA, pidiendo que se tomen más medidas a nivel de la UE.

"Este caso subraya por qué la Ley de IA debe seguir siendo una legislación viva. Si se hacen evidentes lagunas en la aplicación o la supervisión, entonces es nuestra responsabilidad abordarlas. Las leyes de la UE deben ser aplicables en tiempo real cuando ocurran daños graves", dijo Doherty.

Investigación retrasada debido a la crisis de Groenlandia

According to German news source Handelsblatt, the Commission had planned to start the proceedings under the EU’s Digital Services Act last Monday, but the decision was pushed back as the bloc dealt with US President Donald Trump’s threats to take over Greenland.

Esta no es la primera vez que X enfrenta problemas con los reguladores de la UE. En diciembre de 2025, la plataforma recibió una multa de 120 millones de euros de la UE por violar la Ley de Servicios Digitales. Las violaciones incluían marcas de verificación azules engañosas, falta de transparencia sobre la publicidad y la prevención de que los investigadores accedieran a la plataforma.

Funcionarios de la administración Trump tuvieron palabras fuertes sobre esa multa. El secretario de Estado Marco Rubio y el vicepresidente JD Vance la criticaron fuertemente, calificándola de un ataque a las plataformas tecnológicas estadounidenses.

Enfoque en la evaluación de riesgos y la moderación de contenido

La última investigación se centra específicamente en si X evaluó adecuadamente los riesgos de su chatbot de IA y tomó suficientes medidas para prevenir la creación y propagación de contenido dañino. La Ley de Servicios Digitales requiere que las grandes plataformas en línea identifiquen y aborden los riesgos relacionados con contenido ilegal y daños a los usuarios.

La rápida producción de un gran volumen de imágenes inapropiadas en un período de tiempo tan corto alarmó a los defensores de la seguridad digital y a los legisladores.

La situación se ha convertido en un caso de prueba para cómo la legislación de la UE manejará las tecnologías emergentes de IA. Aunque la Ley de IA ha sido aprobada para gobernar los sistemas de inteligencia artificial, este caso se está persiguiendo bajo la Ley de Servicios Digitales, que cubre las responsabilidades de las plataformas en línea.

La investigación podría llevar a multas adicionales o requisitos para que X cambie la forma en que opera Grok. La Comisión tiene la potestad de imponer sanciones de hasta el seis por ciento de los ingresos anuales globales de una empresa por violaciones graves de la Ley de Servicios Digitales.

X aún no ha comentado públicamente sobre la nueva investigación. El manejo de la situación por parte de la empresa será observado de cerca mientras otros países consideran sus propias respuestas regulatorias. Múltiples naciones ya han exigido una acción urgente para abordar la capacidad del chatbot de crear imágenes inapropiadas.