xAI demanda a un usuario de Grok por imágenes explícitas generadas por IA de menores
- xAI ha demandado a Terry Harwood, un hombre de Carolina del Sur ya arrestado por explotar menores, alegando que engañó a su chatbot Grok para producir deepfakes de abuso sexual infantil.
- Esta es la primera demanda de este tipo que una empresa de inteligencia artificial presenta contra un usuario por contenido creado en su plataforma.
- El resultado podría establecer un modelo sobre cómo la industria maneja a los usuarios que weaponizan las herramientas generativas.
xAI de Elon Musk ha llevado a un hombre de Carolina del Sur a un tribunal federal en Texas, acusándolo de usar el chatbot Grok para crear deepfakes sexualmente explícitos de menores, marcando la primera vez que una empresa de IA demanda a uno de sus propios usuarios por contenido generado utilizando su plataforma.
El demandado, Terry Harwood, fue arrestado en febrero por cargos separados de explotación sexual de menores, según Reuters. La queja civil de xAI se presentó el martes 14 de abril y ahora se sumará a cualquier caso penal que se desarrolle a partir de ese arresto.
La demanda de xAI
El documento dice que abrió varias cuentas bajo identidades falsas, y luego alimentó a la herramienta de IA fotografías regulares de adultos y niños antes de escribir indicaciones destinadas a convertir esas imágenes en contenido sexual. Según Al Jazeera, los sujetos utilizados en estos actos no dieron su consentimiento y no sabían que sus fotos se estaban utilizando.
xAI afirma que el sistema se opuso a la acción. Grok rechazó las solicitudes, señalándolas como violaciones de sus normas de contenido. La respuesta de Harwood, según la demanda, fue seguir reescribiendo los prompts e intentarlo de nuevo.
"Las acciones del demandado fueron un esquema calculado para weaponizar la herramienta del demandante para fines criminales, exponiendo a víctimas reales a daños profundos y duraderos", escribió xAI en la demanda, citado por Reuters. La empresa también alega que produjo imágenes sexuales no consentidas de adultos.
La empresa de IA solicitó dos cosas al tribunal en la presentación de la demanda. Estas incluyen daños monetarios sin una cifra específica y una orden que prohíba a Harwood volver a usar el producto Grok.
xAI también utilizó la presentación para declarar la escala de su trabajo de aplicación contra los actores malintencionados. La empresa dijo que suspendió 52.222 cuentas este año y envió 73.604 informes al Centro Nacional para Niños Desaparecidos y Explotados, referencias que condujeron a al menos 244 arrestos en 2026.
Grok sigue bajo mayor escrutinio
xAI ya había estado bajo presión por lo que Grok puede producir antes de que surgiera este caso. Los reguladores en Europa han examinado la herramienta de IA, mientras que los legisladores en Washington han planteado múltiples preocupaciones. Tanto Malasia como Indonesia han prohibido el chatbot debido a la salida sexualmente explícita, informó Al Jazeera.
El propio Elon Musk negó el problema subyacente a principios de este año. "No [estoy] al tanto de ninguna imagen desnuda de menores generada por Grok. Literalmente cero", escribió en X en enero.
No tengo conocimiento de ninguna imagen desnuda de menores generada por Grok. Literalmente cero.
Obviamente, Grok no genera imágenes espontáneamente; lo hace solo según las solicitudes de los usuarios.
Cuando se le pide generar imágenes, se negará a producir nada ilegal, ya que el principio operativo… https://t.co/YBoqo7ZmEj
— Elon Musk (@elonmusk) enero 14, 2026
Una vía legal recientemente creada llamada la Ley DEFIANCE también ha llevado a un aumento de estos casos. La ley, firmada en 2024, da a las víctimas de deepfakes íntimos no consensuados una forma de demandar, y varios estados han aprobado leyes individuales a este efecto.
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Descargo de responsabilidad. La información proporcionada no constituye asesoramiento financiero. Cryptopolitan.com no asume ninguna responsabilidad por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente realizar una investigación independiente y/o consultar con un profesional calificado antes de tomar cualquier decisión de inversión.
Opeyemi Olanrewaju
Opeyemi se especializa en crear y refinar contenido de alta calidad centrado en criptomonedas, mercados financieros globales y la economía. Se graduó de la Universidad de Ibadan con un título de MBBS. Ha trabajado como Editor Jefe de la publicación editorial de su universidad y anteriormente en CFA. Durante más de seis años, ha ayudado a salvaguardar la originalidad como editor de noticias en Cryptopolitan.
