xAI demanda a un usuario de Grok por imágenes explícitas de menores generadas por IA
- xAI ha demandado a Terry Harwood, un hombre de Carolina del Sur que ya fue arrestado por explotar a menores, alegando que engañó a su chatbot Grok para que produjera deepfakes de abuso sexual infantil.
- Esta es la primera demanda de este tipo que una empresa de inteligencia artificial interpone contra un usuario por contenido creado en su plataforma.
- El resultado podría sentar un precedente sobre cómo la industria trata a los usuarios que utilizan las herramientas generativas como arma.
La empresa de inteligencia artificial xAI de Elon Musk ha llevado a un hombre de Carolina del Sur ante un tribunal federal de Texas, acusándolo de utilizar el chatbot Grok para crear deepfakes sexualmente explícitos de menores, lo que supone la primera vez que una empresa de IA demanda a uno de sus propios usuarios por contenido generado mediante su plataforma.
Según Reuters, el acusado, Terry Harwood, fue arrestado en febrero por cargos separados de explotación sexual de menores. La demanda civil de xAI se presentó el martes 14 de abril y ahora se sumará a cualquier caso penal que surja de dicho arresto.
Demanda de xAI
Según la denuncia, el acusado abrió varias cuentas condentfalsas y luego introdujo en la herramienta de inteligencia artificial fotografías de adultos y niños, introduciendo posteriormente instrucciones para convertir esas imágenes en contenido sexual. De acuerdo con Al Jazeera, las personas utilizadas en estos actos no habían dado su consentimiento ni sabían que sus fotografías estaban siendo utilizadas.
xAI afirma que el sistema se opuso a la acción. Grok rechazó las solicitudes, marcándolas como infracciones de sus normas de contenido. Según la denuncia, la respuesta de Harwood fue seguir reescribiendo las indicaciones e intentándolo de nuevo.
“Las acciones del demandado fueron un plan premeditado para utilizar la herramienta del demandante con fines delictivos, exponiendo a víctimas reales a un daño profundo y duradero”, escribió xAI en la demanda, citada por Reuters. La empresa también alega que produjo imágenes sexuales no consentidas de adultos.
La empresa de inteligencia artificial solicitó dos cosas al tribunal en la demanda. Estas incluyen una indemnización económica sin especificar la cantidad, y una orden que prohíba a Harwood volver a utilizar el producto Grok.
xAI también aprovechó la presentación para destacar la magnitud de su labor de control contra los delincuentes. La compañía afirmó haber suspendido 52.222 cuentas este año y haber enviado 73.604 informes al Centro Nacional para Niños Desaparecidos y Explotados, denuncias que derivaron en al menos 244 arrestos en 2026.
Grok sigue bajo un escrutinio más amplio
xAI ya estaba bajo presión por las capacidades de Grok antes de que surgiera este caso. Los reguladores europeos han examinado minuciosamente la herramienta de IA, mientras que los legisladores en Washington han expresado numerosas preocupaciones. Tanto Malasia como Indonesia han prohibido el chatbot debido a su contenido sexualmente explícito, según informó.
Elon Musk negó el problema subyacente a principios de este año. «No tengo conocimiento de que Grok haya generado imágenes de menores desnudos. Literalmente ninguna», escribió en X en enero.
No tengo conocimiento de que Grok haya generado imágenes de menores desnudos. Literalmente ninguna.
Obviamente, Grok no genera imágenes de forma espontánea, sino que lo hace únicamente en función de las peticiones del usuario.
Cuando se le pida que genere imágenes, se negará a producir cualquier cosa ilegal, ya que el principio operativo… https://t.co/YBoqo7ZmEj
— Elon Musk (@elonmusk) 14 de enero de 2026
Una vía legal recientemente creada, denominada Ley DEFI, también ha propiciado un aumento de estos casos. Dicha ley, firmada en 2024, otorga a las víctimas de deepfakes íntimos no consentidos la posibilidad de demandar, y varios estados han promulgado leyes específicas al respecto.
No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.
Aviso legal. La información proporcionada no constituye asesoramiento comercial. Cryptopolitanconsultar no se responsabiliza de las inversiones realizadas con base en la información proporcionada en esta página. Recomendamostronencarecidamente realizar una investigación independientedent un profesional cualificado antes de tomar cualquier decisión de inversión.
Opeyemi Olanrewaju
Opeyemi se especializa en la creación y perfeccionamiento de contenido de alta calidad centrado en criptomonedas, mercados financieros globales y economía. Se graduó de la Universidad de Ibadan con un título en Medicina y Cirugía (MBBS). Trabajó como editor jefe de la publicación editorial de su universidad y anteriormente en CFA. Durante más de seis años, contribuyó a preservar la singularidad como editor de noticias en Cryptopolitan.
