- El gobierno de Corea del Sur busca tomar medidas regulatorias contra el chatbot xAI Grok.
- La PIPC ha realizado una revisión preliminar del chatbot basada en informes locales e internacionales.
- El regulador quiere que xAI presente un informe indicando cómo mitigará la amenaza o se arriesgue a una multa.
El gobierno coreano está mirando hacia acciones regulatorias contra el chatbot de inteligencia artificial generativa (IA) de xAI, propiedad de Elon Musk, Grok. Esto sigue a varias críticas dirigidas al chatbot y su participación en la generación y distribución de imágenes deepfake sexualmente explotadoras.
La información fue reportada por un medio de comunicación local, el Electronic Times, que mencionó que la Comisión de Protección de la Información Personal (PIPC) ha lanzado una revisión preliminar de hallazgos de hechos sobre Grok después de que las alegaciones fueran reportadas en el condado por varios individuos.
El proceso preliminar es confirmar si la violación realmente ocurrió y si el asunto está dentro de su jurisdicción antes de que se pueda lanzar una investigación formal.
El gobierno coreano llevará a cabo una revisión sobre Grok
Según informes, la revisión sigue a varios informes que surgieron local y internacionalmente, acusando a Grok de ser utilizado para crear imágenes deepfake explícitas y no consensuadas, con la mayoría de ellas involucrando a individuos reales y menores.
Con esto, se informa que la PICP determinará su próximo curso de acción después de revisar la explicación proporcionada por Grok y otros documentos de apoyo. Se espera que la agencia también revise las tendencias regulatorias globales, lo que daría forma a su toma de decisiones.
Bajo la Ley de Protección de la Información Personal, alterar o generar imágenes sexuales de individuos identificables sin consentimiento puede constituir el manejo ilegal de datos personales.
Los chatbots de IA, que están integrados en la plataforma social X y ofrecen tanto generación de texto como de imágenes en la plataforma, han enfrentado varias críticas por la creación de imágenes falsas de personas reales desde el año pasado. El chatbot ha sido utilizado para crear todo tipo de imágenes comprometedoras, que han sido mal vistas por el público en general.
Según la organización no gubernamental global Center for Countering Digital Hate, se estima que Grok ha sido utilizado para generar más de tres millones de imágenes sexualmente explícitas entre el 29 de diciembre de 2025 y el 8 de enero de 2026.
La organización afirma que, entre ese número, más de 23.000 eran imágenes de menores generadas utilizando el chatbot. El centro advirtió que la rápida propagación de las imágenes generadas por IA de Grok ha llevado a una circulación a gran escala de contenido explícito en línea.
El regulador quiere un informe sobre las medidas tomadas para frenar la amenaza
El centro también ha advertido sobre los graves riesgos de seguridad que el desarrollo plantea para los niños. Como resultado de esta amenaza, países como Estados Unidos, el Reino Unido, Francia, Canadá y algunos otros han lanzado investigaciones, mientras que países como Indonesia, Filipinas y Malasia han bloqueado el acceso a Grok.
En respuesta a la controversia, xAI anunció a principios de este año que había implementado ciertas medidas técnicas para evitarlo.
La plataforma afirmó que ha detenido tanto a usuarios gratuitos como de pago de editar o generar imágenes de personas reales, añadiendo que anunciaría más salvaguardas muy pronto.
En Corea, la Comisión de Medios y Comunicaciones (KMCC) exigió medidas más estrictas de protección juvenil a X el 14 de enero. El regulador coreano le dijo a la plataforma de redes sociales que su empresa de IA necesita presentar un plan para prevenir la generación de contenido ilegal o dañino.
Además, el regulador también añadió que la empresa necesita limitar el acceso de los menores a dicho contenido.
Actualmente, X tiene un oficial designado de protección juvenil en Corea de acuerdo con la ley y presenta informes anuales sobre el cumplimiento relacionado. KMCC ha instado a la plataforma a presentar documentación adicional sobre el protocolo de seguridad de Grok, señalando que las imágenes sexuales no consensuadas creadas y distribuidas en su plataforma, especialmente las que involucran a menores, son un delito en Corea.
La comisión ha establecido un plazo de dos semanas. Si X no responde o ignora la solicitud, puede imponer una multa administrativa de hasta 10 millones de wones (6.870 dólares). El mismo movimiento se ha observado en otros países, donde se ha encargado a xAI que presente medidas para frenar el aumento de la amenaza.
Al igual que Corea, los países también han anunciado multas sustanciales si la empresa no diseña y presenta un informe que muestre los pasos que ha dado para limitar el aumento de la amenaza.
No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Owotunse Adebayo
Adebayo es un escritor con cuatro años de experiencia en el ámbito de las criptomonedas. Se graduó de la Universidad de Lagos, donde estudió Planificación Urbana y Regional. Adebayo ha trabajado en Tokenhell y CryptoTicker, redactando noticias sobre criptomonedas y Fintech. Actualmente es colaborador de noticias en Cryptopolitan.
