Foto de El chatbot de inteligencia artificial Grok de Elon Musk se enfrenta al riesgo de ser prohibido permanentemente en Francia, Malasia e India después de crear imágenes sexualizadas de niños en respuesta a mensajes públicos en X.
El sábado, las autoridades malasias anunciaron que están investigando a Grok por producir contenido ofensivo e ilegal mediante inteligencia artificial. La Comisión de Comunicaciones y Multimedia del país (MCMC) confirmó haber recibido denuncias de que Grok generaba imágenes manipuladas de mujeres y menores de edad con contenido sexualmente explícito.
La agencia dejó claro que distribuir dicho contenido constituye un delito penal en Malasia. Según su comunicado, también perseguirán a los usuarios de X que solicitaron o publicaron el contenido y planean citar a sus representantes para interrogarlos.
La MCMC declaró: "Si bien X no es actualmente un proveedor de servicios con licencia, tiene el deber de prevenir la difusión de contenido dañino en su plataforma".
India, Francia y la UE plantean amenazas legales por las imágenes de Grok
Tan solo un día antes, el Ministerio de Electrónica y Tecnología de la Información de la Indiatronuna advertencia formal a X, exigiendo una revisión completa de Grok y su capacidad para generar desnudez, material sexualizado o cualquier cosa que sea ilegal.
Bloomberg afirma haber visto una copia del aviso, fechado el 2 de enero, que otorgaba a X 72 horas para presentar un informe completo sobre las medidas adoptadas. La carta advertía sobre posibles cargos penales y sanciones adicionales según la legislación informática del país.
El ministro de Tecnología de la Información de la India, Ashwini Vaishnaw, declaró a CNBC-TV 18: «El Comité Parlamentario ha recomendado una leytronpara regular las redes sociales. La estamos considerando»
Mientras tanto, el gobierno francés tampoco se quedó atrás. El viernes, las autoridades declararon que Grok había generado material sexual "claramente ilegal" en X sin el consentimiento de los usuarios. Añadieron que el comportamiento del chatbot probablemente infringía la Ley de Servicios Digitales, que exige a las grandes plataformas que tomentronpara limitar el contenido ilegal.
Según Francia, las acciones de Grok muestran un fracaso total en la aplicación de las reglas de la plataforma.
Algunas fotos fueron retiradas tras las críticas, pero las autoridades afirmaron que el daño ya estaba hecho. Incluso la propia política de Grok prohíbe la sexualización, lo que agrava aún más la violación.
En respuesta a la controversia, una publicación de Grok en X afirmó haberdentfallas en las salvaguardias y dijo que se estaban aplicando soluciones urgentemente. Sin embargo, esto no ha frenado las demandas de rendición de cuentas por parte de los gobiernos.
Musk se enfurece cuando la UE sanciona a X con 120 millones de euros
Mientras tanto, el mes pasado, la Unión Europea multó a X con 120 millones de euros (unos 140 millones de dólares) por infringir la Ley de Servicios Digitales. La multa se debió a diseños engañosos de marcas de verificación azules, sistemas publicitarios opacos y la negativa a dar acceso a los datos a los investigadores. Aun así, Elon arrasó en la plataforma.
En una respuesta a la publicación oficial de la UE, Elon simplemente escribió: "¡Mentira!". Al día siguiente, publicó: "La UE debería ser abolida y la soberanía debería ser devuelta a cada país, para que los gobiernos puedan representar mejor a sus ciudadanos"
Andrew Puzder, embajador de Estados Unidos ante la UE, respaldó a Elon en X, diciendo: “La excesiva multa de 120 millones de euros de hoy es el resultado de un exceso regulatorio de la UE dirigido a la innovación estadounidense”
Añadió que la administración deldent Trump se opone a la censura y luchará contra las normas internacionales injustas. "Esperamos que la UE participe en un comercio justo, abierto y recíproco, y nada menos", publicó Puzder.
A medida que crece la reacción contra Grok, también aumentan las amenazas de regulación y demandas. Pero en lugar de calmar los ánimos, Elon y su equipo respondieron a una solicitud de Bloomberg por correo electrónico con solo dos palabras: "Mentiras de los medios tradicionales"
