Indonesia levanta la prohibición de Grok y permite su reapertura bajo estrictas condiciones

Indonesia ha anunciado su intención de levantar la prohibición que impuso al chatbot xAI Grok, permitiendo que opere bajo estrictas directrices y condiciones. La información fue proporcionada por el Ministerio de Comunicaciones y Asuntos Digitales de Indonesia (Komdigi), que indicó que ha comenzado a procesar la restauración condicional del acceso al chatbot.

La agencia mencionó que la medida se emprendió después de un compromiso de su empresa matriz para mejorar el cumplimiento de las regulaciones nacionales. La medida sigue a la decisión del ministerio en enero de bloquear temporalmente el acceso a Grok por preocupaciones sobre su mal uso para generar contenido pornográfico falso no consensuado en la plataforma de redes sociales X.

La plataforma y el chatbot son propiedad del multimillonario y CEO de Tesla, Elon Musk.

Indonesia restablece el acceso temporal a Grok

En la declaración publicada el domingo, Alexander Sabar, el Director General de Monitoreo del Espacio Digital de Komdigi, mencionó que la restauración sigue siendo condicional y se está implementando como un paso medido de aplicación de la ley en el ciberespacio.

Mencionó que este paso se dio tras recibir una guía escrita de X que describe formas de mejorar su servicio y prevenir su mal uso. «Consideramos esto una base para la evaluación, no el fin de la supervisión», afirmó Sabar.

En una carta dirigida a la ministra de Komdigi, Meutya Hafid, la empresa enumeró varias medidas en capas que ha implementado para prevenir el mal uso de Grok en Indonesia. Estas medidas incluyen mejoras en las salvaguardias técnicas, restricción del acceso a ciertas funciones, endurecimiento de las políticas internas y mecanismos de aplicación.

La empresa también añadió que ha activado los protocolos de respuesta a incidentes. Sabar aseguró al público que su oficina verificará y evaluará continuamente estas salvaguardias.

Además, el Director General mencionó que también evaluará la eficacia de estas salvaguardias para frenar la propagación de contenido ilegal y explícito, especialmente como parte de los esfuerzos para proteger a mujeres y niños en el espacio digital. «El Ministerio de Komdigi no dudará en tomar medidas correctivas, incluida la reimposición de una prohibición al servicio de IA, si se identifican inconsistencias o violaciones», enfatizó.

Países que mejorarán la supervisión de Grok

Sabar también añadió que el gobierno indonesio sigue comprometido con estrategias de supervisión proporcionales, transparentes y basadas en la regulación para salvaguardar los intereses públicos en el ecosistema digital. Mencionó que, como proveedor de sistemas electrónicos registrados, X Corp se ha comprometido a cooperar con el gobierno para cumplir con sus obligaciones legales y contribuir a la creación de un entorno digital seguro.

Aunque existe un diálogo abierto, el gobierno ha mencionado que la empresa debe cumplir plenamente con la ley indonesia.

Indonesia no es el único país que ha dado luz verde a Grok para reanudar sus operaciones, con Filipinas dando el visto bueno a la plataforma y su chatbot para reanudar operaciones. El desarrollo fue posible después de que la compañía asegurara a las autoridades la mejora de las medidas de seguridad, lo que llevó al país a otorgar acceso temporal al chatbot. El gobierno afirmó que la plataforma prometió que todas las características de manipulación de contenido habían sido desactivadas del chatbot.

Además de eliminar las funciones, la empresa también aceptó estar constantemente supervisada por los reguladores para garantizar el cumplimiento total.

«Incluso después de levantar la prohibición, el CICC seguirá monitoreando de cerca la aplicación para asegurar que cumplan con las normas y regulaciones de nuestro país», subrayando la cautela. El acuerdo llegó después de que el país anunciara que el chatbot estaba bloqueado debido a preocupaciones sobre acoso dirigido, resultado de elementos deshonestos que usaban el chatbot para generar materiales sexualizados de mujeres y niños.

Varios países y la Unión Europea también mostraron su descontento ante esta amenaza. El vigilante digital de la UE dijo en ese momento que estaba examinando seriamente las quejas presentadas por los residentes. «Grok ahora ofrece un 'modo picante' que muestra contenido sexual explícito, con algunas salidas generadas con imágenes infantiles. Esto no es picante. Esto es ilegal. Esto es espantoso. Esto no tiene lugar en Europa», dijo entonces el portavoz de asuntos digitales de la UE, Thomas Regnier.