La X de Musk podría ser prohibida en Gran Bretaña por supuestas imágenes inapropiadas de Grok

Elon Musk está considerando la posible prohibición de la app X en Gran Bretaña debido a la aparición de imágenes presuntamente inapropiadas en la dark web, que según los usuarios fueron generadas por el chatbot Grok AI. Se solicitó a Ofcom, el organismo de control de internet del Reino Unido, que desestimara todas las opciones, incluyendo multas millonarias o incluso el bloqueo total del acceso a la app X. 

La organización benéfica Internet Watch Foundation (IWF) reveló que sus analistas descubrieron imágenes de niñas de entre 11 y 13 años, aparentemente generadas por Grok en un sitio web oscuro. Según la Oficina de Comunicaciones (Ofcom), organismo regulador de medios, las imágenes constituían material ilegal de abuso sexual infantil. 

Kier Starmer insta a Ofcom a poner todas las opciones sobre la mesa

El primer ministro del Reino Unido, Kier Starmer, solicitó a la Oficina de Comunicaciones (Ofcom), el organismo de control de internet del Reino Unido, que presentara todas las opciones al considerar el caso de Musk después de que Grok, la aplicación de xAI, generara presuntamente imágenes delictivas de mujeres jóvenes y niños. Según un informe del Telegraph, la Ley de Seguridad en Línea del Reino Unido permite al país imponer multas millonarias a la aplicación X, o incluso bloquear el acceso a X en Gran Bretaña. 

La aplicación X cuenta con más de 650 millones de usuarios en todo el mundo, de los cuales al menos 20 millones son del Reino Unido. El primer ministro Starmer advirtió en el programa Greatest Hits Radio que X debería tomar medidas y retirar el contenido, añadiendo que se emprenderán acciones legales contra la aplicación de Musk porque su comportamiento es simplemente intolerable. Starmer hizo esta advertencia después de que aparecieran varias imágenes de mujeres y niños desnudos junto a otros en bikini, supuestamente generadas por el Grok . 

X tiene que controlar esto, y Ofcom cuenta con todo nuestro apoyo para tomar medidas al respecto. Esto está mal. Es ilegal. No lo vamos a tolerar. He solicitado que se consideren todas las opciones

-Kier Starmer, primer ministro del Reino Unido 

Hasta el momento, se espera que el regulador siga el debido proceso legal antes de aplicar la prohibición, incluyendo investigaciones y resoluciones provisionales. Si X no resuelve las preocupaciones de Ofcom, el regulador podría intentar bloquear el sitio web en el Reino Unido. Ofcom ya contactó a la plataforma de redes sociales esta semana, indicando que podría iniciar una investigación sobre las imágenes. 

Musk cree que la intención de la OSA es la supresión del pueblo

Musk ya había criticado la Ley de Seguridad en Línea (OSA) del Reino Unido, alegando que su objetivo era la represión de la ciudadanía. Según Musk, la OSA británica corre el riesgo de vulnerar la libertad de expresión mediante medidas para proteger a los menores de contenido perjudicial. Musk señaló que entre las intenciones "loables" de la ley se incluía una aplicación rigurosa por parte de Ofcom.

Alexander Ngaire, responsable de la línea directa de la organización benéfica Internet Watch Foundation, declaró a la BBC que herramientas como Grok conllevan el riesgo de introducir imágenes sexuales generadas por IA dirigidas a menores en los medios de comunicación convencionales. Clasificó el material como de Categoría C según la legislación británica, la categoría más baja en materia penal. Añadió que el usuario que subió las imágenes había utilizado otra herramienta de IA, no Grok, para crear una imagen de Categoría A, considerada el material delictivo más grave.  

Según Ngaire, la IWF está preocupada por la facilidad y rapidez con la que se puede generar material de abuso sexual infantil fotorrealista (CSAM). La fundación busca eliminar este material de internet mediante una línea directa donde se denuncian los casos sospechosos de CSAM, y sus analistas evalúan su legalidad y gravedad. Los analistas de la IWF descubrieron que el material solo aparecía en la web oscura y no se encontraba en la plataforma X. 

Según X, se tomarán medidas contra el contenido ilegal en su plataforma, incluido el abuso sexual infantil (CSAM), eliminándolo y suspendiendo permanentemente las cuentas, además de colaborar con los gobiernos locales y las fuerzas del orden cuando sea necesario. La plataforma social advierte que cualquiera que incite a Grok a crear contenido ilegal enfrentará las mismas consecuencias que si lo hubiera subido él mismo.