Senadores presionan para eliminar las aplicaciones X y Grok de las tiendas de aplicaciones de Apple y Google

Tres senadores demócratas enviaron una carta el viernes pidiendo a Apple y Google que retiren las aplicaciones X y Grok de sus tiendas de aplicaciones hasta que Elon Musk impida que los usuarios hagan y compartan imágenes explícitas sin consentimiento y material que muestre abuso sexual infantil.

Los senadores Ron Wyden de Oregon, Ed Markey de Massachusetts y Ben Ray Luján de Nuevo México escribieron al director de Apple, Tim Cook, y al director de Google, Sundar Pichai, exigiendo que “eliminen inmediatamente las aplicaciones X y Grok de sus tiendas de aplicaciones hasta que el director ejecutivo de la compañía, Elon Musk, aborde estas actividades perturbadoras y probablemente ilegales”

Los senadores advirtieron a las empresas tecnológicas sobre ignorar el problema. «Hacer la vista gorda ante el comportamiento reprobable de X convertiría en una burla sus prácticas de moderación», declararon .También afirmaron que no hacer nada «socavaría sus afirmaciones, tanto en público como en los tribunales, de que sus tiendas de aplicaciones ofrecen una experiencia de usuario más segura que permitir que los usuarios descarguen aplicaciones directamente en sus teléfonos».

El abuso generalizado de deepfakes genera alarma

Los usuarios han estado creando y compartiendo contenido sexual deepfake a través de Grok y X, usando fotos de personas que nunca aceptaron que sus imágenes se usaran de esta manera. Grok también ha creado imágenes que insultan a personas por su raza u origen.

El diario The Times de Londres describió un caso preocupante en el que un familiar de una superviviente del Holocausto fue "desnudado digitalmente" después de que le pidieran a Grok que creara una fotografía de ella en bikini en Auschwitz.

Estos problemas han dado lugar a investigaciones por parte de funcionarios gubernamentales en Europa, Malasia, Australia e India. La Comisión Federal de Comercio y el Departamento de Justicia no han confirmado si planean investigar xAI.

El 3 de enero, Musk y X dijeron que “cualquiera que use o incite a Grok a crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal”

Tanto Apple como Google tienen reglas estrictas para las aplicaciones que requieren que los desarrolladores impidan a los usuarios cargar y compartir imágenes que muestren abuso sexual infantil y otro material dañino.

La tienda de aplicaciones de Apple eliminó anteriormente plataformas de redes sociales y mensajería como Tumblr y Telegram por no bloquear adecuadamente el contenido inapropiado.

El viernes se informó que X ahora restringe las funciones de creación de imágenes de Grok solo a los suscriptores de pago. Sin embargo, la aplicación y el sitio web independientes de Grok aún permiten que los usuarios le pidan al sistema que cree imágenes sexuales o degradantes de personas sin obtener permiso para usar sus fotos o videos.

Musk ordenó personalmente los cambios recientes en Grok y exigió menos protecciones de seguridad. Tres trabajadores de xAI del equipo de seguridad publicaron en X que renunciaron tras las exigencias de Musk, según el informe.

Las controversias en torno al comportamiento de Grok no son nuevas. El chatbot ya había sido criticado por generar contenido antisemita y mostrarmatic .

xAI consigue financiación masiva a pesar de las controversias

En medio de las críticas, xAI anunció esta semana que recaudó 20 mil millones de dólares de inversores, tal como informó Cryptopolitan . La ronda de financiación incluyó a Nvidia y Cisco Investments, junto con empresas que ya habían respaldado a Musk: Valor Equity Partners, Stepstone Group, Fidelity, Qatar Investment Authority, MGX de Abu Dhabi y Baron Capital Group.

La cantidad de 20 000 millones de dólares superó el objetivo anterior de 15 000 millones. CNBC anunció en noviembre que la financiación situaría el valor de la startup de inteligencia artificial en torno a los 230 000 millones de dólares. Tras los primeros informes que indicaban que xAI quería 15 000 millones de dólares, Musk calificó la noticia de «falsa» en X.

Tanto Nvidia como Cisco trabajan con xAI como proveedores y socios.

Las startups de IA alcanzaron valores altísimos en 2025, captando enormes cantidades de dinero para satisfacer la demanda de su tecnología. OpenAI cerró una venta de acciones de 6.600 millones de dólares en octubre, con un valor de 500.000 millones de dólares. Un mes después, Anthropic alcanzó un valor de aproximadamente 350.000 millones de dólares, gracias a la financiación de Microsoft y Nvidia.