Los senadores presionan para que se eliminen las aplicaciones X y Grok de las tiendas de aplicaciones de Apple y Google

Tres senadores demócratas enviaron una carta el viernes pidiendo a Apple y Google que retirasen las aplicaciones X y Grok de sus tiendas de aplicaciones hasta que Elon Musk impidiera a los usuarios crear y compartir imágenes explícitas sin consentimiento y material que mostrara abuso sexual infantil.

Los senadores Ron Wyden de Oregón, Ed Markey de Massachusetts y Ben Ray Luján de Nuevo México escribieron al jefe de Apple, Tim Cook, y al director de Google, Sundar Pichai, exigiéndoles que "retirasen inmediatamente las aplicaciones X y Grok de sus tiendas de aplicaciones hasta que el director ejecutivo de la empresa, Elon Musk, abordara estas actividades perturbadoras y probablemente ilegales".

Los senadores advirtieron a las empresas tecnológicas sobre ignorar el problema. "Ignorar el comportamiento flagrante de X haría una burla de sus prácticas de moderación", declararon. También dijeron que no hacer nada "socavaría sus afirmaciones en público y en los tribunales de que sus tiendas de aplicaciones ofrecen una experiencia de usuario más segura que permitir a los usuarios descargar aplicaciones directamente en sus teléfonos".

El abuso generalizado de deepfakes genera alarma

Los usuarios han estado creando y compartiendo contenido sexual deepfake a través de Grok y X, utilizando imágenes de personas que nunca acordaron que sus imágenes se usaran de esta manera. Grok también ha creado imágenes que insultan a las personas basándose en su raza o trasfondo.

The Times of London describió un caso preocupante en el que un familiar de una superviviente del Holocausto fue "despojado digitalmente" después de que algunas personas le pidieran a Grok que creara una imagen de ella vistiendo un bikini en Auschwitz.

Estos problemas han llevado a investigaciones por parte de funcionarios gubernamentales en Europa, Malasia, Australia e India. La Comisión Federal de Comercio y el Departamento de Justicia no han indicado si planean investigar a xAI.

El 3 de enero, Musk y X afirmaron que "cualquiera que use o solicite a Grok crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal".

Tanto Apple como Google tienen normas estrictas para las aplicaciones que exigen a los desarrolladores impedir que los usuarios suban y compartan imágenes que muestren abuso sexual infantil y otro material dañino.

La tienda de aplicaciones de Apple había eliminado previamente plataformas sociales y de mensajería como Tumblr y Telegram por no bloquear adecuadamente el contenido inapropiado.

Los informes del viernes indicaban que X ahora restringe las funciones de generación de imágenes de Grok únicamente a suscriptores de pago. Sin embargo, la aplicación y el sitio web independientes de Grok siguen permitiendo a los usuarios pedir al sistema que cree imágenes sexuales o degradantes de personas sin obtener permiso para usar sus fotos o vídeos.

Musk ordenó personalmente los cambios recientes en Grok y quería menos protecciones de seguridad. Tres trabajadores del equipo de seguridad de xAI publicaron en X que dimitieron después de que Musk hiciera estas demandas, según el informe.

Las controversias en torno al comportamiento de Grok no son nuevas. El chatbot ha enfrentado anteriormente críticas por generar contenido antisemita y mostrar personalidades problemáticas.

xAI asegura una financiación masiva a pesar de las controversias

Mientras lidiaba con las críticas, xAI anunció esta semana que ha recaudado 20.000 millones de dólares de inversores, según informó previamente Cryptopolitan. La ronda de financiación incluyó a Nvidia y Cisco Investments, junto con empresas que ya habían respaldado a Musk: Valor Equity Partners, Stepstone Group, Fidelity, Qatar Investment Authority, MGX de Abu Dabi y Baron Capital Group.

Los 20.000 millones de dólares superaron el objetivo anterior de 15.000 millones. CNBC dijo en noviembre que la financiación situaría el valor de la startup de inteligencia artificial en torno a los 230.000 millones de dólares. Tras los primeros informes que indicaban que xAI quería 15.000 millones, Musk calificó la noticia de "Falsa" en X.

Tanto Nvidia como Cisco trabajan con xAI como proveedores y socios.

Las startups de IA alcanzaron valores extremadamente altos en 2025, atrayendo grandes cantidades de dinero para satisfacer la demanda de su tecnología. OpenAI completó una venta de acciones por 6.600 millones de dólares en octubre con una valoración de 500.000 millones de dólares. Un mes después, Anthropic alcanzó una valoración de unos 350.000 millones de dólares, recibiendo dinero de Microsoft y Nvidia.