Tres senadores demócratas enviaron una carta el viernes pidiendo a Apple y Google que retiren las aplicaciones X y Grok de sus tiendas de aplicaciones hasta que Elon Musk impida que los usuarios hagan y compartan imágenes explícitas sin consentimiento y material que muestre abuso sexual infantil.
Los senadores Ron Wyden de Oregon, Ed Markey de Massachusetts y Ben Ray Luján de Nuevo México escribieron al director de Apple, Tim Cook, y al director de Google, Sundar Pichai, exigiendo que “eliminen inmediatamente las aplicaciones X y Grok de sus tiendas de aplicaciones hasta que el director ejecutivo de la compañía, Elon Musk, aborde estas actividades perturbadoras y probablemente ilegales”
Los senadores advirtieron a las empresas tecnológicas que no ignoraran el problema. "Hacer la vista gorda ante el comportamiento atroz de X sería burlarse de sus prácticas de moderación", declararon . También dijeron que no hacer nada "socavaría sus afirmaciones, tanto en público como en los tribunales, de que sus tiendas de aplicaciones ofrecen una experiencia de usuario más segura que permitir que los usuarios descarguen aplicaciones directamente a sus teléfonos".
El abuso generalizado de deepfakes genera alarma
Los usuarios han estado creando y compartiendo contenido sexual deepfake a través de Grok y X , usando fotos de personas que nunca aceptaron que sus imágenes se usaran de esta manera. Grok también ha creado imágenes que insultan a personas por su raza u origen.
El Times de Londres describió un caso preocupante en el que una pariente de una sobreviviente del Holocausto "fue 'desnudada digitalmente'" después de que la gente le pidió a Grok que creara una foto de ella en bikini en Auschwitz.
Estos problemas han dado lugar a investigaciones por parte de funcionarios gubernamentales en Europa, Malasia, Australia e India. La Comisión Federal de Comercio y el Departamento de Justicia no han confirmado si planean investigar xAI.
El 3 de enero, Musk y X dijeron que “cualquiera que use o incite a Grok a crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal”
Tanto Apple como Google tienen reglas estrictas para las aplicaciones que requieren que los desarrolladores impidan a los usuarios cargar y compartir imágenes que muestren abuso sexual infantil y otro material dañino.
La tienda de aplicaciones de Apple eliminó anteriormente plataformas de redes sociales y mensajería como Tumblr y Telegram por no bloquear adecuadamente el contenido inapropiado.
El viernes se informó que X ahora restringe las funciones de creación de imágenes de Grok solo a los suscriptores de pago. Sin embargo, la aplicación y el sitio web independientes de Grok aún permiten que los usuarios le pidan al sistema que cree imágenes sexuales o degradantes de personas sin obtener permiso para usar sus fotos o videos.
Musk ordenó personalmente los cambios recientes en Grok y exigió menos protecciones de seguridad. Tres trabajadores de xAI del equipo de seguridad publicaron en X que renunciaron tras las exigencias de Musk, según el informe.
Las controversias en torno al comportamiento de Grok no son nuevas. El chatbot ya ha recibido críticas por generar contenido antisemita y mostrar matic .
xAI consigue financiación masiva a pesar de las controversias
Mientras lidiaba con las críticas, xAI anunció esta semana que había captado 20 000 millones de dólares de inversores, como informó Cryptopolitan anteriormente. La ronda de financiación incluyó a Nvidia y Cisco Investments, junto con empresas que ya han respaldado a Musk: Valor Equity Partners, Stepstone Group, Fidelity, Qatar Investment Authority, MGX de Abu Dabi y Baron Capital Group.
La cantidad de 20 000 millones de dólares superó el objetivo anterior de 15 000 millones. CNBC anunció en noviembre que la financiación situaría el valor de la startup de inteligencia artificial en torno a los 230 000 millones de dólares. Tras los primeros informes que indicaban que xAI quería 15 000 millones de dólares, Musk calificó la noticia de «falsa» en X.
Tanto Nvidia como Cisco trabajan con xAI como proveedores y socios.
Las startups de IA alcanzaron valores altísimos en 2025, captando enormes cantidades de dinero para satisfacer la demanda de su tecnología. OpenAI cerró una venta de acciones de 6.600 millones de dólares en octubre, con un valor de 500.000 millones de dólares. Un mes después, Anthropic alcanzó un valor de aproximadamente 350.000 millones de dólares, gracias a la financiación de Microsoft y Nvidia.
