Trois sénateurs démocrates ont envoyé vendredi une lettre demandant à Apple et Google de retirer les applications X et Grok de leurs boutiques d'applications jusqu'à ce qu'Elon Musk empêche les utilisateurs de créer et de partager des images explicites sans consentement et du contenu montrant des abus sexuels sur des enfants.
Les sénateurs Ron Wyden (Oregon), Ed Markey (Massachusetts) et Ben Ray Luján (Nouveau-Mexique) ont écrit au patron d'Apple, Tim Cook, et au directeur de Google, Sundar Pichai, exigeant qu'ils « retirent immédiatement les applications X et Grok de leurs boutiques d'applications jusqu'à ce que le PDG de l'entreprise, Elon Musk, s'attaque à ces activités inquiétantes et probablement illégales »
Les sénateurs ont mis en garde les entreprises technologiques contre le risque d'ignorer le problème. « Fermer les yeux sur les agissements répréhensibles de X reviendrait à ridiculiser vos pratiques de modération », ont-ils déclaré . Ils ont également affirmé que l'inaction « saperait vos arguments, tant publics que juridiques, selon lesquels vos plateformes de téléchargement d'applications offrent une expérience utilisateur plus sûre que le téléchargement direct d'applications sur les téléphones ».
L’utilisation abusive généralisée des deepfakes suscite l’inquiétude
Des utilisateurs créent et partagent des contenus sexuels truqués via Grok et X , en utilisant des photos de personnes n'ayant jamais consenti à ce que leurs images soient utilisées de cette manière. Grok a également produit des images insultantes envers des personnes en raison de leur origine ethnique ou sociale.
Le Times de Londres a décrit un cas troublant où la parente d'une survivante de l'Holocauste a été « dénudée numériquement » après que des personnes aient demandé à Grok de créer une photo d'elle en bikini à Auschwitz.
Ces problèmes ont donné lieu à des enquêtes menées par les autorités gouvernementales en Europe, en Malaisie, en Australie et en Inde. La Commission fédérale du commerce et le département de la Justice n'ont pas indiqué s'ils comptaient enquêter sur xAI.
Le 3 janvier, Musk et X ont déclaré que « toute personne utilisant Grok ou incitant à créer du contenu illégal subira les mêmes conséquences que si elle téléchargeait elle-même du contenu illégal »
Apple et Google imposent tous deux des règles strictes aux applications, obligeant les développeurs à empêcher les utilisateurs de télécharger et de partager des images montrant des abus sexuels sur enfants et d'autres contenus préjudiciables.
L'App Store d'Apple avait précédemment retiré des plateformes de médias sociaux et de messagerie comme Tumblr et Telegram pour ne pas avoir correctement bloqué les contenus inappropriés.
Des informations parues vendredi indiquaient que X réservait désormais l'accès aux fonctionnalités de création d'images de Grok à ses abonnés payants. Cependant, l'application et le site web de Grok permettent toujours aux utilisateurs de demander au système de créer des images à caractère sexuel ou dégradant de personnes sans leur autorisation.
Musk a personnellement ordonné les récentes modifications apportées à Grok et souhaitait réduire les mesures de sécurité. Selon le rapport, trois employés de l'équipe de sécurité de xAI ont annoncé sur X avoir démissionné suite à ces exigences.
Les polémiques entourant le comportement de Grok ne sont pas nouvelles. Ce chatbot a déjà été critiqué pour avoir généré du contenu antisémite et affiché matic .
xAI obtient un financement massif malgré les controverses
Malgré les critiques, xAI a annoncé cette semaine avoir levé 20 milliards de dollars auprès d'investisseurs, comme l'avait précédemment rapporté Cryptopolitan . Ce tour de table a notamment réuni Nvidia et Cisco Investments, ainsi que des sociétés ayant déjà soutenu Musk : Valor Equity Partners, Stepstone Group, Fidelity, Qatar Investment Authority, MGX (Abu Dhabi) et Baron Capital Group.
Le montant de 20 milliards de dollars dépasse l'objectif initial de 15 milliards. CNBC avait indiqué en novembre que ce financement valoriserait la startup spécialisée dans l'intelligence artificielle à environ 230 milliards de dollars. Après les premières informations selon lesquelles xAI recherchait 15 milliards de dollars, Musk avait démenti ces allégations.
Nvidia et Cisco travaillent tous deux avec xAI en tant que fournisseurs et partenaires.
Les startups spécialisées en IA ont atteint des valorisations exceptionnelles en 2025, levant des sommes colossales pour répondre à la demande croissante pour leurs technologies. OpenAI a finalisé une levée de fonds de 6,6 milliards de dollars en octobre, atteignant une valorisation de 500 milliards de dollars. Un mois plus tard, Anthropic atteignait une valorisation d'environ 350 milliards de dollars, grâce à un investissement de Microsoft et Nvidia.
