Photo de La Commission européenne a ouvert une procédure formelle contre la plateforme de médias sociaux X d'Elon Musk après que son chatbot d'intelligence artificielle Grok a été surpris à produire des images à caractère sexuel de personnes réelles sans leur autorisation, y compris des photos d'enfants.
Des utilisateurs de X ont créé des versions modifiées par intelligence artificielle de photographies réelles en demandant à Grok de les générer. Une étude publiée la semaine dernière par le Centre de lutte contre la haine numérique a révélé que Grok avait produit environ trois millions d'images truquées de femmes et d'enfants en quelques jours seulement.
La polémique a suscité des appels à des enquêtes dans plusieurs pays. En Irlande , plusieurs ministres ont fermé leurs comptes X en réaction.
Regina Doherty, députée européenne du Fine Gael, a confirmé la décision de la Commission à l'encontre de l'entreprise dans un communiqué publié ce matin. Elle a indiqué soutenir l'ouverture d'une enquête formelle.
« Lorsque des rapports crédibles font état de l’utilisation de systèmes d’IA préjudiciables aux femmes et aux enfants, il est essentiel que le droit de l’UE soit examiné et appliqué sans délai », a déclaré Doherty.
Elle a ajouté que cette affaire soulève de sérieuses questions quant au respect par les plateformes de leurs obligations légales en matière de vérification des risques et de prévention de la diffusion de contenus illégaux et nuisibles.
Doherty a souligné que l'enquête devait aboutir à des conséquences concrètes.
« Aucune entreprise opérant dans l’UE n’est au-dessus des lois », a-t-elle déclaré.
Elle a également souligné que cette situation révèle des problèmes plus importants concernant la réglementation et le contrôle des nouvelles technologies d'IA, et a demandé que des mesures supplémentaires soient prises au niveau de l'UE.
« Cette affaire souligne pourquoi la loi sur l'IA doit rester une législation vivante. Si des lacunes en matière d'application ou de contrôle apparaissent, il est de notre responsabilité d'y remédier. Le droit européen doit être applicable en temps réel en cas de préjudice grave », a déclaré M. Doherty.
L'enquête est retardée en raison de la crise du Groenland
Selon le média allemand Handelsblatt , la Commission avait prévu d'engager la procédure en vertu de la loi européenne sur les services numériques lundi dernier, mais la décision a été reportée alors que l'UE était confrontée aux menaces du président américain dent Trump de s'emparer du Groenland.
Ce n'est pas la première fois que X rencontre des difficultés avec les autorités de régulation européennes. En décembre 2025, la plateforme a écopé d'une amende de 120 millions d'euros de la part de l'UE pour infraction à la loi sur les services numériques. Les infractions reprochées incluaient l'utilisation de faux badges bleus, un manque de transparence concernant la publicité et le fait d'empêcher les chercheurs d'accéder à la plateforme.
Les responsables de l'administration Trump ont vivementtroncette amende. Le secrétaire d'État Marco Rubio et le vice-dent JD Vance l'ont tous deux qualifiée d'attaque contre les plateformes technologiques américaines.
Mettre l'accent sur l'évaluation des risques et la modération du contenu
La dernière enquête porte précisément sur la question de savoir si X a correctement évalué les risques liés à son chatbot IA et a pris les mesures nécessaires pour empêcher la création et la diffusion de contenus préjudiciables. La loi sur les services numériques (Digital Services Act) impose aux grandes plateformes en ligne d'dentet de gérer les risques liés aux contenus illégaux et aux préjudices causés aux utilisateurs.
La production rapide d'un si grand nombre d'images inappropriées en si peu de temps a suscité l'inquiétude des défenseurs de la sécurité numérique et des législateurs.
Cette situation sert de cas test pour la manière dont la réglementation européenne encadrera les technologies d'IA émergentes. Bien que la loi sur l'IA ait été adoptée pour régir les systèmes d'intelligence artificielle, cette affaire est traitée dans le cadre de la loi sur les services numériques, qui couvre les responsabilités des plateformes en ligne.
L'enquête pourrait entraîner des amendes supplémentaires ou contraindre X à modifier le fonctionnement de Grok. La Commission est habilitée à infliger des sanctions pouvant atteindre six pour cent du chiffre d'affaires annuel mondial d'une entreprise en cas de violations graves de la loi sur les services numériques.
X n'a pas encore commenté publiquement la nouvelle enquête. La gestion de la situation par l'entreprise sera scrutée de près, tandis que d'autres pays envisagent leurs propres mesures réglementaires . Plusieurs nations ont déjà exigé des mesures urgentes pour remédier à la capacité du chatbot à générer des images inappropriées.
