L'Espagne intente une action en justice contre X, Meta et TikTok pour les risques d'abus de l'IA

L'Espagne a entamé une action en justice contre X, Meta et TikTok, alléguant que leurs modèles d'IA ont contribué à créer et à diffuser des matériaux de pédopornographie.

Le Premier ministre espagnol Pedro Sánchez a déclaré mardi que le cabinet invoquerait l'article 8 du Statut organique du Ministère public. Il a écrit :

« Aujourd'hui, le Conseil des ministres invoquera l'article 8 du Statut organique du Ministère public pour demander qu'il enquête sur les crimes que X, Meta et TikTok pourraient commettre par la création et la diffusion de pornographie infantile au moyen de leur IA. »

Pedor a ajouté : « Ces plateformes attaquent la santé mentale, la dignité et les droits de nos fils et filles. L'État ne peut pas le tolérer. L'impunité des géants doit prendre fin. »

Deux semaines avant cette demande juridique, Pedro avait partagé de nouveaux plans pour lutter contre les abus en ligne en Espagne, promettant de bloquer l'accès aux réseaux sociaux pour toute personne de moins de 16 ans.

En novembre, Pedro a déclaré que le parlement espagnol enquêterait sur Meta pour de possibles violations de la vie privée affectant les utilisateurs de Facebook et Instagram.

Les données de l'Internet Watch Foundation, basée au Royaume-Uni, montrent à quelle vitesse le problème s'aggrave. L'année dernière, elle a signalé 3 440 vidéos de pédopornographie générées par l'IA. L'année précédente, elle n'en avait signalé que 13.

L'Europe continue de renforcer l'application de la loi contre les grandes entreprises technologiques

L'action de l'Espagne s'ajoute aux tensions croissantes entre les gouvernements européens et les grandes entreprises technologiques américaines. Ces entreprises bénéficient du soutien de l'administration de Donald Trump, 47e président des États-Unis, élu en 2024 et en fonction en 2026.

Les dirigeants européens soutiennent que les plateformes doivent protéger les utilisateurs. Les politiciens américains et les dirigeants technologiques affirment qu'une réglementation stricte risque de limiter la liberté d'expression. Le désaccord se joue désormais dans les tribunaux et les organismes de réglementation.

En décembre, l'Union européenne a infligé une amende de 120 millions d'euros, soit environ 140 millions de dollars, à X au titre du Digital Services Act. Il s'agissait de la première sanction prononcée en vertu de cette loi. Ce mois-ci, la police française a perquisitionné les bureaux locaux de X dans le cadre d'une enquête sur la cybercriminalité concernant la diffusion de pornographie infantile et la négation de l'Holocauste sur la plateforme.

La Commission irlandaise de la protection des données (Data Protection Commission) s'est également saisie de l'affaire. Le régulateur, qui applique le Règlement général sur la protection des données (RGPD) de l'Union européenne, a annoncé lundi soir qu'il avait ouvert une enquête formelle sur la création et la publication de ce qu'il a qualifié d'images sexualisées « potentiellement nuisibles » générées par Grok.

La crainte est que ces images aient impliqué le traitement de données personnelles appartenant à des utilisateurs de l'UE.

Grok est intégré directement au fil d'actualité social de X. Il a été développé par l'entreprise d'IA d'Elon Musk, xAI, qui a racheté X l'année dernière. Plus tôt ce mois-ci, xAI a fusionné avec la société de fusées de Musk, SpaceX. L'opération a créé un groupe combiné évalué à 1 500 milliards de dollars.

L'enquête irlandaise est la dernière action menée par les régulateurs du monde entier contre X. Début janvier, des milliers d'images deepfake sexualisées de femmes ont été générées à l'aide de Grok. Les images se sont rapidement propagées en ligne. La réaction a été immédiate. Les utilisateurs, les experts en sécurité en ligne et les politiciens ont tous réagi vigoureusement.

Graham Doyle, le commissaire adjoint du régulateur irlandais, a déclaré que l'agence était déjà en contact avec X après la première apparition des rapports médiatiques, il y a plusieurs semaines. Il a indiqué que ces rapports se plaignaient du fait que les utilisateurs pouvaient inviter le compte @Grok sur X à générer des images sexualisées de personnes réelles, y compris d'enfants.