L'Espagne engage des poursuites judiciaires contre X, Meta et TikTok concernant les risques d'abus liés à l'IA

L'Espagne a engagé des poursuites judiciaires contre X, Meta et TikTok, les accusant d'avoir contribué à la création et à la diffusion de matériel pédopornographique grâce à leurs modèles d'IA.

Le Premier ministre espagnol, Pedro Sánchez, a déclaré mardi que le gouvernement allait invoquer l'article 8 du statut organique du parquet. Il a écrit :

« Aujourd’hui, le Conseil des ministres invoquera l’article 8 du Statut organique du ministère public pour demander qu’il enquête sur les crimes que X, Meta et TikTok pourraient commettre par la création et la diffusion de pornographie infantile au moyen de leur IA. »

Pedor a ajouté : « Ces plateformes s’attaquent à la santé mentale, à la dignité et aux droits de nos fils et de nos filles. L’État ne peut le tolérer. L’impunité de ces géants doit cesser. »

Deux semaines avant cette requête légale, Pedro avait partagé de nouveaux projets pour lutter contre les abus en ligne en Espagne, promettant de bloquer l'accès aux réseaux sociaux pour toute personne de moins de 16 ans.

En novembre, Pedro a déclaré que le Parlement espagnol enquêterait sur Meta pour d'éventuelles violations de la vie privée affectant les utilisateurs de Facebook et d'Instagram.

Les données de l'Internet Watch Foundation, une organisation britannique, montrent la rapidité avec laquelle le problème s'aggrave. L'année dernière, elle a recensé 3 440 vidéos pédopornographiques générées par intelligence artificielle, contre seulement 13 l'année précédente.

L'Europe continue de renforcer les mesures de contrôle à l'encontre des grandes entreprises technologiques

La décision de l'Espagne accentue les tensions croissantes entre les gouvernements européens et les grandes entreprises technologiques américaines. Ces dernières bénéficient du soutien de l'administration de Donald Trump, 47edent des États-Unis, élu en 2024 et en fonction en 2026.

Les dirigeants européens affirment que les plateformes doivent protéger les utilisateurs. Aux États-Unis, les responsables politiques et les dirigeants du secteur technologique estiment qu'une réglementation stricte risque de restreindre la liberté d'expression. Ce désaccord se joue désormais devant les tribunaux et les organismes de réglementation.

En décembre, l'Union européenne a infligé à X une amende de 120 millions d'euros (environ 140 millions de dollars) en vertu de la loi sur les services numériques. Il s'agissait de la première sanction prononcée en application de cette loi. Ce mois-ci, la police française a perquisitionné les bureaux français de X dans le cadre d'une enquête pour cybercriminalité portant sur la diffusion de pornographie infantile et de négationnisme sur la plateforme.

La Commission irlandaise de protection des données s'est également saisie de l'affaire. L'autorité de régulation, chargée de l'application du Règlement général sur la protection des données (RGPD) de l'Union européenne, a annoncé lundi soir avoir ouvert une enquête formelle concernant la création et la diffusion d'images à caractère sexuel « potentiellement préjudiciables » réalisées par Grok.

Le problème est que ces images pourraient avoir impliqué le traitement de données personnelles appartenant à des utilisateurs résidant dans l'UE.

Grok est directement intégré au flux de médias sociaux de X. Il a été développé par xAI, la société d'intelligence artificielle d'Elon Musk, qui a racheté X l'année dernière. Plus tôt ce mois-ci, xAI a fusionné avec SpaceX, la société aérospatiale de Musk. Cette opération a donné naissance à un groupe valorisé à 1 500 milliards de dollars.

L'enquête irlandaise est la dernière mesure prise par les autorités de régulation du monde entier contre X. Début janvier, des milliers d'images truquées à caractère sexuel de femmes ont été générées à l'aide de Grok. Ces images se sont rapidement propagées en ligne, provoquant unetronréaction de la part des utilisateurs, des experts en sécurité en ligne et des responsables politiques.

Graham Doyle, commissaire adjoint de l'autorité de régulation irlandaise, a déclaré que l'agence avait déjà pris contact avec X suite aux premiers articles de presse parus il y a plusieurs semaines. Ces articles dénonçaient la possibilité pour les utilisateurs d'inciter le compte @Grok sur X à générer des images à caractère sexuel de personnes réelles, y compris des enfants.