Le gouvernement coréen envisage des mesures réglementaires contre Grok, le chatbot d'intelligence artificielle générative (IA) développé par xAI, la société d'Elon Musk. Cette décision fait suite à plusieurs critiques formulées à l'encontre du chatbot et de son implication dans la création et la diffusion d'images deepfake à caractère sexuel.
L'information a été rapportée par un média local, l'Elec tron Times, qui a mentionné que la Commission de protection des renseignements personnels (PIPC) a lancé une enquête préliminaire sur Grok après que les allégations ont été signalées dans le comté par plusieurs personnes.
La procédure préliminaire consiste à confirmer si l'infraction a effectivement eu lieu et si l'affaire relève de sa compétence avant qu'une enquête formelle puisse être ouverte.
Le gouvernement coréen va mener une enquête sur Grok
Selon les informations disponibles , cet examen fait suite à plusieurs signalements apparus localement et à l'étranger, accusant Grok d'être utilisé pour créer des images deepfake explicites et non consensuelles, la plupart impliquant de vraies personnes et des mineurs.
Suite à cela, le PICP devrait déterminer la suite des opérations après avoir examiné les explications fournies par Grok et d'autres documents justificatifs. L'agence devrait également prendre en compte les tendances réglementaires internationales, qui influenceront sa décision.
En vertu de la Loi sur la protection des renseignements personnels, la modification ou la création d’images à caractère sexuel de personnesdentsans leur consentement peut constituer un traitement illicite de données personnelles.
Les chatbots d'IA, intégrés à la plateforme sociale X et permettant la génération de texte et d'images, ont fait l'objet de nombreuses critiques depuis l'année dernière concernant la création de fausses images de personnes réelles. Ces chatbots ont été utilisés pour générer toutes sortes d'images compromettantes, ce qui a suscité l'indignation du public.
Selon l'organisation non gouvernementale mondiale Center for Countering Digital Hate, Grok aurait été utilisé pour générer plus de trois millions d'images à caractère sexuellement explicite entre le 29 décembre 2025 et le 8 janvier 2026.
L'organisation affirme que parmi ces images, plus de 23 000 représentaient des mineurs et avaient été générées par le chatbot. Le centre a averti que la diffusion rapide des images générées par l'IA de Grok avait entraîné une circulation massive de contenus explicites en ligne.
L'autorité de régulation souhaite un rapport sur les mesures prises pour endiguer cette menace
Le centre a également mis en garde contre les graves risques que ce projet représente pour la sécurité des enfants. Face à cette menace, des pays comme les États-Unis, le Royaume-Uni, la France, le Canada et d'autres ont ouvert des enquêtes , tandis que des pays comme l'Indonésie, les Philippines et la Malaisie ont bloqué l'accès à Grok.
En réponse à la polémique, xAI a annoncé en début d'année avoir mis en œuvre certaines mesures techniques pour la prévenir.
La plateforme a affirmé avoir empêché les utilisateurs, qu'ils soient abonnés ou payants, de modifier ou de générer des images de personnes réelles, ajoutant qu'elle annoncerait très prochainement des mesures de sécurité supplémentaires.
En Corée, la Commission des médias et des communications (KMCC) a exigé le 14 janvier de X des mesures de protection de la jeunessetronstrictes. L'autorité de régulation coréenne a déclaré à la plateforme de médias sociaux que sa société d'intelligence artificielle devait élaborer un plan pour empêcher la génération de contenu illégal ou préjudiciable.
Par ailleurs, l'autorité de régulation a également ajouté que l'entreprise devait limiter l'accès des mineurs à ce type de contenu.
Actuellement, X dispose d'un responsable de la protection de la jeunesse désigné en Corée, conformément à la loi, et soumet des rapports annuels sur sa conformité. La KMCC a exhorté la plateforme à fournir des documents supplémentaires concernant le protocole de sécurité de Grok, rappelant que la création et la diffusion d'images à caractère sexuel non consensuelles sur sa plateforme, en particulier impliquant des mineurs, constituent une infraction pénale en Corée.
La commission a fixé un délai de deux semaines. Si X ne répond pas ou ignore la demande, elle pourra lui infliger une amende administrative pouvant atteindre 10 millions de wons (6 870 dollars). Des mesures similaires ont été prises dans d'autres pays, où xAI a été chargée de proposer des solutions pour endiguer la montée en puissance de cette menace.
À l'instar de la Corée, ces pays ont également annoncé des amendes substantielles si l'entreprise ne parvient pas à élaborer et à soumettre un rapport détaillant les mesures qu'elle a prises pour limiter la progression de cette menace.
