Le gouvernement coréen enquêtera sur Grok pour des images deepfake
Owotunse Adebayo
3 min de lecture
- Le gouvernement sud-coréen envisage de prendre des mesures réglementaires contre le chatbot xAI Grok.
- La PIPC a mené un examen préliminaire du chatbot sur la base de rapports locaux et internationaux.
- Le régulateur demande à xAI de soumettre un rapport indiquant comment il compte enrayer la menace, sous peine d'amende.
Le gouvernement coréen envisage des actions réglementaires contre le chatbot d'intelligence artificielle (IA) générative Grok, appartenant à xAI d'Elon Musk. Cela fait suite à plusieurs critiques dirigées contre le chatbot et son implication dans la génération et la distribution d'images deepfake sexuellement exploitantes.
L'information a été rapportée par un média local, l'Electronic Times, qui a mentionné que la Commission de protection des informations personnelles (PIPC) a lancé un examen préliminaire de vérification des faits concernant Grok après que les allégations aient été signalées dans le comté par plusieurs individus.
Le processus préliminaire consiste à confirmer si la violation s'est réellement produite et si l'affaire relève de sa juridiction avant qu'une enquête formelle ne soit lancée.
Le gouvernement coréen mènera un examen de Grok
Selon les rapports, l'examen fait suite à plusieurs rapports qui ont émergé localement et à l'étranger, accusant Grok d'être utilisé pour créer des images deepfake explicites et non consensuelles, la plupart impliquant des personnes réelles et des mineurs.
Avec cela, la PICP déterminera probablement sa prochaine ligne de conduite après avoir examiné l'explication fournie par Grok et d'autres documents à l'appui. L'agence est également censée examiner les tendances réglementaires mondiales, ce qui façonnerait sa prise de décision.
En vertu de la loi sur la protection des informations personnelles, la modification ou la génération d'images sexuelles de personnes identifiables sans consentement peut constituer une manipulation illicite de données personnelles.
Les chatbots d'IA, intégrés à la plateforme sociale X et offrant à la fois la génération de texte et d'images sur la plateforme, ont fait face à plusieurs critiques concernant la création de fausses images de personnes réelles depuis l'année dernière. Le chatbot a été utilisé pour créer toutes sortes d'images compromettantes, qui ont été mal vues par le grand public.
Selon l'organisation non gouvernementale mondiale Center for Countering Digital Hate, on estime que Grok a été utilisé pour générer plus de trois millions d'images sexuellement explicites entre le 29 décembre 2025 et le 8 janvier 2026.
L'organisation affirme que parmi ce nombre, plus de 23 000 étaient des images de mineurs générées à l'aide du chatbot. Le centre a mis en garde contre la propagation rapide des images générées par l'IA de Grok, qui a conduit à une circulation à grande échelle de contenu explicite en ligne.
Le régulateur souhaite un rapport sur les mesures prises pour endiguer la menace
Le centre a également mis en garde contre les graves risques pour la sécurité que ce développement pose aux enfants. En raison de cette menace, des pays comme les États-Unis, le Royaume-Uni, la France, le Canada et certains autres ont lancé des enquêtes, tandis que des pays comme l'Indonésie, les Philippines et la Malaisie ont bloqué l'accès à Grok.
En réponse à la controverse, xAI a annoncé plus tôt cette année qu'il avait mis en œuvre certaines mesures techniques pour l'empêcher.
La plateforme a affirmé avoir empêché les utilisateurs gratuits et payants de modifier ou de générer des images de personnes réelles, ajoutant qu'elle annoncerait de nouvelles garanties très bientôt.
En Corée, la Commission des médias et des communications (KMCC) a exigé de X des mesures de protection des jeunes plus strictes le 14 janvier. Le régulateur coréen a indiqué à la plateforme de médias sociaux que son entreprise d'IA devait élaborer un plan pour empêcher la génération de contenu illégal ou préjudiciable.
De plus, le régulateur a également ajouté que l'entreprise doit limiter l'accès des mineurs à ce type de contenu.
Actuellement, X dispose d'un responsable de la protection de la jeunesse en Corée conformément à la loi et soumet des rapports annuels sur la conformité connexe. La KMCC a exhorté la plateforme à soumettre une documentation supplémentaire concernant le protocole de sécurité de Grok, notant que les images sexuelles non consensuelles créées et distribuées sur sa plateforme, en particulier celles impliquant des mineurs, constituent une infraction pénale en Corée.
La commission a fixé un délai de deux semaines. Si X ne répond pas ou ignore la demande, elle pourrait imposer une amende administrative allant jusqu'à 10 millions de wons (6 870 $). La même mesure a été observée dans d'autres pays, où xAI a été chargé d'élaborer des mesures pour enrayer la montée de cette menace.
Comme la Corée, ces pays ont également annoncé des amendes substantielles si l'entreprise ne parvient pas à concevoir et à soumettre un rapport montrant les étapes qu'elle a prises pour limiter la montée de la menace.
Les esprits les plus brillants du secteur crypto lisent déjà notre newsletter. Vous aussi ? Rejoignez-les.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Owotunse Adebayo
Adebayo est un rédacteur avec quatre ans d'expérience dans l'espace crypto. Il est diplômé de l'Université de Lagos où il a étudié l'urbanisme et l'aménagement du territoire. Adebayo a travaillé chez Tokenhell et CryptoTicker, écrivant sur les actualités des cryptomonnaies et de la Fintech. Il est actuellement contributeur aux actualités pour Cryptopolitan.
