xAI poursuit un utilisateur de Grok pour des images explicites générées par l'IA représentant des mineurs
- xAI a poursuivi Terry Harwood, un homme de Caroline du Sud déjà arrêté pour exploitation de mineurs, l'accusant d'avoir trompé son chatbot Grok afin de produire des deepfakes de pornographie infantile.
- Il s'agit du premier procès intenté par une entreprise d'IA contre un utilisateur pour du contenu créé sur sa plateforme.
- Le résultat pourrait établir un modèle pour la manière dont le secteur gère les utilisateurs qui instrumentalisent les outils génératifs.
xAI, l'entreprise d'Elon Musk, a assigné un homme de Caroline du Sud devant un tribunal fédéral au Texas, l'accusant d'avoir utilisé le chatbot Grok pour créer des deepfakes sexuellement explicites de mineurs, marquant la première fois qu'une entreprise d'IA poursuit l'un de ses propres utilisateurs pour du contenu généré via sa plateforme.
Le défendeur, Terry Harwood, a été arrêté en février pour des accusations distinctes d'exploitation sexuelle de mineurs, selon Reuters. La plainte civile de xAI a été déposée le mardi 14 avril et s'ajoutera à toute affaire pénale découlant de cette arrestation.
Le procès de xAI
Le dépôt de plainte indique qu'il a ouvert plusieurs comptes sous de fausses identités, puis a nourri l'outil d'IA de photographies régulières d'adultes et d'enfants avant de rédiger des invites destinées à transformer ces images en contenus sexuels. Selon Al Jazeera, les sujets utilisés dans ces actes n'avaient pas donné leur consentement et ignoraient que leurs photos étaient utilisées.
xAI affirme que le système s'est opposé à l'acte. Grok a refusé les demandes, les signalant comme des violations de ses règles de contenu. La réponse de Harwood, selon la plainte, a consisté à réécrire continuellement les invites et à réessayer.
« Les actions du défendeur étaient un calcul scheme pour instrumentaliser l’outil du Plaignant à des fins criminelles, exposant de véritables victimes à des dommages profonds et durables », a écrit xAI dans le procès, cité par Reuters. L’entreprise allègue également qu’il a produit des images sexuelles non consensuelles d’adultes.
L'entreprise d'IA a demandé deux choses au tribunal dans le cadre de son dépôt de plainte. Il s'agit de dommages et intérêts monétaires sans montant spécifique indiqué, ainsi que d'une ordonnance interdisant à Harwood d'utiliser à nouveau le produit Grok.
xAI a également utilisé ce dépôt pour indiquer l'ampleur de ses travaux de répression contre les acteurs malveillants. L'entreprise a déclaré avoir suspendu 52 222 comptes cette année et envoyé 73 604 signalements au Centre national pour les enfants disparus et exploités, des referrals qui ont conduit à au moins 244 arrestations en 2026.
Grok reste sous surveillance accrue
xAI était déjà sous pression concernant ce que Grok pouvait produire avant que cette affaire ne survienne. Les régulateurs européens ont examiné de près l'outil d'IA, tandis que les législateurs de Washington ont soulevé plusieurs préoccupations. La Malaisie et l'Indonésie ont toutes deux banni le chatbot en raison de contenus sexuellement explicites, a rapporté Al Jazeera .
Elon Musk lui-même a nié le problème sous-jacent plus tôt cette année. « Je [ne] suis au courant d'aucune image nue de mineurs générée par Grok. Zéro absolu », a-t-il écrit sur X en janvier.
Je ne suis au courant d'aucune image nue de mineurs générée par Grok. Zéro absolu.
Évidemment, Grok ne génère pas spontanément des images ; il le fait uniquement sur demande des utilisateurs.
Lorsqu'on lui demande de générer des images, il refusera de produire quoi que ce soit d'illégal, conformément au principe de fonctionnement… https://t.co/YBoqo7ZmEj
— Elon Musk (@elonmusk) Janvier 14, 2026
Un nouveau cadre juridique récemment créé, appelé la loi DEFIANCE, a également conduit à une augmentation de ce type d'affaires. La loi, signée en 2024, offre aux victimes de deepfakes intimes non consentis un moyen de poursuivre en justice, et plusieurs États ont adopté des lois individuelles à cet effet.
Ne vous contentez pas de lire les actualités crypto. Comprenez-les. Abonnez-vous à notre newsletter. C'est gratuit.
Avertissement. Les informations fournies ne constituent pas des conseils en matière de trading. Cryptopolitan.com décline toute responsabilité concernant les investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement une recherche indépendante et/ou une consultation avec un professionnel qualifié avant de prendre toute décision d'investissement.
Opeyemi Olanrewaju
Opeyemi se spécialise dans la création et l'amélioration de contenus de haute qualité centrés sur la cryptomonnaie, les marchés financiers mondiaux et l'économie. Il est diplômé de l'Université d'Ibadan avec un diplôme de médecin (MBBS). Il a travaillé comme rédacteur en chef de la publication éditoriale de son collège et précédemment chez CFA. Pendant plus de six ans, il a contribué à préserver l'unicité en tant que rédacteur en charge de l'actualité chez Cryptopolitan.
