L'application X de Musk pourrait être interdite en Grande-Bretagne en raison d'images prétendument inappropriées diffusées par Grok

Elon Musk envisage une possible interdiction de l'application X au Royaume-Uni suite à la diffusion présumée d'images inappropriées sur le dark web. Des utilisateurs affirment que ces images ont été générées par le chatbot Grok AI. L'Ofcom, l'autorité britannique de régulation d'Internet, a été chargée d'étudier toutes les options, y compris des amendes se chiffrant en milliards de livres sterling, voire un blocage total de l'application X. 

L'association caritative Internet Watch Foundation (IWF) a révélé que ses analystes avaient découvert des images de jeunes filles âgées de 11 à 13 ans, apparemment générées par Grok sur un site web du dark web. Selon l'Office of Communications (Ofcom), l'autorité de régulation des médias, ces images constituent du matériel pédopornographique illégal. 

Kier Starmer exhorte l'Ofcom à envisager toutes les options

Le Premier ministre britannique, Kirstöy Starmer, a demandé à l'Ofcom, l'autorité britannique de régulation d'Internet, d'examiner toutes les options possibles dans le cadre de l'affaire Elon Musk. Cette demande fait suite à la diffusion présumée d'images à caractère pédopornographique par l'application Grok de xAI, mettant en scène des jeunes femmes et des enfants. Selon un article du Telegraph, la loi britannique sur la sécurité en ligne autorise le Royaume-Uni à infliger des amendes de plusieurs milliards de livres sterling à l'application xAI, voire à bloquer son accès au Royaume-Uni. 

L'application X compte plus de 650 millions d'utilisateurs dans le monde, dont au moins 20 millions au Royaume-Uni. Le Premier ministre Starmer a averti sur les ondes de Greatest Hits Radio que X devait se ressaisir et retirer les contenus problématiques, ajoutant que des mesures seraient prises contre l'application d'Elon Musk car la situation est tout simplement intolérable. Il a lancé cet avertissement après la diffusion de plusieurs images de femmes et d'enfants dénudés, ainsi que d'autres personnes en bikini, images qui auraient été générées par le Grok AI. 

« X doit absolument prendre cette situation en main, et l'Ofcom a tout notre soutien pour agir. C'est inadmissible. C'est illégal. Nous ne le tolérerons pas. J'ai demandé que toutes les options soient envisagées. »

-Kier Starmer, Premier ministre britannique 

Pour l'instant, l'autorité de régulation devrait suivre la procédure légale en vigueur avant d'appliquer l'interdiction, notamment en menant des enquêtes et en rendant des décisions provisoires. Si X ne répond pas aux préoccupations de l'Ofcom, cette dernière pourrait demander le blocage du site au Royaume-Uni. L'Ofcom a déjà contacté la plateforme de médias sociaux cette semaine, l'informant qu'elle pourrait ouvrir une enquête sur les images. 

Musk pense que l'objectif de l'OSA est de réprimer le peuple

Elon Musk a déjà critiqué la loi britannique sur la sécurité en ligne (Online Safety Act - OSA), affirmant qu'elle vise à réprimer les citoyens. Selon lui, l'OSA risque de porter atteinte à la liberté d'expression par ses mesures de protection des enfants contre les contenus préjudiciables. Musk a souligné que les intentions « louables » de cette loi incluent une mise en œuvre rigoureuse par l'Ofcom.

Alexander Ngaire, responsable de la ligne d'assistance téléphonique de l'association caritative Internet Watch Foundation, a déclaré à la BBC que des outils comme Grok risquaient d'introduire des images à caractère sexuel générées par IA et destinées aux enfants dans les médias grand public. Elle a classé ces images en catégorie C selon la loi britannique, la catégorie la moins grave en matière pénale. Elle a ajouté que l'utilisateur qui avait mis en ligne les images avait utilisé un autre outil d'IA, et non Grok, pour créer une image de catégorie A, considérée comme la plus grave des infractions pénales.  

Selon Ngaire, l'IWF s'inquiète de la facilité et de la rapidité avec lesquelles il est possible de produire des images pédopornographiques photoréalistes. La fondation vise à supprimer ces contenus d'Internet grâce à une ligne d'assistance téléphonique où les cas suspects sont signalés et où ses analystes évaluent leur légalité et leur gravité. Les analystes de l'IWF ont constaté que ces contenus étaient uniquement présents sur le dark web et n'ont pas été trouvés sur la plateforme X. 

Selon X, des mesures seront prises contre les contenus illégaux sur sa plateforme, notamment la pédopornographie, en les supprimant et en suspendant définitivement les comptes, ainsi qu'en collaborant avec les autorités locales et les forces de l'ordre si nécessaire. La plateforme avertit que toute personne incitant Grok à créer du contenu illégal s'exposera aux mêmes sanctions que si elle en était l'auteure.