Le Premier ministre australien critique vivement X pour l'utilisation de Grok afin de générer du contenu offensant

Le Premier ministre australien, Anthony Albanese, a vivement critiqué la plateforme de blogs X pour son utilisation de Grok afin de générer des images inappropriées. Il a notamment dénoncé l'utilisation du chatbot d'intelligence artificielle Grok pour diffuser des contenus sexuels à caractère sexuel.

Bien que le nombre de signalements reçus par le Bureau australien de la sécurité en ligne (eSafety Office) demeure faible, ce dernier constate une augmentation récente desdentliés à l'utilisation de chatbots pour créer des images à caractère sexuel ou exploiteur. Dans sa déclaration, l'autorité de surveillance a averti qu'elle userait de ses pouvoirs, notamment celui d'émettre des demandes de retrait, lorsque les contenus générés par chatbot atteignent le seuil defipar la loi australienne sur la sécurité en ligne (Australian Online Safety Act).

Selon le Bureau de la sécurité en ligne, la plateforme, son chatbot et de nombreux autres services sont également soumis aux obligations de sécurité relatives à la détection et à la suppression des contenus pédopornographiques et autres contenus illicites, conformément au code et aux normes australiens, parmi les plus exigeants au monde. Le Premier ministre australien a fait part de son mécontentement samedi, rejoignant ainsi d'autres dirigeants, dont son homologue britannique Keir Starmer, pour critiquer la plateforme de médias sociaux.

Le Premier ministre australien critique sévèrement X pour utilisation abusive de Grok

« L’utilisation de l’IA générative pour exploiter ou sexualiser des personnes sans leur consentement est odieuse », a-t-il déclaré aux journalistes à Canberra. « Le fait que cet outil ait été utilisé pour que des gens utilisent sa fonction de création d’images via Grok est, à mon sens, tout à fait odieux », a ajouté que cet incidentdent un nouvel exemple du manque de responsabilité sociale des médias sociaux et que les Australiens et le monde entier méritent mieux.

Leurs critiques sont tout à fait justifiées et s'inscrivent dans le cadre d'une vague de protestations mondiale contre le chatbot Grok cette semaine, ce qui a incité X à limiter l'utilisation de son IA pour la création et la modification d'images en réservant l'accès à l'outil à ses abonnés payants. Vendredi, Grok refusait les demandes d'images retouchées numériquement émanant d'utilisateurs non abonnés. « La génération et la modification d'images sont actuellement réservées aux abonnés payants. Vous pouvez vous abonner pour débloquer ces fonctionnalités », indiquait le chatbot.

Dans un communiqué publié par un porte-parole du Bureau de la sécurité en ligne, il est indiqué que la plupart des signalements reçus concernaient la modification d'images d'adultes, tandis qu'un faible pourcentage évoquait des contenus potentiellement liés à l'exploitation sexuelle d'enfants. « Les signalements d'abus d'images ont été reçus très récemment et sont toujours en cours d'évaluation », a précisé l'agence. « Quant aux signalements de contenus illégaux et à diffusion restreinte, les documents ne répondaient pas aux critères de classification pour les contenus de classe 1 relatifs à l'exploitation sexuelle d'enfants. »

En conséquence, le Bureau de la sécurité en ligne a déclaré refuser d'émettre des avis de retrait ou d'engager des poursuites concernant ces plaintes. Cependant, le porte-parole a indiqué que les inquiétudes quant à l'utilisation croissante de l'IA pour exploiter des enfants persistent. « Ceci souligne l'importance de la sécurité dès la conception, notamment la nécessité d'intégrer des garde-fous et des mécanismes de protection appropriés aux produits d'IA générative à chaque étape de leur cycle de vie, afin de prévenir toute utilisation abusive et toute instrumentalisation de ces technologies avant qu'un préjudice ne survienne », a-t-il déclaré.

L'Indonésie interdit temporairement Grok pour deepfake

En revanche, l'Indonésie a pris décisives contre le chatbot Grok. Le ministère de la Communication et des Affaires numériques a annoncé cette décision samedi, invoquant l'urgence de protéger les enfants et les femmes des dangers liés aux contenus explicites générés par l'IA. « Le gouvernement considère les deepfakes à caractère sexuel non consensuel comme une grave violation des droits humains, de la dignité et de la sécurité des citoyens dans l'espace numérique », a déclaré le ministre Meutya Hafid dans un communiqué officiel.

Elle a affirmé que le détournement de l'IA pour créer de la fausse pornographie constitue une forme de violence numérique. Parallèlement, l'Indonésie exige des plateformes numériques du pays qu'elles prouvent avoir mis en place des mesures de protection pour empêcher la création et la diffusion de contenus interdits. Dans le cadre de cette action, le ministère a convoqué X (anciennement Twitter). L'entreprise fournira des éclaircissements et expliquera les mesures prises pour endiguer la propagation de ce fléau.