L'Irlande exprime ses inquiétudes quant à l'utilisation abusive de Grok sur X

L'Irlande a exprimé son inquiétude quant à l'utilisation abusive du chatbot d'intelligence artificielle Grok sur la plateforme de blogs X. Selon certaines sources, ce mécontentement a été fait part aux dirigeants de l'entreprise lors d'une récente réunion dans le pays. L' Irlande la longue liste des pays préoccupés par les conséquences des agissements de ce chatbot.

Ces dernières semaines, plusieurs pays et leurs dirigeants ont dénoncé la plateforme, son propriétaire, Elon Musk, et son chatbot, Grok. En effet, certains utilisateurs exploitent désormais le chatbot pour diffuser des images à caractère sexuel de femmes et d'enfants. Tandis que certains pays ont menacé de sanctions juridiques, d'autres ont exhorté la plateforme à prendre des mesures pour protéger les enfants et les femmes contre les abus numériques.

L'Irlande souhaite que X prenne des mesures correctives

Lors de la réunion, la ministre de l'Intelligence Artificielle, Niamh Smyth, a salué les mesures correctives annoncées par l'entreprise pour endiguer le problème. Les dirigeants l'ont informée que Grok avait été désactivé et ne pouvait plus retirer ni réduire les vêtements des utilisateurs dans le monde entier. Cette nouvelle mesure fait suite à la confirmation par la plateforme qu'elle allait « géobloquer » la possibilité pour les utilisateurs de X et de Grok de créer des images de personnes portant des tenues limitées.

Dans sa déclaration, la plateforme a indiqué que ces requêtes ne seraient bloquées que dans les régions où ces actions ont été jugées illégales. Lors de la réunion, la ministre irlandaise de l'Intelligence Artificielle a fait part de ses inquiétudes quant à la création et à la publication, sur la plateforme publique, d'images intimes non consensuelles et de contenus pédopornographiques. Elle a déclaré aux dirigeants de l'entreprise que le niveau de sophistication des mesures de protection devait être à la hauteur de celui de la technologie.

Toutefois, Mme Smyth a indiqué que ses inquiétudes concernant Grok en tant qu'application autonome demeuraient, et a souligné que le gouvernement irlandais devrait l'examiner plus en détail. Elle a ajouté qu'elle continuerait de suivre la situation de près. Mme Niamh a également précisé qu'elle prévoyait une réunion de suivi en personne avec les dirigeants de X afin de garantir la mise en place de protections adéquates et durables contre cette technologie.

Les pays continuent de critiquer X et son chatbot Grok

Ces nouvelles critiques font suite à l'incapacité présumée de la plateforme à endiguer la propagation de ce contenu malveillant, malgré son engagement à bloquer et suspendre les comptes des utilisateurs qui en sont à l'origine. Entre-temps, l'Ofcom, l'autorité britannique de régulation des communications, a indiqué avoir contacté en urgence X et xAI afin de comprendre les mesures prises pour se conformer à leurs obligations légales en matière de protection des utilisateurs au Royaume-Uni. L'Ofcom avait alors précisé qu'elle évaluerait la nécessité d'une enquête.

Suite à sa déclaration, le gouvernement indonésien a annoncé avoir pris des mesures décisives concernant le chatbot. Le pays a précisé que ce dernier resterait temporairement interdit, invoquant la nécessité de protéger les femmes et les enfants des dangers liés aux contenus explicites générés par l'IA. « Le gouvernement considère les deepfakes à caractère sexuel non consensuel comme une grave violation des droits humains, de la dignité et de la sécurité des citoyens dans l'espace numérique », a-t-il déclaré.

Cette évolution fait suite au soutien aux pays critiquant la plateforme, les appelant à prendre les mesures nécessaires pour protéger ses utilisateurs vulnérables. Le Bureau australien de la sécurité en ligne a indiqué avoir reçu un nombre relativement faible de signalements, tout en notant une augmentation par rapportdent années précédentes. L'organisme de surveillance s'est engagé à utiliser les pouvoirs que lui defila loi australienne sur la sécurité en ligne pour supprimer ces contenus.