L'Irlande exprime ses préoccupations concernant l'utilisation abusive de Grok sur X

L'Irlande a exprimé des préoccupations concernant l'utilisation abusive du chatbot d'intelligence artificielle Grok sur la plateforme de blogage X. Selon les rapports, l'insatisfaction a été exprimée aux dirigeants de l'entreprise lors d'une récente réunion tenue dans le pays. Cela place l'Irlande sur une longue liste de pays inquiets des implications des actions du chatbot.

Au cours des dernières semaines, des pays et leurs dirigeants ont dénoncé la plateforme, son propriétaire, Elon Musk, et son chatbot, Grok. En effet, certains utilisateurs profitent désormais du chatbot pour générer des images sexualisées de femmes et d'enfants. Alors que certains pays ont menacé de sanctions juridiques, d'autres ont appelé la plateforme à prendre des mesures pour protéger les enfants et les femmes contre les abus numériques.

L'Irlande veut que X prenne des mesures correctives

Lors de la réunion, la ministre de l'Intelligence Artificielle, Niamh Smyth, a salué les mesures correctives que l'entreprise a dit avoir prises pour enrayer le fléau. Cela faisait suite aux déclarations des dirigeants lui indiquant que Grok avait été désactivé pour empêcher de retirer ou de réduire les vêtements des individus dans le monde entier. Cette nouvelle évolution est intervenue après que la plateforme a confirmé qu'elle « géobloquerait » la capacité des utilisateurs de X et Grok à créer des images de personnes vêtues de manière légère.

Dans son communiqué, la plateforme a mentionné que ces demandes ne seraient suspendues que dans les régions où les actions ont été jugées illégales. Lors de la réunion, la ministre irlandaise de l'IA a exprimé ses préoccupations concernant la génération et la publication sur la plateforme publique d'images intimes non consensuelles et de matériel d'abus sexuel sur mineurs. Elle a dit aux dirigeants de l'entreprise que la sophistication des mesures de protection doit correspondre à la sophistication de la technologie.

Cependant, Smyth a noté que ses préoccupations persistent concernant Grok en tant qu'application autonome, notant que le gouvernement irlandais devra l'examiner davantage. Elle a ajouté qu'elle continuera à suivre la situation de près. Niamh a également ajouté qu'elle est prévue pour tenir une réunion de suivi en personne avec les dirigeants de X à l'avenir afin de s'assurer que des protections adéquates et durables contre la technologie restent en place.

Les pays continuent de critiquer X et son chatbot Grok

Les nouvelles critiques font suite à l'allégation selon laquelle la plateforme n'a pas réussi à enrayer la génération du fléau après avoir promis de suspendre et de bannir les utilisateurs qui les génèrent. Pendant cette période, le régulateur de communications britannique, Ofcom, a noté qu'il avait pris contact d'urgence avec X et xAI pour comprendre ce qu'ils faisaient pour se conformer à leurs obligations légales de protection des utilisateurs au Royaume-Uni. L'organisme de régulation a mentionné à l'époque qu'il évaluerait si une enquête est nécessaire.

Après son communiqué, le gouvernement indonésien a annoncé qu'il avait pris des mesures décisives concernant le chatbot. Le pays a mentionné que le chatbot resterait temporairement banni, citant la nécessité de protéger ses femmes et ses enfants des dangers du contenu explicite généré par l'IA. « Le gouvernement considère les deepfakes sexuels non consensuels comme une violation grave des droits de l'homme, de la dignité et de la sécurité des citoyens dans l'espace numérique », a déclaré le pays.

Le développement est intervenu après que le Premier ministre australien, Anthony Albanese, a mis son poids derrière les pays critiquant la plateforme, les appelant à faire ce qui est juste en termes de protection de ses utilisateurs vulnérables. Le Bureau de la sécurité en ligne australien a mentionné que le nombre de rapports qu'il a reçus était relativement faible ; il a noté qu'il y avait eu une augmentation des rapports liés à l'incident par rapport aux années précédentes. Le régulateur a juré d'utiliser ses pouvoirs définis dans la loi australienne sur la sécurité en ligne pour supprimer ces contenus.