L'intelligence artificielle rend les menaces de mort très réalistes, révèle une activiste australienne

L'activiste australienne Caitlin Roper a révélé que l'intelligence artificielle est désormais déployée pour faire des menaces et des abus violents très réalistes en ligne. Selon Roper, malgré des années de travail sur Internet en tant qu'activiste, elle s'est retrouvée traumatisée par la récente vague de menaces alimentées par l'IA qu'elle a reçues.

Les menaces générées numériquement sont possibles depuis quelques années, et jusqu'à récemment, les modèles d'intelligence artificielle ne pouvaient pas reproduire de vraies personnes à moins qu'elles n'aient une forte présence en ligne. Selon un expert, les modèles n'ont maintenant besoin que d'une photo de profil pour créer tout ce que les utilisateurs souhaitent.

En 2023, un juge en Floride a reçu une vidéo, réalisée à l'aide d'un outil de personnalisation du jeu vidéo Grand Theft Auto. La vidéo présentait un avatar qui ressemblait et marchait comme le juge, se faisant pirater et tuer.

Une activiste australienne appelle à la prudence quant à l'utilisation de l'intelligence artificielle

Selon Roper, certains des messages qu'elle a reçus faisaient partie d'une campagne de violence verbale dirigée contre elle et ses collègues de Collective Shout, un groupe d'activistes australiens sur X et d'autres plateformes de médias sociaux. Elle a noté que dans l'une des images envoyées, il y avait une photo d'elle pendue à un potence, tandis qu'une autre vidéo la montrait en flammes et hurlant. D'autres étaient plus graphiques, les utilisateurs allant jusqu'à bout pour faire passer leur message.

Roper a affirmé que dans la plupart des images et vidéos concoctées avec l'intelligence artificielle, elle portait une robe bleue à fleurs qu'elle possède effectivement. « Ce sont ces petits détails étranges qui donnent l'impression que c'est plus réel et, d'une manière étrange, une violation différente », a-t-elle déclaré. « Ces choses peuvent passer du fantasme à quelque chose de plus qu'un fantasme. » Elle a noté que le torrent d'abus en ligne a commencé cet été après sa campagne visant à fermer les jeux vidéo violents glorifiant les scènes pour adultes et les abus.

Elle a mentionné que certains des comptes et images dirigés contre elle ont été supprimés. Roper a également mentionné que l'entreprise a affirmé que d'autres publications la représentant dans une mort violente ne violaient pas les conditions d'utilisation de la plateforme. En fait, elle a affirmé que X, à un moment donné, a inclus l'un des comptes qui la harcèle dans une liste de personnes recommandées à suivre. Roper a mentionné que certains de ses harceleurs ont également affirmé utiliser Grok pour rechercher comment trouver des femmes à domicile et dans les cafés.

Roper veut que les plateformes s'attaquent à cette menace

Roper a affirmé qu'après en avoir eu assez, elle a décidé de publier quelques exemples. Après cela, X lui a indiqué que ses comptes violaient les politiques de sécurité contre la violence gratuite et a temporairement bloqué son compte.

Pendant ce temps, une campagne mondiale contre l'intelligence artificielle a été lancée en raison de son utilisation pour mener des arnaques. Les criminels utilisent désormais cette technologie pour imiter la voix de vraies personnes et l'employer dans leurs nombreuses activités illicites. D'autres activités incluent la création de contenus pour adultes avec de l'IA sans l'autorisation expresse de la personne concernée.

En plus de ce type de contenus, des rapports indiquent que l'intelligence artificielle rend également d'autres menaces plus convaincantes. Par exemple, le « swatting » consiste à passer de faux appels d'urgence dans le but de provoquer une intervention massive de la police et des services d'urgence. En été, l'Association nationale des procureurs généraux a mentionné que la technologie « a considérablement intensifié l'échelle, la précision et l'anonymat » de ces attaques.

À une échelle moindre, une augmentation des vidéos générées par l'IA montrant de supposées effractions à domicile a poussé les résidents ciblés à appeler les départements de police à travers le pays. Le rapport affirme que les auteurs de swatting peuvent convaincre les forces de l'ordre de fausses déclarations en clonant des voix et en manipulant des images. Un délinquant récidiviste a utilisé des simulations de tirs pour suggérer qu'un tireur se trouvait dans le parking d'un lycée dans l'État de Washington. Le campus a été mis en confinement pendant 20 minutes après l'arrivée de la police et des agents fédéraux.