L’intelligenza artificiale rende le minacce di morte molto realistiche, rivela un’attivista australiana

L’attivista australiana Caitlin Roper ha rivelato che l’intelligenza artificiale viene ora utilizzata per creare minacce e abusi online molto realistici. Secondo Roper, nonostante anni di lavoro come attivista su internet, si è trovata traumatizzata dalla recente ondata di minacce alimentate dall’IA che ha ricevuto.

Le minacce generate digitalmente sono possibili da alcuni anni e, fino a poco tempo fa, i modelli di intelligenza artificiale non potevano replicare persone reali a meno che non avessero una grande presenza online. Secondo un esperto, i modelli ora necessitano solo di una foto del profilo per creare qualsiasi cosa gli utenti desiderino.

Nel 2023, a un giudice della Florida è stato inviato un video, realizzato utilizzando uno strumento di personalizzazione del videogioco Grand Theft Auto. Il video presentava un avatar che assomigliava al giudice e che camminava come se fosse stato hackerato fino alla morte.

L’attivista australiana chiede cautela nell’uso dell’intelligenza artificiale

Secondo Roper, alcuni dei post che ha ricevuto facevano parte di una campagna di vituperio diretta contro di lei e i suoi colleghi di Collective Shout, un gruppo di attivisti australiano su X e altre piattaforme di social media. Lei ha notato che in una delle immagini inviatele c’era una foto di lei appesa a un cappio, mentre un altro video la mostrava in fiamme e che urlava. Altri erano più grafici, con gli utenti che si sono impegnati a fondo per trasmettere il loro messaggio.

Roper ha affermato che nella maggior parte delle immagini e dei video confezionati con l’intelligenza artificiale, lei indossava un abito floreale blu che possiede davvero. «Sono questi piccoli dettagli strani a farlo sembrare più reale e, in qualche modo, una violazione di un tipo diverso», ha detto. «Queste cose possono passare dal fantasy a qualcosa di più del fantasy». Ha notato che il torrente di abusi online è iniziato questa estate dopo la sua campagna per chiudere i videogiochi violenti che glorificano scene per adulti e abusi.

Ha menzionato che alcuni degli account e delle immagini diretti contro di lei sono stati rimossi. Roper ha anche affermato che la società ha dichiarato che altri post che raffiguravano la sua morte violenta non violavano i termini di servizio della piattaforma. In effetti, ha affermato che X, in un certo momento, includeva uno degli account che la molesta in un elenco di persone consigliate da seguire. Roper ha menzionato che alcuni dei suoi molestatore hanno anche affermato di utilizzare Grok per cercare di trovare donne a casa e nei caffè.

Roper vuole che le piattaforme affrontino questa minaccia

Roper ha affermato che, dopo essersi stancata, ha deciso di pubblicare alcuni esempi. Dopo averlo fatto, X le ha detto che i suoi account violavano le politiche di sicurezza contro la violenza gratuita e ha bloccato temporaneamente il suo account.

Nel frattempo, c’è stata una campagna globale contro l’intelligenza artificiale a causa del suo utilizzo per effettuare truffe. I criminali ora utilizzano la tecnologia per imitare le voci delle persone reali, impiegandola nelle loro numerose attività illecite. Altre attività includono la creazione di contenuti per adulti con l’intelligenza artificiale senza il consenso esplicito del soggetto.

Oltre a questo tipo di contenuti, i rapporti affermano che l’intelligenza artificiale sta rendendo anche altre minacce più convincenti. Ad esempio, lo swatting è la pratica di effettuare chiamate false di emergenza con l’obiettivo di provocare una grande risposta da parte della polizia e del personale di emergenza. Nell’estate, l’Associazione Nazionale degli Attorneys General ha menzionato che la tecnologia «ha intensificato significativamente la scala, la precisione e l’anonimato» di tali attacchi.

Su scala minore, un aumento dei video realizzati con l’intelligenza artificiale che mostravano presunte invasioni domestiche ha portato i residenti bersaglio a contattare i dipartimenti di polizia in tutto il paese. Il rapporto afferma che gli autori dello swatting possono convincere le forze dell’ordine di rapporti falsi clonando le voci e manipolando le immagini. Un recidivo ha utilizzato spari simulati per suggerire che un tiratore era nel parcheggio di un liceo nello stato di Washington. Il campus è stato chiuso per 20 minuti dopo l’arrivo della polizia e degli agenti federali.