Botnet Fox8: Smascherati 1.000 bot AI su X, creazione di account falsi rubando selfie

In una rivelazione scioccante, i ricercatori dell'Osservatorio sui Social Media dell'Università dell'Indiana hanno scoperto un preoccupante problema di bot su X (ex Twitter). Uno studio recente condotto da un team di studenti e docenti ha esposto una rete di oltre 1.000 account alimentati dall'intelligenza artificiale che generano contenuti automatizzati e rubano selfie per creare identità false. Questa inquietante scoperta ha sollevato preoccupazioni riguardo all'entità della disinformazione e al potenziale danno che questi bot potrebbero infliggere alla piattaforma e ai suoi utenti.

La botnet Fox8 e il suo ruolo nel creare un terreno fertile per la disinformazione

Il team di ricerca, guidato dagli scienziati Kai-Cheng Yang e Filippo Menczer, ha identificato una vasta rete di account falsi su X, denominata botnet "Fox8". Questa rete utilizza modelli linguistici avanzati, tra cui ChatGPT, per generare contenuti volti a promuovere siti web sospetti e diffondere narrazioni dannose. Oltre alla creazione di identità false, questi bot sono stati osservati mentre cercavano di indurre persone ignare a investire in criptovalute fraudolente. Ancora più preoccupante è la loro presunta partecipazione ai furti da portafogli cripto esistenti, rivelando un livello di sofisticazione che potrebbe causare ingenti perdite finanziarie.

Connessioni cripto e diffusione dell'inganno

La botnet Fox8 mira strategicamente agli hashtag legati alle criptovalute, come #bitcoin, #crypto e #web3, per aumentare la visibilità dei propri post. Questi post interagiscono spesso con account gestiti da esseri umani focalizzati sulle cripto, come il noto ForbesCrypto (@ForbesCrypto) e il sito di notizie incentrato sulla blockchain Watcher Guru (@WatcherGuru). Interagendo con account legittimi, questi bot creano un'illusione di autenticità e credibilità, rendendo ancora più difficile per gli utenti distinguere tra contenuti genuini e intenti malevoli.

Oltre le cripto e una minaccia multifaccettata

Le attività malevole della botnet Fox8 si estendono oltre il mondo delle criptovalute. La ricerca di Yang e Menczer ha evidenziato che questi account bot sono responsabili della distorsione delle conversazioni online e della diffusione di disinformazione in vari contesti, incluse aree critiche come le elezioni e le crisi sanitarie pubbliche. Questa amplificazione della disinformazione rappresenta un rischio sostanziale per il discorso pubblico e i processi decisionali, richiedendo un'attenzione urgente e contromisure.

Un nuovo livello di credibilità

A differenza delle botnet facilmente rilevabili del passato, la rete Fox8 impiega tattiche più sofisticate per apparire convincentemente umane. Questi bot rubano immagini da utenti reali e interagiscono tra loro, inclusi retweet e risposte. Inoltre, mantengono profili con descrizioni, follower e conteggi di tweet, migliorando ulteriormente la loro apparente autenticità. Questo livello di dettaglio nei loro profili e nelle interazioni rende difficile per gli utenti identificarli come account fraudolenti.

La rivoluzione di ChatGPT e la sua oscura sfruttazione

Lo studio evidenzia il ruolo significativo dei modelli linguistici avanzati come ChatGPT nel consentire le operazioni di botnet come Fox8. Questi modelli linguistici hanno migliorato esponenzialmente le capacità di questi bot, permettendo loro di creare contenuti sempre più difficili da distinguere da quelli generati da esseri umani. La disponibilità di API AI gratuite ha accelerato questo processo, consentendo agli attori malevoli di sfruttare questi strumenti per ingannare gli utenti ignari.

L'erosione dei metodi di rilevamento

Tradizionalmente, i ricercatori potevano identificare le botnet basandosi su un uso innaturale del linguaggio e su contenuti poco convincenti. Tuttavia, l'ascesa di ChatGPT e tecnologie simili ha eroso l'efficacia dei metodi di rilevamento convenzionali. Anche applicando i rilevatori di contenuti all'avanguardia, il team di ricerca ha faticato a differenziare tra contenuti generati da esseri umani e quelli generati dall'IA all'interno della botnet Fox8.

Appelli urgenti all'azione

I risultati allarmanti di questo studio sottolineano l'urgenza di affrontare la crescente minaccia rappresentata dalle botnet alimentate dall'IA. Menczer sottolinea che l'attuale mancanza di metodi efficaci per rilevare i contenuti generati dall'IA rende necessario allocare risorse significative allo sviluppo di contromisure e regolamentazioni appropriate. Senza tali interventi, il potenziale per la manipolazione, la disinformazione e lo sfruttamento finanziario rimane incontrollato.

La minaccia invisibile e ciò che si nasconde sotto

Sebbene i ricercatori non abbiano divulgato i nomi utente specifici associati alla botnet Fox8, ne hanno scoperto l'esistenza attraverso tweet auto-rivelanti pubblicati accidentalmente da questi account. Questo li ha portati a cercare la frase "come modello linguistico AI" su X, identificando oltre 12.000 tweet provenienti da circa 9.000 account unici. Sebbene non tutti questi account siano confermati come bot alimentati da LLM, lo studio stima che una parte sostanziale sia impegnata nella diffusione di contenuti generati dall'IA.

La ricerca dell'Università dell'Indiana illumina una minaccia crescente nel regno digitale: botnet alimentate dall'IA che rubano identità, diffondono disinformazione e manipolano gli utenti per scopi malevoli. Lo studio sottolinea l'urgenza di trovare soluzioni pratiche a queste minacce in evoluzione. Man mano che la tecnologia avanza, la battaglia contro l'inganno generato dall'IA richiederà innovazione, collaborazione e vigilanza per salvaguardare l'integrità degli spazi online.