Gli hacker statali falliscono nel guadagnare un vantaggio con l'IA, secondo un rapporto di OpenAI

Aziende tecnologiche e funzionari governativi di mantenere emettono avvertimenti sul fatto che l'intelligenza artificiale potrebbe diventare un'arma pericolosa per i nemici stranieri, ma nuove prove raccontano una storia diversa. Rapporti recenti mostrano che i gruppi sponsorizzati dagli stati utilizzano gli stessi strumenti disponibili al pubblico degli utenti normali di internet, e spesso faticano non meno di loro.

OpenAI ha recentemente condiviso dettagli su come gruppi legati ai governi hanno cercato di utilizzare le loro piattaforme.

Il caso più notevole è arrivato da una campagna di influenza cinese che è stata scoperta per caso quando un funzionario delle forze dell'ordine cinese ha usato ChatGPT come diario personale. Il funzionario ha scritto di un'operazione che prendeva di mira i critici cinesi che vivono in altri paesi.

La campagna ha coinvolto centinaia di operatori e migliaia di account falsi sui social media, secondo OpenAI.

L'operazione cercava di impersonare gli ufficiali dell'immigrazione degli Stati Uniti per spaventare un dissidente affermando falsamente che le sue dichiarazioni pubbliche violavano la legge americana. In altri casi, gli operatori hanno utilizzato documenti falsi che pretendevano di provenire da un tribunale di contea per cercare di far chiudere gli account social media dei critici.

Falsi decessi e documenti falsificati parte di una campagna di molestie

Hanno creato un falso obituario e foto di lapidi per diffondere false voci sulla morte di un dissidente. Queste voci si sono effettivamente presentate online nel 2023, ha confermato un articolo di Voice of America in lingua cinese. Ben Nimmo, che guida le indagini presso OpenAI, ha definito lo sforzo di industrializzato come un'azione di molestie mirata ai critici del Partito Comunista Cinese attraverso più canali.

L'uso di ChatGPT come strumento di registrazione ha finito per esporre l'operazione. ChatGPT ha funzionato come un diario per l'operativo per tenere traccia della rete coperta, mentre altri strumenti hanno generato la maggior parte dei contenuti effettivi che sono stati diffusi attraverso i social media. OpenAI ha bannato l'utente dopo aver trovato l'attività.

Gli investigatori di OpenAI hanno abbinato le descrizioni fornite dall'utente di ChatGPT con attività online reali. L'utente ha descritto la falsificazione della morte di un dissidente cinese creando un falso necrologio e foto di lapidi da pubblicare online.

In un altro caso, l'utente di ChatGPT ha chiesto al sistema di creare un piano per danneggiare la reputazione del primo ministro giapponese in arrivo Sanae Takaichi, alimentando la rabbia per i dazi americani. ChatGPT ha rifiutato. Ma a fine ottobre, quando Takaichi ha assunto il potere, gli hashtag sono apparsi su un popolare forum per artisti grafici giapponesi che la attaccavano e si lamentavano dei dazi.

Il rapporto di OpenAI ha coperto anche diverse operazioni di frode dalla Cambogia che hanno utilizzato la piattaforma per frodi romantiche e di investimento, oltre a campagne di influenza legate alla Russia che prendevano di mira Argentina e Africa.

Il rapporto di Microsoft mostra modelli di utilizzo di base simili

Microsoft ha pubblicato un rapporto separato congiuntamente con OpenAI che esamina come gli attori statali di Russia, Corea del Nord, Iran e Cina stiano sperimentando i modelli di linguaggio di grandi dimensioni per supportare le operazioni di attacco informatico. Entrambe le aziende hanno interrotto gli sforzi di cinque attori affiliati allo stato chiudendo i loro account.

Il rapporto di Microsoft ha trovato che questi attori volevano principalmente utilizzare i servizi per lavori semplici come la ricerca di informazioni pubblicamente disponibili, la traduzione di contenuti, la correzione di errori di codifica e l'esecuzione di attività di programmazione di base. Finora non sono stati rilevati attacchi gravi o nuovi che utilizzano i modelli.

Questo divario tra paura e realtà si verifica durante la dura competizione tra Washington e Pechino per il controllo di questa tecnologia. Quale ruolo giochi in questioni militari ed economiche è diventato un scontro principale. Il Pentagono ha recentemente detto a un'altra azienda, Anthropic, che ha fino a venerdì per rimuovere determinate funzionalità di sicurezza dal suo modello o rischiare di perdere un contratto di difesa.

Microsoft ha dichiarato di lavorare su principi per ridurre i rischi da un uso scorretto di questi strumenti da parte di gruppi statali e organizzazioni criminali. Questi principi includono trovare e fermare gli utenti malintenzionati, informando altri fornitori di servizi, collaborando con altri gruppi e essendo trasparenti.