L'ascesa dei chatbot malevoli dell'IA: gli attori delle minacce abbracciano gli 'Hackbot'

L'ondata di popolarità dell'IA ha travolto sia chi ha buone intenzioni sia chi ha intenzioni più sinistre. Gli specialisti della sicurezza lanciano l'allarme, sottolineando che l'uso di tali modelli, la generazione di testo malevolo o i cosiddetti 'hackbot', sono ora diffusi tra gli attori delle minacce. Ha raggiunto il livello di un servizio chiavi in mano nei servizi in abbonamento.

Criminali informatici che sfruttano gli strumenti di IA

Da un lato, gli esperti di cybersecurity hanno rapidamente compreso il potenziale degli strumenti abilitati all'IA per proteggere meglio i propri sistemi. Gli attori delle minacce hanno inoltre mostrato la stessa avidità di utilizzare queste tecnologie per sfruttare le lacune di sicurezza lasciate da coloro che attaccano. Negli ultimi anni, si è registrato un aumento esponenziale del numero di applicazioni IA utilizzate da attori malintenzionati, attirando l'attenzione dei team di sicurezza verso un approccio adeguato per ridurre le minacce legate all'IA.

D'altra parte, gli specialisti britannici della cybersecurity hanno anche indicato l'IA come un nuovo rischio emergente che comporta acque inesplorate e la sua natura in costante cambiamento. L'NCSC prevede che il primo trimestre del 2024 sarà il più grande e supererà i record del 2022 e del 2023. I criminali intelligenti hanno inoltre utilizzato modelli linguistici per l'ingegneria sociale, che richiedevano di inserire celebrità in contesti video o audio utilizzando schemi di phishing o dispositivi di riconoscimento vocale. Vascut Jakkal, vicepresidente della sicurezza presso Microsoft Corporation, ha partecipato alla RSA Conference 2024. Il problema non è il deterioramento di questi strumenti, ma la loro crescente ampia disponibilità per il cracking delle password, che è legata a un aumento di dieci volte degli attacchi legati all'identità.

Alcuni esperti hanno ulteriormente concluso che i chatbot utilizzano una frase unica per sviluppare attivamente malware. Infatti, servizi pubblicamente disponibili come ChatGPT e Gemini hanno implementato misure di sicurezza per prevenire il loro uso improprio a scopi malevoli. Tuttavia, gli hacker hanno aggirato molte protezioni attraverso tecniche sofisticate di ingegneria dei prompt.

Hackbot-as-a-service: la crescente tendenza nella criminalità informatica

Secondo studi recenti, i modelli linguistici visibili al pubblico falliscono tipicamente nell'abusare delle vulnerabilità di sicurezza del software. Tuttavia, solo il GPT-4 di OpenAI ha mostrato caratteristiche promettenti, poiché è in grado di produrre eseguibili per vulnerabilità note. Le restrizioni sopra menzionate sembrano aver probabilmente favorito la produzione di chatbot malevoli prototipali progettati per aiutare i perpetratori della criminalità informatica nell'esecuzione delle loro attività malevole. 

Vengono pubblicizzati sui forum e sui marketplace del dark web, che offrono il potere di assumere e sfruttare gli attaccanti, alimentando un modello hackbot-as-a-service. Uno dei recenti post sul blog pubblicati dal team Trustwave SpiderLabs ad agosto 2023 illustra l'aumento del volume di modelli linguistici malevoli ospitati su più bacheche web nascoste a scopo di lucro.

Trustwave ha pubblicato il modello WormGPT a giugno 2021, uno di questi noti modelli linguistici malevoli degli hacker. Questo approccio può verificarsi in apparecchiature in cui i bot iniettano attacchi informatici tramite strutture di hacking ospitate sul dark web. Generato a luglio 2023, FraudGPT è stato individuato per la prima volta dai ricercatori delle minacce presso Netenrich prima di raggiungere Telegram.

Questi strumenti permettono agli attaccanti di progettare asset utilizzati negli attacchi di ingegneria sociale, come email di phishing, deepfake e clonazione vocale. Tuttavia, i loro creatori affermano che il loro vero valore risiede nello sfruttare le vulnerabilità. Consentono agli hacker di alimentare i modelli malevoli con codice relativo a vulnerabilità specifiche, che potrebbero teoricamente produrre diversi exploit proof-of-concept (PoC) che un attaccante potrebbe provare.

Questi prodotti sono venduti nei mercati clandestini del dark web dove agli hacker viene addebitata una tariffa di licenza mensile per utilizzare l'hackbot, proprio come il ransomware viene distribuito nel modello ransomware-as-a-service (RaaS), che è direttamente collegato a un complesso di ransomware con cui molte aziende si confrontano oggi.

Mentre WormGPT è il primo modello linguistico malevolo su larga scala introdotto, altri modelli linguistici malevoli e non etici come BlackHatGPT, XXXGPT e WolfGPT hanno presto seguito, formando un nuovo segmento di mercato del mercato nero informatico.

L'efficacia degli Hackbot: Hype o minaccia reale?

A differenza della ricerca condotta da Trustwave, volta a testare l'efficienza degli strumenti consigliati confrontando i loro output l'uno accanto all'altro rispetto a quelli generati da chatbot legittimi, i risultati hanno indicato che ChatGPT potrebbe essere efficacemente indotto a creare alcuni malware Python con i prompt appropriati. Per farlo, il messaggio doveva essere inviato sostenendo che il codice era di 'white hat' prima del deployment, e l'output del codice necessitava anche di modifiche aggiuntive.

ChatGPT potrebbe essere in grado di generare messaggi di testo reali per attacchi di phishing, ma il comando di istruzione deve essere molto specifico a tale effetto. ChatGPT si baserà su questo solo quando gli utenti richiedono qualcosa di errato. Per questo motivo, questi chatbot possono essere visti come un metodo più semplice per i criminali informatici o l'IA di attaccare gli utenti invece di lavorare tediosamente per creare una pagina o un malware.

Sebbene questo settore sia nuovo e le minacce siano ancora in evoluzione, le aziende devono essere pienamente consapevoli dei loro attuali livelli di protezione. I contenuti e le caratteristiche culturali con cui i sistemi IA sono saturi potrebbero essere abusati per creare un divario di disinformazione che può essere colmato solo creando programmi di sicurezza IA più robusti e strumenti di gestione dell'identità.

La legittimità delle soluzioni per il problema crescente è ancora oggetto di dibattito. Tuttavia, i recenti ceppi di ransomware hanno dimostrato che i criminali informatici possono eguagliare, se non superare, la velocità di sviluppo degli sviluppatori di software.