I Cybercriminali Sfruttano le Tecnologie IA e ML per Scopi Maliziosi

Un nuovo documento di ricerca prodotto congiuntamente da Trend Micro, dall'Istituto di Ricerca Criminale e Giustizia Interregionale delle Nazioni Unite (UNICRI) e da Europol rivela come i cybercriminali stiano sfruttando le tecnologie di intelligenza artificiale (IA) e machine learning (ML) per scopi maliziosi.

IA e ML nel business

L'IA e il ML stanno rapidamente alimentando lo sviluppo di un mondo più dinamico. Queste tecnologie promettono maggiore efficienza, livelli più elevati di automazione e autonomia. L'IA è una tecnologia a duplice uso al centro della quarta rivoluzione industriale. Con il ML, un sottocampo dell'IA che analizza grandi volumi di dati per trovare modelli tramite algoritmi, le imprese, le organizzazioni e i governi possono compiere imprese impressionanti che guidano l'innovazione e migliorano il business. Il 37% delle imprese e delle organizzazioni aveva già integrato l'IA nei propri sistemi e processi entro il 2020. Gli strumenti alimentati da IA e ML consentono alle imprese di prevedere meglio i comportamenti di acquisto dei clienti, contribuendo ad aumentare i ricavi. Alcune imprese, come Amazon, hanno costruito attività altamente redditizie con l'aiuto di strumenti alimentati da ML e IA.

Usi impropri e abusi di IA e ML

Mentre l'IA e il ML possono supportare le imprese e aiutare a risolvere alcune delle sfide più grandi della società, queste tecnologie possono anche abilitare una vasta gamma di minacce digitali, fisiche e politiche. Le caratteristiche che rendono i sistemi IA e ML integrali per le imprese sono le stesse caratteristiche che i cybercriminali usano impropriamente e abusano per guadagno illecito.

*Deepfake*: Un abuso popolare dell'IA sono i deepfake, che coinvolgono l'uso di tecniche IA per creare o manipolare contenuti audio e visivi per apparire autentici. I deepfake sono adatti per campagne di disinformazione perché sono difficili da differenziare dai contenuti legittimi. I deepfake hanno il potenziale per distorcere la realtà per scopi nefasti, come visto in un presunto video deepfake che ha destabilizzato un governo di coalizione in Malesia e un audio deepfake che ha ingannato un'azienda energetica del Regno Unito trasferendo quasi 200.000 sterline britanniche a un conto bancario ungherese.

*Indovinare le Password Supportato dall'IA*: I cybercriminali stanno impiegando il ML per migliorare gli algoritmi per indovinare le password degli utenti. Con le reti neurali e le Reti Avversarie Generative (GAN), i cybercriminali possono analizzare vasti set di dati di password e generare variazioni di password che si adattano alla distribuzione statistica, portando a indovinelli di password più accurati e mirati.

*Impersonazione umana sulle piattaforme di social networking*: I criminali informatici stanno abusando dell'IA per imitare il comportamento umano sui social media. Ad esempio, i bot supportati dall'IA su Spotify possono imitare modelli di utilizzo simili a quelli umani per ingannare i sistemi di rilevamento dei bot e generare stream e traffico fraudolenti per artisti specifici.

*Hacking supportato dall'IA*: I criminali informatici stanno trasformando in armi i framework di IA per hackerare host vulnerabili. Ad esempio, DeepExploit, uno strumento di penetration testing abilitato al ML, e PWnagotchi 1.0.0, sviluppato per l'hacking Wi-Fi attraverso attacchi di de-autenticazione, utilizzano modelli di rete neurale per migliorare le prestazioni di hacking.

Futuri usi impropri e abusi di IA e ML

In futuro, si prevede che i criminali sfruttino l'IA per ampliare l'ambito e la scala dei loro attacchi, eludere il rilevamento e abusare dell'IA sia come vettore di attacco che come superficie di attacco. L'IA può automatizzare i primi passaggi di un attacco attraverso la generazione di contenuti, migliorare l'acquisizione di intelligence aziendale e accelerare il tasso di rilevamento con cui le potenziali vittime e i processi aziendali vengono compromessi. L'IA può anche essere abusata per manipolare le pratiche di trading di criptovalute e causare danni fisici o arrecare danni alle persone, come visto nei droni alimentati dall'IA con riconoscimento facciale che trasportano esplosivi.

Le tecnologie IA e ML hanno molti casi d'uso positivi, ma vengono anche abusate per scopi criminali e malevoli. Comprendere le capacità, gli scenari e i vettori di attacco che dimostrano come queste tecnologie vengono sfruttate è essenziale per proteggere sistemi, dispositivi e il pubblico in generale da attacchi e abusi avanzati.

Informazioni sulla ricerca

Il documento di ricerca, intitolato "Malicious Uses and Abuses of Artificial Intelligence" (Usi malevoli e abusi dell'intelligenza artificiale), è uno sforzo congiunto tra Trend Micro, l'Istituto di ricerca criminale e giustizia interregionale delle Nazioni Unite (UNICRI) e Europol. Discute gli attuali usi malevoli e abusi delle tecnologie IA e ML e gli scenari futuri plausibili in cui i criminali informatici potrebbero abusare di queste tecnologie per guadagno illecito.

Le tecnologie IA e ML hanno molti casi d'uso positivi, tra cui percezione visiva, riconoscimento vocale, traduzione linguistica, estrazione di pattern e funzioni di presa di decisioni in diversi campi e settori. Tuttavia, queste tecnologie vengono anche abusate per scopi criminali e malevoli. Comprendere le capacità, gli scenari e i vettori di attacco che dimostrano come queste tecnologie vengono sfruttate è essenziale per proteggere sistemi, dispositivi e il pubblico in generale da attacchi e abusi avanzati.