Il panorama della sicurezza informatica è sull'orlo di una profonda trasformazione, guidata dai rapidi progressi dell'intelligenza artificiale generativa (GenAI) e dei modelli linguistici di grandi dimensioni (LLM). Trend Micro Incorporated, leader globale nelle soluzioni di sicurezza informatica, ha lanciato un duro allarme sui potenziali impatti di queste tecnologie sulla natura e la sofisticatezza delle minacce informatiche.
Una delle tendenze più allarmanti evidenziate è l'evoluzione delle tattiche di phishing. Eric Skinner, vicepresidente della strategia di mercato di Trend Micro, sottolinea che i sistemi di apprendimento automatico avanzati, adatti a diverse lingue, sono destinati a eliminare i comuni indicatori di phishing come errorimatico formattazioni insolite. Questo sviluppo complica notevolmente gli sforzi di rilevamento, costringendo le aziende a guardare oltre la tradizionale formazione sul phishing e ad adottare moderni controlli di sicurezza. Si prevede che questi sistemi avanzati supereranno le capacità umanedente neutralizzare tali minacce.
Il ruolo dirompente di GenAI e GAN
Il rapporto fa luce anche sull'interazione tra GenAI e reti generative avversarie (GAN), prevedendo un cambiamento radicale nel mercato del phishing entro il 2024. Si prevede che questa combinazione faciliterà la generazione a basso costo di contenuti audio e video iperrealistici, dando vita a sofisticati scenari di compromissione delle email aziendali (BEC), rapimenti virtuali e altre truffe avanzate. La facile reperibilità e la migliore qualità di queste tecnologie potrebbero rafforzare significativamente l'arsenale dei criminali informatici.
Vulnerabilità dei modelli di intelligenza artificiale e sicurezza del cloud
Un'altra area critica di preoccupazione è la vulnerabilità dei modelli di intelligenza artificiale stessi. I modelli di apprendimento automatico specializzati basati su cloud, in particolare quelli addestrati su set di dati mirati, sono obiettivi sempre piùtracper gli autori delle minacce. Questi modelli sono suscettibili ad attacchi di data poisoning, che possono spaziare dall'esfiltrazione di dati sensibili all'interruzione dei sistemi connessi, inclusi i veicoli. La convenienza di questi attacchi, alcuni dei quali costano meno di 100 dollari, aumenta l'urgenza di affrontare queste vulnerabilità.
Inoltre, l'aumento degli attacchi worm cloud-native che prendono di mira vulnerabilità ed errori di configurazione rappresenta un problema urgente. L'automazione insita in questi attacchi li rende particolarmente pericolosi, in quanto possono colpire rapidamente più container, account e servizi. Ciò sottolinea la necessità di solidi meccanismi di difesa e di audit di sicurezza approfonditi negli ambienti cloud.
Implicazioni normative e risposta del settore
L'evoluzione del panorama delle minacce potrebbe richiedere una risposta normativatron, con il settore della sicurezza informatica potenzialmente in prima linea nello sviluppo di policy e normative specifiche per l'IA. Secondo Greg Young, vicepresidente della sicurezza informatica di Trend Micro, il settore probabilmente supererà gli sforzi governativi, muovendosi verso un'autoregolamentazione basata sul consenso esplicito.
Le informazioni fornite da Trend Micro rappresentano un campanello d'allarme cruciale per la comunità della sicurezza informatica. Con il continuo progresso delle tecnologie GenAI e LLM, si presentano nuove sfide che richiedono soluzioni proattive e innovative. La necessità di misure di sicurezza avanzate, unita alla comprensione della natura in continua evoluzione delle minacce informatiche, non è mai stata così critica. Con l'avvicinarsi del 2024, anticipare questi sviluppi e prepararsi al loro impatto sarà fondamentale per proteggersi dalle sofisticate minacce informatiche del futuro.
