I criminali informatici stanno utilizzando l'intelligenza artificiale per mettere a punto schemi sempre più elaborati. Prendono di mira qualsiasi cosa, dai risparmi pensionistici ai segreti aziendali, con metodi sempre più difficili da individuare.
La stessa tecnologia che personalizza le pubblicità in base alle esigenze degli acquirenti online viene ora utilizzata da malintenzionati per raccogliere dati personali e lanciare truffe personalizzate in tempi rapidissimi. Davvero rapidissimi.
Importanti aziende di intelligenza artificiale come Anthropic, OpenAI e Google segnalano che i criminali stanno sfruttando le loro piattaforme per orchestrare complesse operazioni di phishing, sviluppare software dannosi ed eseguire vari attacchi digitali. Gli esperti di sicurezza avvertono che i criminali stanno anche producendo falsi clip audio e video dei dirigenti aziendali per indurre i dipendenti a rivelare informazioni sensibili.
Le aziende e gli uffici governativi potrebbero presto trovarsi di fronte a sciami di sistemi basati sull'intelligenza artificiale, in grado di individuare i punti deboli delle reti informatiche e quindi pianificare e portare a termine attacchi praticamente senza alcun intervento umano.
La tecnologia sta cambiando il modo in cui i criminali operano online. Alice Marwick dirige la ricerca presso Data & Society, un'organizzazionedent di ricerca tecnologica. Ha dichiarato al Wall Street Journal che il cambiamento più significativo riguarda le dimensioni e la portata. "Il vero cambiamento riguarda la portata e la scala. Le truffe sono più grandi, più mirate, più convincenti"
Brian Singer è unodent di dottorato presso la Carnegie Mellon University. Studia come i grandi modelli linguistici vengono utilizzati negli attacchi informatici e nelle difese. La sua stima? Da metà a tre quarti dei messaggi di spam e phishing in tutto il mondo provengono ormai da sistemi di intelligenza artificiale.
Gli attacchi stessi sono diventati più credibili. I sistemi di intelligenza artificiale addestrati sulle comunicazioni aziendali possono produrre migliaia di messaggi che suonano naturali e rispecchiano lo stile aziendale. Copiano il modo di scrivere dei dirigenti. Citano notizie recenti trovate nei registri pubblici.
La tecnologia aiuta anche i truffatori stranieri a nascondere gli errori linguistici che in passato rendevano evidenti i loro tentativi. I criminali possono impersonare le vittime attraverso falsi video e voci copiate. Usano la stessa falsadentper prendere di mira più persone contemporaneamente.
John Hultquist è analista capo del Google Threat Intelligence Group. Descrive il cambiamento principale come "credibilità su larga scala"
Anche i malintenzionati stanno diventando più abili nel selezionare i propri bersagli. Usano l'intelligenza artificiale per analizzare i social media e individuare persone che stanno attraversando gravi difficoltà. Divorzi, lutti in famiglia, perdita del lavoro e situazioni che potrebbero rendere qualcuno più vulnerabile a truffe sentimentali, frodi sugli investimenti o false offerte di lavoro.
I mercati del dark web abbassano la barriera all'ingresso
La barriera d'ingresso per la criminalità informatica si è abbassata. I mercati clandestini ora vendono o noleggiano strumenti di intelligenza artificiale per attività criminali a partire da soli 90 dollari al mese. Nicolas Christin dirige il dipartimento di software e sistemi sociali della Carnegie Mellon.
Ha affermato che queste piattaforme offrono diversi livelli di prezzo e assistenza clienti. "Gli sviluppatori vendono abbonamenti alle piattaforme di attacco con prezzi a livelli e assistenza clienti."
Questi servizi sono noti come WormGPT, FraudGPT e DarkGPT. Possono creare software dannosi e campagne di phishing. Alcuni includono persino materiale didattico sulle tecniche di hacking.
Margaret Cunningham èdent della strategia di sicurezza e intelligenza artificiale presso Darktrac, un'azienda di sicurezza. Afferma che è semplice. "Non serve saper programmare, basta sapere dove trovare lo strumento"
Di recente si è diffusa una nuova tecnologia chiamata vibevibevibe vibevibevibevibe vibevibe-hacking. Questa tecnica potrebbe consentire ai criminali in erba di utilizzare l'intelligenza artificiale per creare i propri programmi dannosi, anziché acquistarli da fonti clandestine. All'inizio di quest'anno, Anthropic ha rivelato di aver bloccato diversi tentativi di utilizzo della sua IA Claude per la creazione di ransomware da parte di "criminali con scarse competenze tecniche".
Le operazioni criminali stesse stanno cambiando. Secondo gli esperti, la criminalità informatica funziona ormai da anni come un mercato aziendale. Una tipica operazione ransomware coinvolge diversi gruppi. Broker di accesso che si infiltrano nelle reti aziendali e vendono l'accesso. Team di intrusione che si muovono nei sistemi rubando dati. E fornitori di servizi di ransomware che rilasciano il malware, gestiscono le trattative e si dividono il ricavato.
Velocità e automazione rimodellano le reti criminali
L'intelligenza artificiale ha aumentato la velocità, le dimensioni e la disponibilità di questo sistema. Il lavoro precedentemente svolto da persone con competenze tecniche può ora essere eseguito automaticamentematicCiò consente a questi gruppi di operare con meno personale, meno rischi e maggiori profitti. "Pensatela come la prossima fase dell'industrializzazione. L'intelligenza artificiale aumenta la produttività senza richiedere manodopera più specializzata", spiega Christin.
L'intelligenza artificiale può lanciare attacchi completamente da sola? Non ancora. Gli esperti paragonano la situazione alla spinta verso veicoli completamente autonomi. Il primo 95% è stato raggiunto. Ma la parte finale, che consentirebbe a un'auto di guidare ovunque e in qualsiasi momento da sola, rimane irraggiungibile.
I ricercatori stanno testando le capacità di hacking dell'intelligenza artificiale in ambienti di laboratorio. Un team della Carnegie Mellon, con il supporto di Anthropic, ha ricreato la famosa violazione dei dati di Equifax utilizzando l'IA all'inizio di quest'anno. Singer ha guidato il lavoro presso il CyLab Security and Privacy Institute della Carnegie Mellon. Lo definisce "un grande passo avanti".
I criminali sfruttano l'intelligenza artificiale per scopi dannosi. Ma le aziende che si occupano di intelligenza artificiale affermano che gli stessi strumenti possono aiutare le organizzazioni a rafforzare le proprie difese digitali.
Anthropic e OpenAI stanno sviluppando sistemi di intelligenza artificiale in grado di esaminare costantemente il codice software per individuare vulnerabilità che i criminali potrebbero sfruttare. Tuttavia, le persone devono comunque approvare eventuali correzioni. Un recente programma di intelligenza artificiale sviluppato dai ricercatori di Stanford ha ottenuto risultati migliori di alcuni tester umani nella ricerca di problemi di sicurezza in una rete.
Nemmeno l'intelligenza artificiale riuscirà a fermare tutte le violazioni. Ecco perché le organizzazioni devono concentrarsi sulla creazione di reti robuste che continuino a funzionare anche durante gli attacchi, afferma Hultquist.
