Come il cybercrime riceve un upgrade con gli strumenti AI generativa per attacchi sofisticati

Un'azienda di cybersecurity ha fatto una scoperta preoccupante: uno strumento AI generativo chiamato WormGPT viene venduto ai criminali. Un altro strumento AI generativo malevolo chiamato PoisonGPT è anche emerso, progettato per diffondere intenzionalmente notizie false online. Man mano che l'uso della tecnologia AI generativa diventa più diffuso, le agenzie di applicazione della legge sono sempre più preoccupate per il suo potenziale abuso da parte di cattivi attori e criminali. Questi strumenti rappresentano gli ultimi esempi di come l'AI generativa possa essere sfruttata per attività illecite, sollevando domande sui confini etici del settore e sulla necessità di una maggiore regolamentazione.

Strumenti di IA generativa malevoli

WormGPT, recentemente scoperto dall'azienda di cybersecurity SlashNext, è un'alternativa 'black hat' progettata specificamente per attività malevole. Lo strumento utilizza un modulo IA basato sul modello linguistico open-source GPTJ sviluppato nel 2021. Offre diverse funzionalità, tra cui supporto illimitato per i caratteri, conservazione della memoria della chat e capacità di formattazione del codice. SlashNext ha condotto un esperimento utilizzando WormGPT per generare un'email ingannevole, volta a pressurare un responsabile di account ignaro nel pagare una fattura fraudolenta. I risultati sono stati inquietanti, dimostrando il potenziale per attacchi di phishing sofisticati e compromissione della business email.

Un altro sviluppo preoccupante coinvolge Mithril Security, un'azienda di cybersecurity che ha testato come GPTJ potesse essere sfruttato per diffondere disinformazione online. Hanno creato uno strumento chiamato PoisonGPT, che hanno caricato su Hugging Face, una piattaforma che distribuisce modelli IA per gli sviluppatori. Il modello malevolo era mascherato per diffondere notizie false. L'aspetto preoccupante è che i criminali possono manipolare i modelli linguistici di grandi dimensioni e distribuirli attraverso provider di modelli come Hugging Face, portando le vittime a utilizzare involontariamente modelli avvelenati. Questo evidenzia il problema più ampio della fiducia e della trasparenza nella catena di approvvigionamento dell'IA, dove gli utenti spesso non hanno alcuna visibilità sui dataset e sugli algoritmi utilizzati per produrre i modelli che impiegano.

Considerazioni etiche nell'adozione diffusa dell'IA

Le politiche di utilizzo di OpenAI vietano rigorosamente l'uso dei suoi modelli per attività illegali e contenuti che sfruttano o danneggiano altri. Tuttavia, man mano che gli strumenti di IA generativa diventano più accessibili, aumenta il rischio di abuso da parte di criminali e malintenzionati. Nonostante ciò, mentre i confini dell'innovazione nell'IA continuano ad espandersi, aumenta anche il rischio di sfruttamento da parte di elementi malevoli e criminali. Questa crescente preoccupazione non è sfuggita agli occhi vigili di prestigiose agenzie di applicazione della legge come Europol e Interpol, entrambe pienamente consapevoli dell'enorme potenziale che l'IA detiene per supportare le loro nobili missioni.

Interpol ha compiuto passi proattivi nello sviluppo di un toolkit dedicato che potenzia le forze di polizia in tutto il mondo con il potere dell'IA. Sistemi di pattugliamento automatici, identificazione di individui vulnerabili e gestione efficiente dei call center di emergenza sono solo alcuni dei campi in cui l'IA si sta dimostrando un alleato prezioso per salvaguardare il benessere della società. Accanto alla promessa di un uso costruttivo dell'IA, è ugualmente cruciale riconoscere i limiti e i rischi intrinseci che questi sistemi sofisticati presentano. A tal fine, diventa compito delle parti interessate nel campo della cybersecurity, dei leader del settore e delle agenzie di applicazione della legge unirsi in uno sforzo concertato per affrontare le sfide poste dall'ascesa meteora dell'IA e dalle sue implicazioni di vasta portata sul tessuto della società.

Mentre si alza il sipario sull'ultimo capitolo oscuro della narrazione dell'IA con l'apparizione di WormGPT e PoisonGPT – strumenti di IA generativa malevoli venduti di soppiatto dall'underground – il clamore per un quadro normativo robusto è più forte che mai. Criminali e attori malintenzionati cercano di sfruttare queste meraviglie dell'IA per perseguire le loro nefaste agende, sottolineando l'urgente necessità di un approccio collaborativo per affrontare i dilemmi etici e le ramificazioni sulla sicurezza. Trovare l'equilibrio delicato tra la ricerca implacabile dell'innovazione e la gestione responsabile della tecnologia IA diventa fondamentale per garantire il suo continuo avanzamento senza compromettere i principi fondamentali di etica e sicurezza che sostengono il futuro dell'IA.