Il lato oscuro dell'intelligenza artificiale: come ChatGPT e gli strumenti di intelligenza artificiale generativa alimentano gli attacchi informatici

Di recente, il mondo della tecnologia è stato incantato dalle capacità di ChatGPT, un chatbot basato sull'intelligenza artificiale sviluppato da OpenAI. Questo strumento versatile ha ricevuto elogi per la sua capacità di generare prose persuasive e persino codice funzionale. Tuttavia, con l'evoluzione della tecnologia, si evolvono anche i metodi dei malintenzionati, e le capacità di ChatGPT non sono immuni allo sfruttamento da parte dei cybercriminali.

Strumenti di intelligenza artificiale generativa come ChatGPT sono diventati un'arma a doppio taglio. Se da un lato offrono agli utenti capacità impressionanti, dall'altro offrono ai malintenzionati un mezzo potente per creare narrazioni e codice convincenti, inclusi gli attacchi di ingegneria sociale. Ciò solleva preoccupazioni circa l'impatto di questa nuova categoria di strumenti sugli attacchi informatici, in particolare quelli che coinvolgono l'ingegneria sociale.

L'era dell'ingegneria sociale impeccabile

In passato, email formulate male omaticscorrette erano spesso segnali rivelatori di tentativi di phishing. La formazione sulla sicurezza informatica ha sottolineato l'dentdi identificare tali anomalie per contrastare potenziali minacce. Tuttavia, l'avvento di ChatGPT ha cambiato le carte in tavola. Anche chi ha una conoscenza limitata dell'inglese può ora creare messaggi impeccabili e convincenti in un inglese perfetto, rendendo sempre più difficile rilevare i tentativi di ingegneria sociale.

OpenAI ha implementato alcune misure di sicurezza in ChatGPT per prevenirne l'uso improprio, ma queste barriere non sono insormontabili, soprattutto per scopi di ingegneria sociale. I malintenzionati possono incaricare ChatGPT di generare email fraudolente, che possono poi essere inviate con link o richieste dannose in allegato. Il processo è straordinariamente efficiente, con ChatGPT che produce email rapidamente come un professionista, come dimostrato in un esempio di email creata su richiesta.

Le scoperte di Darktrace l’ascesa degli attacchi di ingegneria sociale basati sull’intelligenza artificiale

L'azienda di sicurezza informaticatracsegnala un'impennata negli attacchi di ingegneria sociale basati sull'intelligenza artificiale, attribuendo questa tendenza a ChatGPT e strumenti simili. Questi attacchi stanno diventando più sofisticati, con email di phishing sempre più lunghe, meglio punteggiate e più convincenti. Il tono predefinito di ChatGPT rispecchia la comunicazione aziendale, rendendo ancora più difficile distinguere i messaggi dannosi.

La curva di apprendimento criminale

I criminali informatici imparano in fretta. Alcuni report suggeriscono che i forum del dark web ora ospitano discussioni sullo sfruttamento di ChatGPT per l'ingegneria sociale, con criminali in paesi non supportati che trovano modi per aggirare le restrizioni e sfruttarne la potenza. ChatGPT consente agli aggressori di generare numerosi messaggi univoci, eludendo i filtri antispam che cercano contenuti ripetuti. Inoltre, contribuisce alla creazione di malware polimorfici, rendendone più difficile il rilevamento.

Mentre ChatGPT si concentra principalmente sulla comunicazione scritta, altri strumenti di intelligenza artificiale possono generare parole pronunciate in modo realistico che imitano individui specifici. Questa capacità di imitazione della voce apre le porte a telefonate che imitano in modo convincente personaggi di alto profilo. Questo duplice approccio – email credibili seguite da chiamate vocali – aggiunge un ulteriore livello di inganno agli attacchi di ingegneria sociale.

Sfruttamento dei candidati e falsi strumenti ChatGPT

ChatGPT non si limita a creare email; può generare lettere di presentazione e curriculum su larga scala, sfruttando i candidati in cerca di lavoro per truffe. Inoltre, i truffatori sfruttano la mania di ChatGPT creando falsi siti web di chatbot che affermano di essere basati sui modelli di OpenAI. Questi siti, in realtà, mirano a rubare denaro e raccogliere dati personali.

Protezione dagli attacchi basati sull'intelligenza artificiale

Con la crescente diffusione degli attacchi basati sull'intelligenza artificiale, le organizzazioni devono adattarsi a questo panorama di minacce in continua evoluzione:

1. Incorporare contenuti generati dall'intelligenza artificiale nelle simulazioni di phishing per familiarizzare i dipendenti con gli stili di comunicazione generati dall'intelligenza artificiale.

2. Integrare la formazione sulla consapevolezza dell'intelligenza artificiale generativa nei programmi di sicurezza informatica, evidenziando come ChatGPT e strumenti simili possano essere sfruttati.

3. Utilizzare strumenti di sicurezza informatica basati sull'intelligenza artificiale che sfruttano l'apprendimento automatico e l'elaborazione del linguaggio naturale per rilevare le minacce e segnalare le comunicazioni sospette per la revisione umana.

4. Utilizzare strumenti basati su ChatGPT perdentle email scritte dall'intelligenza artificiale generativa, aggiungendo un ulteriore livello di sicurezza.

5. Verificare sempre l'autenticità dei mittenti nelle e-mail, nelle chat e nei messaggi di testo.

6. Mantenere una comunicazione aperta con i colleghi del settore e tenersi informati sulle truffe emergenti.

7. Adottare un approccio zero-trust alla sicurezza informatica, partendo dal presupposto che le minacce possano provenire da fonti interne ed esterne.

ChatGPT è solo la punta dell'iceberg, ed è probabile che presto emergeranno chatbot simili con il potenziale di essere sfruttati in attacchi di ingegneria sociale. Sebbene questi strumenti di intelligenza artificiale offrano vantaggi significativi, presentano anche rischi sostanziali. Vigilanza, formazione e misure avanzate di sicurezza informatica sono essenziali per rimanere all'avanguardia nella battaglia in corso contro le minacce informatiche potenziate dall'intelligenza artificiale.