I leader tecnologici abbracciano l'AI generativa per la difesa cibernetica: rapporto PwC

Man mano che il panorama della cybersecurity evolve, un rapporto PwC rivela che il 70% dei leader tecnologici e aziendali prevede di adottare l'AI generativa per la difesa cibernetica nei prossimi 12 mesi. Questo cambiamento arriva in risposta alla crescente sofisticazione delle minacce informatiche, guidata dalla capacità dell'AI generativa di creare email aziendali convincenti su larga scala.

Sollevare l'allarme sulla cybersecurity

Il regno digitale è in costante evoluzione, così come le tattiche degli attaccanti informatici. I sistemi tradizionali di cybersecurity stanno affrontando sfide crescenti, principalmente a causa delle crescenti capacità dell'AI generativa. Secondo il rapporto 2024 Digital Trust Insights di PwC, il 70% dei leader tecnologici e aziendali prevede di utilizzare l'AI generativa come componente chiave della loro strategia di difesa cibernetica.

Questo sviluppo mira a mitigare la crescente inquietudine riguardante i metodi tradizionali di cybersecurity, poiché la capacità dell'AI generativa di generare email aziendali sofisticate su larga scala ha alimentato il pericolo delle minacce informatiche. Un sentimento prevalente tra gli esperti del settore indica che il 52% prevede che l'AI generativa guidi attacchi cibernetici catastrofici entro il prossimo anno.

La natura duale dell'AI generativa

Mentre l'AI generativa promette di rafforzare la difesa cibernetica, presenta anche un formidabile strumento nell'arsenale degli attaccanti informatici. Gli attaccanti possono sfruttare le capacità della tecnologia per creare email allettanti e contenuti deepfake realistici, inclusi video, registrazioni e immagini, per colpire individui ignari attraverso schemi di phishing.

Un rapporto di threat intelligence in tempo reale di SlashNext evidenzia che i criminali informatici sono tra gli utenti più frequenti di chatbot basati su modelli linguistici di grandi dimensioni (LLM). Questi attori malevoli impiegano chatbot LLM per creare attacchi di compromissione dell'email aziendale (BEC) ed eseguire campagne di phishing mirate con precisione. Dal lancio di ChatGPT di OpenAI alla fine del 2022, le email di phishing malevole hanno registrato un notevole aumento del 1.265%.

Inoltre, l'adattabilità dell'AI generativa consente agli attori malevoli di modificare facilmente i codici di attacco consolidati, rendendoli sufficientemente diversi da eludere il rilevamento. La prevalenza dell'AI generativa è diventata un punto focale sul dark web, con menzioni proliferate durante l'anno in corso.

Minacce in evoluzione e malware auto-evolutivo

Uno degli aspetti più preoccupanti dell'AI generativa negli attacchi informatici è la creazione di ceppi di malware che si auto-evolvono. Questi ceppi generano varianti su misura per attaccare obiettivi specifici, impiegando tecniche uniche, payload e codice polimorfico. Questa adattabilità elude efficacemente il rilevamento da parte delle misure di sicurezza esistenti. In questo scenario di cybersecurity ad alto rischio, solo le operazioni più agili e adattive manterranno un vantaggio contro queste minacce in evoluzione.

Rafforzare le difese cibernetiche

Per fortificare le difese contro le crescenti minacce poste dagli attacchi cibernetici guidati dall'AI generativa, gli esperti del settore sottolineano le seguenti strategie:

1. Proteggere l'intera pipeline AI

Proteggere e crittografare i dati utilizzati nell'addestramento e nel perfezionamento dei modelli AI è cruciale. La scansione continua per vulnerabilità, malware e corruzione durante lo sviluppo del modello è identificata come un passo critico per fortificare le difese contro potenziali violazioni.

2. Discussioni collaborative a livello di consiglio di amministrazione

I leader della cybersecurity, della tecnologia, dei dati e delle operazioni dovrebbero riunirsi per discussioni a livello di consiglio di amministrazione. Queste discussioni dovrebbero concentrarsi sui rischi in evoluzione, in particolare su come l'AI generativa può essere sfruttata per esporre dati sensibili e consentire l'accesso non autorizzato ai sistemi.

3. Rilevamento e difesa innovativi

Sebbene i controlli di sicurezza esistenti possano essere estesi per proteggere l'infrastruttura e i dati che supportano i sistemi AI, è fondamentale comprendere la necessità di metodi innovativi specificamente progettati per rilevare e fermare gli attacchi di AI avversaria. Misure proattive sono essenziali per contrastare la crescente marea di minacce informatiche originate dall'AI generativa.

Man mano che l'AI generativa diventa sia una risorsa per i difensori che un'arma potente nelle mani degli attaccanti informatici, le organizzazioni devono trovare un equilibrio delicato. Abbracciare questa tecnologia per un uso etico e responsabile, rafforzando al contempo le misure di cybersecurity, è imperativo. La consapevolezza, la protezione della pipeline AI e gli investimenti in difese all'avanguardia sono le chiavi per navigare con successo nel panorama della cybersecurity in evoluzione. In un mondo digitale segnato da un cambiamento costante, queste strategie saranno essenziali per proteggere i dati sensibili e mantenere la fiducia nel regno digitale.