L'adozione dell'IA espone nuove minacce alla cybersecurity

Un esperto di cybersecurity ha rivelato che AI rappresenta una minaccia alla sicurezza informatica insicura per le aziende che la utilizzano come servizio, non solo attraverso l'esecuzione di attacchi da parte di criminali, ma anche in modo legittimo.

Vulnerabilità informatiche dell'IA

Sebbene la minaccia rappresentata dai cattivi attori che utilizzano l'IA per lanciare attacchi sia stata ampiamente discussa, Peter Garraghan, CEO e CTO di Midgard, che fornisce cybersecurity specificamente per l'IA, afferma: «Il problema a cui penso è una minaccia alla cybersecurity dell'IA, ovvero quella sull'argomento».

Prevedibilmente, l'uso più comune e quindi a rischio dell'IA da parte delle aziende riguarda i chatbot che fungono da servizio clienti e il cui tono e i cui dati sono tipicamente personalizzati per le organizzazioni che rappresentano. È qui che il Dr. Garraghan, professore di informatica presso l'Università di Lancaster specializzato in sicurezza e sistemi di IA, ha deciso di trovare Mindgard nel 2022. «L'IA non è magia», dice. È semplicemente una combinazione di codice aggiuntivo, dati e hardware. Dato le moderne minacce informatiche, tutte queste minacce possono manifestarsi anche nell'IA.

Pensiamolo in questo modo: supponiamo che un attaccante utilizzi un processo noto come SQL injection. Un attaccante può sfruttare tale processo per violare le vulnerabilità nei campi dei moduli web, come il login del sito o il modulo di contatto. Un altro modo in cui l'ingestione tramite teleprompter può essere utilizzata è l'iniezione di prompt, impiegata nelle applicazioni pubbliche. In primo luogo, se la sicurezza non è adeguatamente garantita, gli strumenti di IA possono praticamente essere costretti a rivelare il proprio codice sorgente e le istruzioni, la proprietà intellettuale aziendale o i dati dei clienti. In secondo luogo, gli strumenti di IA possono essere ingegnerizzati inversamente come altre applicazioni software per identificare le falle.

Proteggere i sistemi di IA

Garraghan sottolinea la gravità del problema: nel futuro previsto, tra pochi anni, potrebbe emergere il fattore della sicurezza nazionale, oppure le persone emarginate potrebbero correre rischi. Le nuove informazioni sembrano un avvertimento: un'azienda dovrebbe diffidare dei dati rilasciati.

Garraghan afferma: «Inoltre, l'IA può fungere da strumento per attacchi informatici, potendo fuoriuscire dati; il modello sarà in grado di fornire i dati richiesti con gentilezza». Presentando un esempio a gennaio, la piattaforma social di destra Gab ha cercato tutorial che hanno accidentalmente rivelato le loro istruzioni. Anche la piattaforma basata su GPT OpenAI aveva visto i propri modelli essere utilizzati impropriamente in precedenza.

Garraghan sostiene che le informazioni possono essere ottenute tramite attacchi VoIP non autorizzati. Inoltre, l'IA può essere reverse-engineered e il sistema può essere aggirato o ingannato per ottenere accesso aperto ad altri sistemi. Pertanto, la fuoriuscita di informazioni potrebbe rappresentare una delle principali aree di rischio trasversali a tutti i settori, inclusi quelli rivolti sia esternamente che internamente. Egli elenca anche altri rischi, come l'evasione del modello, in cui il modello viene sviato o deliberatamente eluso mediante la creazione di dati ingannevoli.

Garraghan ha evidenziato che l'inserimento di comandi malevoli o l'avvelenamento dei dati con soluzioni errate nelle tracce audio costituisce un'altra minaccia. Inoltre, osserva che l'impatto cyber generale è il danno reputazionale comunemente sperimentato dopo gli attacchi informatici. Analogamente, le aree più esposte alle conseguenze negative di questo tipo di attacco cibernetico sono quelle in cui le poste in gioco sono più elevate. Con molti settori e istituzioni operanti online, la sicurezza pubblica e la prevenzione della fuoriuscita di informazioni riservate, ad esempio, sono valori fondamentali che i settori dei servizi finanziari e dell'assistenza sanitaria dovrebbero prioritizzare.

Garraghan afferma: il nesso è che più sei strutturato e controllante nel tuo settore e più rischi affronti dall'IA (e anche in base all'esperienza: meno utilizzi l'IA, meno la adotti), peggiore sarà la tua IA. Forse non sono i più pigri. Ad esempio, potrebbero semplicemente attraversare le fasi più gravi della loro vita.

Misure proattive di sicurezza per l'IA

L'IA si occuperà di questi rischi in qualsiasi azienda specifica, sebbene egli affermi che richiederà livelli di sicurezza (poiché l'IA nelle imprese ne necessita già) per la protezione degli utenti. «Disponete già di strumenti di cybersecurity specializzati in diversi settori», dice Garraghan. «Questi possono includere strumenti di gestione della postura di sicurezza, rilevamento, risposta, firewall e supporto per il design shift-left, come la scansione del codice. Presto avrete bisogno di AI allineato alla trasformazione digitale». Il genere si specializza esclusivamente in IA e ML, mentre sistemi come le reti neurali vengono menzionati solo occasionalmente

Avrai bisogno di uno scanner di reti neurali, di un sistema di risposta per tutti i tipi di reti neurali, di test di sicurezza e di red teaming per un migliore controllo tra le applicazioni; avrai inoltre bisogno di un sistema di risposta per tutti i tipi di reti neurali. È più facile correggere e risolvere i problemi in fase iniziale piuttosto che durante l'esecuzione. Tuttavia, la best practice che raccomandiamo alle organizzazioni che utilizzano modelli o applicazioni e servizi di IA acquistati è che, prima del passaggio alla produzione, sia più semplice risolvere tutti i problemi relativi ai modelli. Successivamente, dopo il passaggio alla produzione, potranno essere identificati solo i problemi che necessitano di correzione.