L'adozione dell'intelligenza artificiale espone nuove minacce alla sicurezza informatica

Un esperto di sicurezza informatica ha rivelato che l'intelligenza artificiale rappresenta una minaccia per la sicurezza informatica per le aziende che la utilizzano come servizio, non solo tramite attacchi da parte di criminali, ma anche legittimamente.

Le vulnerabilità informatiche dell'intelligenza artificiale

Sebbene la minaccia rappresentata dai malintenzionati che utilizzano l'intelligenza artificiale per sferrare attacchi sia stata ampiamente discussa, Peter Garraghan, CEO e CTO di Midgard, che fornisce sicurezza informatica specificatamente per l'intelligenza artificiale, afferma: "Il problema che ho in mente è una minaccia alla sicurezza informatica dell'intelligenza artificiale, che è quella in questione"

Come prevedibile, l'uso più comune e quindi a rischio dell'IA da parte delle aziende riguarda i chatbot che fungono da servizio clienti e il cui tono e i cui dati sono tipicamente personalizzati per le organizzazioni che rappresentano. È qui che il Dott. Garraghan, professore di informatica alla Lancaster University specializzato in sicurezza e sistemi di IA, ha deciso di fondare Mindgard nel 2022. "L'IA non è magia", afferma. È semplicemente una combinazione di codice aggiuntivo, dati e hardware. Considerate le minacce informatiche odierne, tutte queste minacce possono manifestarsi anche nell'IA.

Immaginiamola in questo modo: supponiamo che un aggressore utilizzi un processo noto come SQL injection. Un aggressore può utilizzare tale processo per sfruttare le vulnerabilità nei campi dei moduli web, come quelli di accesso al sito web o quelli di contatto. Un altro modo in cui l'ingestione tramite teleprompter può essere utilizzata è la prompt injection, utilizzata nelle applicazioni pubbliche. Innanzitutto, se la sicurezza non è adeguatamente garantita, gli strumenti di intelligenza artificiale possono essere praticamente indotti a divulgare il loro codice sorgente e le istruzioni, la proprietà intellettuale aziendale o i dati dei clienti. In secondo luogo, gli strumenti di intelligenza artificiale possono essere sottoposti a reverse engineering come altre applicazioni software perdenti difetti.

Proteggere i sistemi di intelligenza artificiale

Garraghan afferma della gravità del problema: "Nel futuro previsto, tra qualche anno, potrebbe emergere il problema della sicurezza nazionale, o le persone emarginate potrebbero essere a rischio". Le nuove informazioni sembrano un avvertimento: le aziende dovrebbero diffidare dei dati divulgati.

Garraghan afferma: "Inoltre, l'IA può fungere da strumento di attacco informatico, permettendo la fuga di dati; il modello sarà in grado di fornire i dati richiesti con tanta gentilezza". A gennaio, la piattaforma di social media di destra Gab ha presentato un esempio in cui, cercando tutorial,dentbasata su GPT, OpenAI, ha subito in passato un uso improprio dei suoi modelli.

Garraghan sostiene che le informazioni possono essere ottenute tramite attacchi VoIP non autorizzati. Inoltre, l'IA può essere sottoposta a reverse engineering e il sistema può essere aggirato o ingannato per ottenere libero accesso ad altri sistemi. Pertanto, la fuga di informazioni potrebbe essere uno dei principali rischi comuni a tutti i settori, compresi quelli che potrebbero essere esposti a rischi esterni o interni. Elenca anche altri rischi, come l'evasione del modello, in cui il modello viene fuorviato o deliberatamente eluso fabbricando dati ingannevoli.

Garraghan ha sottolineato che l'inserimento di comandi dannosi o la contaminazione dei dati con soluzioni mal concepite nelle tracaudio rappresenta un'ulteriore minaccia. Inoltre, osserva che l'impatto informatico generale è il danno reputazionale comunemente riscontrato dopo gli attacchi informatici. Allo stesso modo, le aree a maggior rischio di conseguenze negative di questo tipo di attacco informatico sono quelle in cui la posta in gioco è più alta. Con molti settori e istituzioni che operano online, la sicurezza pubblica e la mancanza di informazionidenttrapelate, ad esempio, sono valori importanti a cui i settori dei servizi finanziari e sanitari dovrebbero dare priorità.

Garraghan afferma: Il collegamento qui è che più sei strutturato e controllante nel tuo settore e più rischi corri con l'IA (e anche per esperienza: meno usi l'IA, meno la adotti), peggiore è la tua IA. Forse non sono i più pigri. Ad esempio, potrebbero semplicemente attraversare la fase più grave della loro vita.

Misure di sicurezza proattive dell'intelligenza artificiale

L'IA si occuperà di questi rischi in qualsiasi azienda specifica, anche se, secondo Garraghan, richiederà diversi livelli di sicurezza (perché l'IA in ambito aziendale ne ha già bisogno) per la protezione degli utenti. "Esistono già strumenti di cybersecurity specializzati in diversi settori", afferma Garraghan. "Potrebbero essere strumenti di gestione della postura di sicurezza, strumenti di rilevamento e risposta, firewall e supporto per la progettazione shift left, come la scansione del codice. Presto sarà necessaria l'IA in linea con la trasformazione digitale". Il genere è specializzato esclusivamente in IA e apprendimento automatico, mentre sistemi come le reti neurali vengono menzionati solo occasionalmente.

Avrai bisogno di uno scanner applicativo di reti neurali, di un sistema di risposta per tutti i tipi di reti neurali, di test di sicurezza e di un red teaming per un migliore controllo tra le app, e di un sistema di risposta per tutti i tipi di reti neurali. È più facile risolvere e risolvere i problemi in anticipo rispetto ai problemi di runtime. Tuttavia, la best practice che consigliamo alle organizzazioni che utilizzano modelli di intelligenza artificiale o applicazioni e servizi di intelligenza artificiale acquistati è che prima di andare in produzione, sia più facile risolvere tutti i problemi con i modelli. Quindi, dopo il passaggio in produzione, potrebbero esseredentsolo i problemi che devono essere risolti.