L'IA generativa solleva preoccupazioni tra i leader aziendali: studio

Oltre il 90% dei dirigenti senior esprime preoccupazioni per l'uso non monitorato degli strumenti di IA generativa

Un recente studio condotto dal fornitore di cybersecurity Kaspersky ha rivelato crescenti preoccupazioni tra i dirigenti di vertice (C-suite) riguardo alla proliferazione non regolamentata degli strumenti di intelligenza artificiale generativa (GenAI) nelle loro organizzazioni. Con il 90% dei leader aziendali senior che esprimono preoccupazioni per l'adozione incontrollata di questi strumenti, è evidente che l'IA generativa si sta integrando sempre di più in varie operazioni aziendali.

Infiltrazione silenziosa dell'IA generativa

Lo studio di Kaspersky ha rilevato che più della metà (53%) dei dirigenti senior intervistati crede che l'IA generativa stia ora attivamente "guidando" determinate linee di business all'interno delle loro organizzazioni. Tuttavia, il 59% di loro ha anche espresso profonde preoccupazioni riguardo a ciò che hanno definito una "infiltrazione silenziosa" dell'IA generativa, portando a rischi informatici più elevati. Questo fenomeno di "shadow AI", in cui i dipendenti incorporano l'IA generativa senza una dovuta supervisione, pone sfide significative alla sicurezza e alla governance dei dati.

Un risultato allarmante è che solo il 22% dei leader aziendali intervistati ha discusso l'implementazione di politiche di governance interna per monitorare l'uso dell'IA generativa all'interno delle loro organizzazioni. Inoltre, il 91% ha ammesso di aver bisogno di una migliore comprensione di come questi strumenti vengono utilizzati per mitigare i rischi per la sicurezza.

David Emm, ricercatore principale della sicurezza di Kaspersky, ha sottolineato l'urgenza di affrontare questo problema, affermando: "Dato che l'evoluzione rapida dell'IA generativa non mostra attualmente segni di attenuazione, più queste applicazioni operano senza controllo, più diventeranno difficili da controllare e proteggere nelle principali funzioni aziendali come le risorse umane, la finanza, il marketing o persino l'IT."

Preoccupazioni per le violazioni dei dati

L'IA generativa si basa sull'apprendimento continuo attraverso input di dati, rendendo la protezione dei dati una preoccupazione primaria. Anche quando utilizzata in buona fede, i dipendenti potrebbero trasmettere involontariamente dati sensibili al di fuori dell'organizzazione, causando potenzialmente una violazione dei dati. La ricerca di Kaspersky ha riflesso questa preoccupazione, con il 59% dei leader che ha espresso serie apprensioni riguardo al rischio di perdita di dati.

Nonostante queste apprensioni, lo studio ha anche rivelato che il 50% dei leader aziendali prevede di sfruttare l'IA generativa in qualche capacità, principalmente per automatizzare compiti ripetitivi. Inoltre, il 44% intende integrare gli strumenti di IA generativa nelle proprie routine quotidiane. È notevole che il 24% abbia indicato di essere incline a utilizzare l'IA generativa per automatizzare le funzioni IT e di sicurezza.

Emm ha commentato questa tendenza, dicendo: "Si potrebbe supporre che la prospettiva di una perdita di dati sensibili e la perdita di controllo su unità aziendali critiche potrebbero far riflettere la C-suite, ma i nostri risultati rivelano che quasi un quarto dei capi del settore sta attualmente considerando la delega di alcune delle loro funzioni più importanti all'IA."

Tuttavia, ha anche sottolineato la necessità di una comprensione completa della gestione dei dati e di politiche robuste prima di integrare ulteriormente la GenAI nell'ambiente aziendale.

La discussione sui rischi e sui benefici dell'IA generativa ha guadagnato rilevanza. Il Primo Ministro britannico Rishi Sunak ha recentemente chiesto una maggiore consapevolezza dei rischi associati all'IA generativa. Questo avviene in vista del vertice sulla sicurezza dell'IA a Bletchley Park, dove leader del settore ed esperti discuteranno del futuro della regolamentazione e dell'integrazione di questa tecnologia emergente.

Spada a doppio taglio dell'IA generativa

Fabien Rech, Senior Vice-President e General Manager di Trellix, ha evidenziato la natura duale dell'IA generativa, affermando: «L'IA generativa è una spada a doppio taglio: mentre il panorama della cybersecurity continua a evolversi, la proliferazione dell'IA generativa aggiunge ulteriore complessità al quadro».

Rech ha sottolineato l'importanza per le organizzazioni di essere consapevoli delle implicazioni della tecnologia di IA generativa e di come essa possa essere sfruttata e integrata in modo efficace. Sebbene gli strumenti di IA generativa offrano il vantaggio di semplificare le attività quotidiane e migliorare la produttività, sussistono preoccupazioni riguardo al loro potenziale uso improprio in attività malevole come l'iniezione di codice, il phishing, l'ingegneria sociale e la tecnologia deepfake.

Ha esortato le organizzazioni a dare priorità a robuste misure di sicurezza e all'integrazione di soluzioni tecnologiche appropriate per costruire una protezione resiliente contro le minacce informatiche.