Un terzo delle aziende del Regno Unito cita la sicurezza dei dati come una grande preoccupazione nell'adozione di LLM

Una su tre aziende nel Regno Unito si preoccupa della sicurezza dei propri dati quando utilizza Modelli Linguistici di Grande Dimensione (LLM) perché sono evoluti da assistenti che rispondono a comandi o domande in sistemi indipendenti che agiscono senza costante intervento umano.

Di conseguenza, queste organizzazioni sono riluttanti a incorporare completamente Agenti AI nei loro sistemi operativi perché temono di perdere il controllo dei propri dati e sicurezza verso macchine che possono 'pensare da sole'.

Il governo del Regno Unito sta prendendo provvedimenti per affrontare queste sfide. Il Ministro dell'Ufficio di Gabinetto Pat McFadden ha annunciato la declassificazione di una valutazione dell'intelligenza che indica che l'AI intensificherà le minacce informatiche nei prossimi anni.

Nel 2024, il NCSC ha ricevuto quasi 2.000 rapporti di attacchi informatici, con quasi 90 considerati "significativi" e 12 al "livello più alto di gravità". Questo era tre volte il numero di attacchi gravi rispetto all'anno precedente.

Le aziende del Regno Unito sollevano bandiere rosse sulla sicurezza dei dati negli LLM

Le aziende nel Regno Unito devono conformarsi a normative rigorose che proteggono i dati delle persone e ne prevengono l'uso improprio, come il Data Protection Act e il Regolamento Generale sulla Protezione dei Dati (GDPR) dell'UE.

Le aziende che violano queste leggi rischiano azioni legali e danni alla loro reputazione, quindi stanno ripensando le loro strategie LLM. L'AI potrebbe rivelare informazioni private o generare risultati fuorvianti senza un'attenta supervisione umana o un prompting accurato. 

Inizialmente, strumenti AI come i chatbot fornivano risposte fisse, mentre i termostati intelligenti cambiavano solo la temperatura seguendo regole semplici e senza pensare o imparare da nuovi dati, azioni precedenti o i risultati delle loro decisioni. Tuttavia, gli Agenti AI oggi usano LLM per imparare dai dati, cambiare le loro azioni in base alle nuove informazioni e risolvere problemi diversi ragionando come un essere umano. 

Ma questo è solo una frazione di una preoccupazione molto più grande, poiché le persone possono anche istruire l'agente a gestire un compito, e lui lo scomporrà in attività più piccole, affronterà ciascuna individualmente e poi valuterà i risultati. Inoltre, alcuni agenti possono collaborare per gestire un compito complesso, dove uno di loro lavora sul lavoro mentre l'altro controlla i risultati per migliorare l'esito. 

Anche se questa crescita aiuta le aziende ad automatizzare le operazioni e riduce il tempo che le squadre umane avrebbero utilizzato, è anche una minaccia perché più decisioni questi agenti prendono da soli, più diventa difficile per noi comprendere, prevedere o controllare ciò che stanno facendo. Allo stesso modo, le conseguenze dei loro errori possono crescere esponenzialmente perché questi Agenti AI agiscono senza fermarsi per l'input umano. 

Le aziende adottano agenti AI con cautela in tutti i dipartimenti

Molte aziende nel Regno Unito utilizzano agenti AI nelle loro operazioni quotidiane, con dipartimenti come il servizio clienti, le risorse umane (HR) e il marketing che testano gli strumenti lentamente e li monitorano attentamente.

Un buon esempio aziendale è Pets at Home, che ha costruito un agente AI per il suo personale veterinario per fornire risposte rapide e supporto durante i controlli degli animali domestici, mostrando quanto gli agenti AI rimangano utili per piccoli ruoli nei lavori reali. 

Attualmente, la maggior parte dei sistemi AI agentic ha bisogno di persone per guidarli, controllare il loro lavoro e correggere gli errori perché non sono pronti a sostituire completamente gli umani senza supervisione. Tuttavia, il futuro potrebbe richiedere alle aziende di prendere decisioni difficili che consentiranno loro di incorporare agenti AI nei sistemi, ma anche mantenere il controllo.