Microsoft rafforza la sicurezza dei chatbot AI per contrastare i truffatori

Microsoft Corp ha introdotto diverse funzionalità di sicurezza in Azure AI Studio che, nel tempo, continueranno a ridurre la probabilità che gli utenti configurino modelli AI in modalità anomale o inappropriate. La multinazionale tecnologica con sede a Redmond, Washington, ha illustrato i miglioramenti in un post sul blog, sottolineando la garanzia dell'integrità delle interazioni AI e la promozione della fiducia nella base utenti.

Scudi prompt e altro 

Tra i principali sviluppi figura la creazione degli "scudi prompt", una tecnologia progettata per individuare e bloccare le iniezioni di prompt durante la conversazione con chatbot AI. Si tratta dei cosiddetti jailbreak, ovvero input intenzionali degli utenti strutturati in modo da provocare risposte indesiderate dai modelli AI.

Ad esempio, Microsoft agisce indirettamente contro le iniezioni di prompt, dove l'esecuzione di comandi malevoli è possibile; scenari del genere potrebbero portare a gravi conseguenze per la sicurezza, come il furto di dati e l'assunzione di controllo del sistema. Secondo Sarah Bird, Chief Product Officer per l'AI Responsabile di Microsoft, questi meccanismi sono fondamentali per rilevare e rispondere in tempo reale a minacce così uniche.

Microsoft aggiunge che presto saranno disponibili avvisi sullo schermo dell'utente, che indicheranno quando un modello potrebbe esprimere informazioni false o fuorvianti, garantendo maggiore usabilità e fiducia.

Costruire fiducia negli strumenti AI 

Lo sforzo di Microsoft fa parte di un'iniziativa più ampia, volta a dare alle persone fiducia nell'IA generativa sempre più popolare, ampiamente applicata in servizi rivolti sia ai consumatori individuali che alla clientela aziendale. Microsoft ha condotto un'analisi approfondita dopo aver rilevato casi in cui gli utenti erano in grado di manipolare il chatbot Copilot per produrre output bizzarri o dannosi. Ciò supporterà un risultato che evidenzia la necessità di solide difese contro le tattiche manipolatorie menzionate, che probabilmente aumenteranno con l'avanzare delle tecnologie IA e della loro diffusione. Prevedere e poi mitigare tali rischi significa riconoscere modelli di attacco, come ad esempio quando un attaccante ripete domande o prompt durante giochi di ruolo.

In quanto principale investitore e partner strategico di OpenAI, Microsoft sta spingendo i confini su come integrare e creare tecnologie di IA generativa responsabili e sicure. Entrambe le parti sono impegnate nel dispiegamento responsabile e nei modelli fondamentali dell'IA Generativa per le misure di sicurezza. Tuttavia, Bird ha riconosciuto che questi grandi modelli linguistici, anche se stanno diventando la base per gran parte dell'innovazione futura nell'IA, non sono immuni da manipolazioni.

Costruire su queste fondamenta richiederà molto più del semplice affidarsi ai modelli stessi; sarà necessario un approccio completo alla sicurezza e alla protezione dell'IA.

Microsoft ha recentemente annunciato il rafforzamento delle misure di sicurezza per Azure AI Studio, al fine di dimostrare e garantire azioni proattive intraprese per tutelarsi dall'evolversi del panorama delle minacce IA.

Si impegna a prevenire abusi dell'IA e a preservare l'integrità e l'affidabilità delle interazioni con l'IA, integrando schermate e avvisi tempestivi.

Con l'evoluzione costante della tecnologia IA e la sua adozione in numerosi aspetti della vita quotidiana, è giunto il momento per Microsoft e per il resto della comunità IA di mantenere una posizione di sicurezza estremamente vigile.