Microsoft presenta nuove funzionalità di sicurezza AI per Azure per proteggersi dalle allucinazioni dell'IA

Microsoft ha lanciato un toolkit avanzato di funzionalità per migliorare la sicurezza della piattaforma Azure AI. Sarah Bind, direttrice principale del prodotto dell'Iniziativa IA Sentiente di Microsoft, lancerà una serie di strumenti pensati per affrontare i rischi legati all'uso di applicazioni abilitate all'IA. 

Nella fase di anteprima, le nuove precauzioni di sicurezza proteggeranno Azure IA dalle minacce, forniranno risposte protette e proteggeranno contro la promozione e l'iniezione di prompt malevoli nascosti senza la necessità di specifici team di test di penetrazione (red teams).

Strumenti avanzati di sicurezza IA di Microsoft Azure

Affrontare queste preoccupazioni è fondamentale per integrare efficacemente la tecnologia IA nel settore pubblico, poiché è cruciale mitigare i rischi imprevisti e le preoccupazioni che potrebbero ostacolare la sua implementazione e il successo a lungo termine.

Sono stati inoltre svelati gli strumenti 

I Prompt Shields forniscono un gateway che blocca le iniezioni di prompt malevoli e protegge gli utenti dal rischio di impiegare l'IA contro il mondo digitale attraverso i modelli IA, vietando l'uso di linguaggio proibito/prompt nascosti poiché potrebbero portare allo sfruttamento degli input degli utenti e dei dati di terze parti. 

Questo diventa particolarmente importante soprattutto quando si evita la produzione di materiale falso o inaccurato sugli eventi storici, una sfida riscontrata nei modelli guidati dall'IA

Sicurezza IA e mitigazione delle allucinazioni nell'ecosistema di Azure

La Mitigazione delle Allucinazioni basata sul testo, un'altra parte essenziale del toolkit di sicurezza di Microsoft, è diretta verso una serie di allucinazioni e neutralizzazioni. Raggiungere questo obiettivo crea un ambiente in cui non è accettabile qualsiasi idea; solo quelle supportate da prove e verificabili sono gli input più adatti nei sistemi IA. 

Inoltre, le valutazioni di sicurezza consentiranno un monitoraggio approfondito delle vulnerabilità dei modelli in modo che queste debolezze possano essere identificate immediatamente e le misure di sicurezza possano essere successivamente regolate come necessario. Considerando ciò, Microsoft è pronta a soddisfare le esigenze individuali dei clienti e a fornire adeguate misure di sicurezza IA. 

I clienti Azure possono personalizzare le loro impostazioni includendo o escludendo contenuti con pregiudizi di genere, discorsi d'odio e altri contenuti denigratori che risuonano con le loro esigenze specifiche. 

Allo stesso modo, tale aggiornamento futuro sarà utile anche agli amministratori nel determinare se un utente è un vero tester o un utente malevolo, fornendo una funzione di segnalazione.

L'approccio pionieristico di Microsoft per lo sviluppo sicuro ed etico dell'IA

L'importanza di queste misure di sicurezza copre non solo i benefici immediati della sicurezza, ma anche il fatto che l'industria delle tecnologie dell'informazione adotta un approccio olistico allo sviluppo dell'IA, che è socialmente responsabile. L'integrazione di questi strumenti, come Llama, nelle versioni principali come GPT-4 e Llama 2 significherebbe che un lungo elenco di applicazioni IA su Azure AI dipenderebbe da misure di controllo delle frodi e degli errori più elevate. 

Tuttavia, il fatto che i modelli open-source meno popolari potrebbero richiedere all'utente di integrare manualmente gli strumenti di sicurezza nel sistema principale è una nota a margine. Queste funzionalità di enforcement sono riconosciute come parte della strategia completa di Microsoft per creare un ambiente IA sicuro ed etico. I clienti di Azure AI (ad esempio, KPMG, AT&T, Reddit) costituiscono potenze maggiori che mirano a implementare avanzamenti in vari campi. 

Pertanto, il loro impatto si prevede sia ampio. Inoltre, Microsoft, attraverso la partnership con OpenAI e il lancio del servizio Azure OpenAI, serve come prova che è la forza principale nel dominio dell'IA, offrendo agli sviluppatori e alle organizzazioni gli strumenti necessari per raggiungere la competenza nelle applicazioni IA.

L'ultima funzione di sicurezza automatica di Microsoft è indicata come risposta ai grandi rischi prodotti dal discorso delle tecnologie di intelligenza artificiale. Esplorando modi in cui l'IA può essere protetta dalle minacce alla sicurezza e rendendo accurati gli output in tempo reale degli strumenti IA, Microsoft, in questo modo, sta definendo un nuovo codice di sicurezza dell'IA. Migliorano la sicurezza, l'integrità e l'affidabilità delle soluzioni IA e aiutano il discorso sull'uso responsabile dell'IA a evolversi.

Man mano che l'intelligenza artificiale si sviluppa, aumenta indubbiamente la necessità di una supervisione sicura. Con queste nuove tecnologie di sicurezza, Microsoft alza significativamente l'asticella verso un paradigma di IA veramente sicuro ed etico. Con queste tutele, i clienti Azure di IA possono essere sicuri di poter implementare macchine automatiche nelle loro operazioni con una piena comprensione di tutti i possibili rischi che l'intelligenza artificiale comporta.

Storia originale da https://thehorizon.ai/microsofts-new-safety-system-can-catch-hallucinations-in-its-customers-ai-apps