Mayorkas svela la strategia del DHS per proteggere l'IA

Il primo incontro del Consiglio Consultivo AI del Dipartimento della Sicurezza Interna si è tenuto lunedì di questa settimana. Il consiglio mira a migliorare la gestione del dispiegamento della tecnologia di intelligenza artificiale e a difendere la tecnologia dalle minacce esterne.

Affrontare i pregiudizi e i rischi di sicurezza dell'IA

Durante una sessione di domande e risposte con i giornalisti alla conferenza RSA e un discorso chiave con i dipendenti, Mayorkas ha discusso la sicurezza dell'IA e i risultati della discussione del primo incontro del consiglio. I membri stavano parlando del problema della sicurezza dell'IA nelle strutture essenziali. Hanno anche toccato le implicazioni per i diritti umani dell'implementazione dell'IA nei compiti del DHS, con alcuni che ne sottolineano il potenziale di essere utilizzato come estensione del pregiudizio implicito esistente.

I sistemi AI che lavorano nel colorismo e nel sessismo sono alcuni dei problemi di lunga data che esperti e governo federale continuano ad affrontare perché i leader del pensiero e il governo sono minoranze che non si preoccupano di testare i prodotti per vedere se i sistemi funzionano con le donne e le persone di colore. Inoltre, la Casa Bianca e il Dipartimento di Giustizia hanno anche iniziato progetti diretti a eliminare i pregiudizi portati dai sistemi AI.

Il consiglio del DHS, che si riunirà trimestralmente, è stato divulgato. Include persone come il CEO di OpenAI Sam Altman, funzionari governativi attivi nell'IA e proprietari di infrastrutture critiche e creatori di tecnologia. Mayorkas ha dichiarato che ci sono più di 20 usi dell'IA, dall'attenzione alle richieste di assicurazione per i danni degli uragani fino al recente aiuto all'agenzia federale per la gestione delle emergenze (FEMA) per addestrare gli agenti dei casi di rifugiati.

Cooperazione globale contro le minacce all'IA

I funzionari del DHS hanno sottolineato nei loro rapporti che hanno creato un portale che elenca dove la tecnologia AI è stata dispiegata o revocata a causa di preoccupazioni disparate tra vari stakeholder. I funzionari DHS hanno sottolineato che il dipartimento sta cercando di espandere la sua forza lavoro nelle aree relative all'IA, e sono già state ricevute 3.000 candidature per i ruoli di lavoro in questo campo.

Mayorkas ha condiviso che il consiglio ha avviato il processo di stesura di bozze di strategia e piani per prevenire possibili minacce all'IA e ridurre i rischi di conseguenze indesiderate durante l'applicazione dell'IA. Il lavoro supplementare sul Consiglio era già soddisfacente. Il fatto che questa sia la composizione di leader internazionali AI è anche critico perché lavorerà sulla legislazione dannosa con altri paesi.

Tuttavia, difendere i sistemi AI non sarà raggiunto solo avendo giocatori globali a bordo. Tale scenario richiede la partnership per costruire un meccanismo di difesa solido.