Crescono le preoccupazioni etiche sul ruolo di Grok AI nel governo degli Stati Uniti

Il Dipartimento per l'efficienza governativa (DOGE) di Elon Musk ha silenziosamente distribuito una versione adattata del suo chatbot Grok AI in tutte le agenzie federali, sollevando allarmi su potenziali violazioni della privacy e conflitti di interesse.

Reuters ha citato tre fonti interne a DOGE, affermando che il team ha utilizzato Grok per setacciare e analizzare dati governativi sensibili, generando report e approfondimenti a velocità superiori a quelle dei metodi tradizionali.

DOGE viola l'etica con la mossa dell'IA Grok

Secondo i tre addetti ai lavori, gli ingegneri DOGE hanno installato parametri personalizzati su Grok, un chatbot lanciato da xAI di Musk alla fine del 2023, per accelerare la revisione dei dati e automatizzare la stesura dei report.

“Gli forniscono dati governativi, pongono domande complesse e ottengono riepiloghi immediati.”

Un insider.

Un'altra fonte ha aggiunto che lo staff del DOGE aveva incoraggiato i dipendenti del Dipartimento della Sicurezza Interna a utilizzare Grok per analisi interne, nonostante lo strumento non avesse ricevuto l'approvazione formale dell'agenzia.

Ciò che non è chiaro è esattamente quali informazioni classificate o personalmentedentsiano state caricate su Grok o quanto siano state utilizzate le informazioni federali. Se venisse incluso materiale sensibile, la pratica potrebbe violare le leggi federali sulla privacy e le norme sul conflitto di interessi.

Cinque esperti di etica e tecnologia avvertono che tale accesso potrebbe fornire alle aziende di Musk informazioni sproporzionate su datitracnon pubblici e persino contribuire a perfezionare Grok stessa per un guadagno privato.

In teoria, qualsiasi modello di intelligenza artificiale addestrato su set di dati governatividentdeve sottostare a rigide garanzie legali. I protocolli di condivisione dei dati in genere prevedono molteplici approvazioni e controlli per impedire la divulgazione non autorizzata.

Eludendo tali controlli, DOGE rischia di rivelare i dati personali di milioni di americani e di consegnare a xAI una serie di informazioni reali non disponibili ai concorrenti.

Il DOGE insiste sul fatto che la sua missione è quella di sradicare sprechi, frodi e abusi. Un portavoce del DHS ha dichiarato a Reuters che il DOGE non ha mai fatto pressioni sul personale affinché adottasse uno strumento specifico.

"Ci concentriamo sull'efficienza", ha affermato il portavoce. Ma due fonti ribattono che, nelle ultime settimane, i rappresentanti del DOGE hanno spinto le divisioni del DHS a testare Grok per compiti che vanno dall'analisi del carico di lavoro in materia di immigrazione alle previsioni di bilancio, anche dopo che il DHS ha improvvisamente bloccato tutte le piattaforme di intelligenza artificiale commerciali per timore di fughe di dati.

Secondo l'attuale politica del DHS, i dipendenti possono utilizzare chatbot commerciali solo per lavori non classificati e nondent, mentre un'intelligenza artificiale DHS su misura gestisce i dati sensibili. Ma quando ChatGPT e altri sono stati disattivati ​​a maggio, i progressi di DOGE si sono verificati in una zona grigia dal punto di vista legale: il bot interno del DHS è rimasto attivo, ma Grok non è mai stato formalmente integrato.

Musk sta usando DOGE per centralizzare il controllo?

Oltre al DHS, la portata di DOGE si estende alle reti del Dipartimento della Difesa, dove circa una dozzina di analisti sarebbero stati informati che uno strumento di intelligenza artificiale di terze parti stava monitorando la loro attività. Sebbene i portavoce del Dipartimento della Difesa abbiano negato che DOGE abbia guidato l'implementazione di sistemi di intelligenza artificiale, e-mail e messaggi di testo scambiati tra i dipartimenti e ottenuti da Reuters suggeriscono il contrario.

I critici vedono queste mosse come un esempio della strategia più ampia di Musk di sfruttare l'intelligenza artificiale per centralizzare il controllo sulla burocrazia e poi monetizzare il flusso di dati risultante.

"C'è una chiara apparenza di egoismo."

Richard Painter, professore di etica governativa.

Se Musk avesse ordinato direttamente l'invio di Grok, potrebbe violare le norme penali che vietano ai funzionari di influenzare decisioni che vadano a vantaggio dei loro interessi privati.

Al centro del dibattito c'è il duplice ruolo di Grok: chatbot pubblico su X e motore di analisi sperimentale all'interno dei firewall governativi. Il sito web di xAI accenna persino al fatto che le interazioni degli utenti potrebbero essere monitorate "per specifici scopi aziendali", suggerendo che ogni richiesta federale potrebbe essere reinserita nel ciclo di apprendimento di Grok.

Due membri dello staff del DOGE, Kyle Schutt ed Edward Coristine, quest'ultimo noto online come "Big Balls", sono stati i principali promotori dell'iniziativa sull'intelligenza artificiale. Pur avendo rifiutato di commentare, i loro sforzi si inseriscono in uno schema preciso: nell'ultimo anno, il DOGE ha licenziato migliaia di funzionari di carriera, ha preso il controllo di database riservati e ha promosso l'intelligenza artificiale come strumento definitivo per la riforma burocratica.

I sostenitori della privacy avvertono che l'integrazione di un'intelligenza artificiale non verificata in ambienti di sicurezza nazionale ad alto rischio è una ricetta per fughe di dati, furto didente sfruttamento da parte di avversari stranieri.

"Si tratta della minaccia più seria che si possa immaginare per la privacy", afferma Albert Fox Cahn del Surveillance Technology Oversight Project.

Si teme inoltre che, con poca trasparenza e poche misure di sicurezza, l'esperimento di intelligenza artificiale di DOGE possa rimodellare la governance dei dati federali, che il pubblico se ne renda conto o meno.