Le preoccupazioni etiche aumentano riguardo al ruolo di Grok AI nel governo degli Stati Uniti

Il Dipartimento per l'Efficienza Governativa (DOGE) di Elon Musk ha lanciato silenziosamente una versione adattata del suo chatbot Grok AI attraverso le agenzie federali, sollevando allarmi potenziali per violazioni della privacy e conflitti di interesse.

Reuters ha citato tre fonti all'interno di DOGE affermando che il team ha utilizzato Grok per setacciare e analizzare dati governativi sensibili, generando report e approfondimenti a velocità superiori ai metodi tradizionali.

Il DOGE viola l'etica con la mossa di Grok AI

Secondo le tre fonti interne, gli ingegneri del DOGE hanno installato parametri personalizzati su Grok, un chatbot lanciato da xAI di Musk alla fine del 2023, per accelerare la revisione dei dati e automatizzare la scrittura di rapporti.

"Gli alimentano dataset governativi, pongono domande complesse e ottengono riassunti istantanei."

Un Insider.

Un altro insider ha aggiunto che il personale di DOGE aveva incoraggiato i dipendenti del Dipartimento della Sicurezza Interna a utilizzare Grok per analisi interne nonostante lo strumento non avesse ottenuto l'approvazione formale dell'agenzia.

Ciò che non è chiaro è esattamente quali informazioni classificate o personalmente identificabili siano state caricate su Grok o quanto pesantemente sia stato addestrato sui record federali. Se fossero stati inclusi materiali sensibili, la pratica potrebbe violare le leggi federali sulla privacy e le norme sui conflitti di interesse.

Cinque esperti di etica e tecnologia avvertono che tale accesso potrebbe dare alle aziende di Musk una disproporzionata conoscenza dei dati contrattuali non pubblici e persino aiutare a perfezionare Grok stesso per il guadagno privato.

In teoria, qualsiasi modello di IA addestrato su dataset governativi confidenziali deve rispettare rigorose tutele legali. I protocolli di condivisione dei dati coinvolgono tipicamente più approvazioni e supervisioni per prevenire divulgazioni non autorizzate.

Aggirando questi controlli, il DOGE rischia di esporre i dettagli personali di milioni di americani e di consegnare a xAI una vasta quantità di informazioni reali non disponibili ai concorrenti.

DOGE insiste sul fatto che la sua missione sia eliminare sprechi, frodi e abusi. Un portavoce del DHS ha dichiarato a Reuters che DOGE non ha mai pressato il personale per adottare uno strumento specifico.

"Siamo concentrati sull'efficienza", ha detto il portavoce. Ma due fonti contrarie sostengono che, nelle ultime settimane, i rappresentanti del DOGE abbiano spinto le divisioni del DHS a testare Grok per attività che vanno dall'analisi del carico di lavoro immigrazione alla previsione di bilancio, anche dopo che il DHS ha bruscamente bloccato tutte le piattaforme di IA commerciali per timori di fughe di dati.

Secondo la politica attuale del DHS, i dipendenti possono utilizzare chatbot commerciali solo per lavoro non classificato e non confidenziale, mentre un'IA personalizzata del DHS gestisce i record sensibili. Ma quando ChatGPT e altri sono stati disabilitati a maggio, i progressi del DOGE sono avvenuti in una zona grigia legale: il bot interno del DHS è rimasto attivo, ma Grok non è mai stato formalmente integrato.

Musk sta usando il DOGE per centralizzare il controllo?

Oltre al DHS, il raggio d'azione del DOGE si estende alle reti del Dipartimento della Difesa, dove circa una dozzina di analisti sarebbero stati informati che uno strumento di intelligenza artificiale di terze parti stava monitorando le loro attività. Sebbene i portavoce del DoD abbiano negato che il DOGE abbia guidato qualsiasi implementazione di IA, le email dipartimentali e gli scambi di messaggi di testo ottenuti da Reuters suggeriscono il contrario.

I critici vedono queste mosse come illustrative della più ampia strategia di Musk di sfruttare l'IA per centralizzare il controllo sulla burocrazia e poi monetizzare il flusso di dati risultante.

"C'è un chiaro aspetto di auto-interesse."

Richard Painter, professore di etica governativa.

Se Musk avesse ordinato direttamente il dispiegamento di Grok, potrebbe aver violato le norme penali che vietano ai funzionari di influenzare decisioni che avvantaggiano i loro interessi privati.

Al centro del dibattito c'è il ruolo duplice di Grok come chatbot pubblico su X e come motore di analisi sperimentale all'interno dei firewall governativi. Il sito web di xAI suggerisce persino che le interazioni degli utenti possano essere monitorate "per scopi commerciali specifici", suggerendo che ogni query federale potrebbe alimentare nuovamente il ciclo di apprendimento di Grok.

Due dipendenti del DOGE, Kyle Schutt ed Edward Coristine, quest'ultimo noto online come "Big Balls", hanno guidato gran parte dell'iniziativa sull'IA. Sebbene abbiano rifiutato di commentare, i loro sforzi si inseriscono in uno schema; nell'ultimo anno, il DOGE ha licenziato migliaia di funzionari di carriera, ha preso il controllo di database sicuri e ha promosso l'IA come strumento definitivo per la riforma burocratica.

I difensori della privacy avvertono che l'integrazione di un'IA non verificata in ambienti di sicurezza nazionale ad alto rischio è una ricetta per fughe di dati, furto di identità e sfruttamento da parte di avversari stranieri.

"Questo è uno dei rischi per la privacy più gravi che esistano", dice Albert Fox Cahn del Surveillance Technology Oversight Project.

Ci sono anche timori che, con poca trasparenza e poche tutele, l'esperimento di IA del DOGE potrebbe ridefinire la governance dei dati federali, che il pubblico se ne renda conto o meno.