Il piano di Elon Musk sull'intelligenza artificiale per la previdenza sociale sta causando grossi problemi

Venerdì, la Social Security Administration ha lanciato un nuovo chatbot in stile ChatGPT chiamato "Agency Support Companion". Lo strumento era stato concepito per aiutare il personale a gestire le attività di routine e aumentare la produttività. Invece, i dipendenti affermano che funziona a malapena, e un lancio mal gestito ha lasciato molti a chiedersi se l'automazione sia la strada giusta per la più grande agenzia di servizi sociali americana.

Negli ultimi mesi, l'organizzazione di Musk, nota internamente come DOGE, ha drasticamente ridotto il numero di agenzie federali tagliando posti di lavoro e budget. L'obiettivo di un modello "AI-first" è sostituire i lavoratori umani con software ovunque sia possibile. Come parte di questa strategia, il nuovo chatbot è stato integrato nei flussi di lavoro quotidiani del personale delle agenzie, come riportato da Wired, con la promessa di alleggerire il loro carico di lavoro.

In un'e-mail interna veniva descritto come un modo per "aiutare i dipendenti nelle attività quotidiane e aumentare la produttività", ma nella pratica l'app ha ricevuto poca attenzione.

Fonti interne all'agenzia affermano che il lancio è stato accompagnato da un video di formazione di pessima qualità, con una donna con quattro dita e un'animazione scadente. Il video avrebbe dovuto guidare gli utenti attraverso le funzionalità dell'app, ma non metteva in guardia il personale dal caricare dati personali sensibili. Questa svista ha costretto l'agenzia a inviare un'e-mail di follow-up con il testo "Ci scusiamo per la svista nel nostro video di formazione", per avvisare i dipendenti del rischio.

Poche persone hanno preso sul serio il video di formazione sull'intelligenza artificiale della SSA

"Non sono sicuro che la maggior parte dei miei colleghi abbia guardato il video di formazione", ha detto a Wired un dipendente della Previdenza Sociale. Ha aggiunto che quando hanno testato il chatbot, "molte delle risposte che ho ricevuto erano incredibilmente vaghe e/o imprecise". Altri dipendenti avrebbero deriso la grafica rozza. "Nessuno che conosco lo usa. È così goffo e pessimo", ha detto la fonte.

I critici avvertono che questo inizio incerto potrebbe preannunciare fallimenti più ampi.

Analogamente, in Brasile, nel 2018, un'azienda statale chiamata Dataprev ha lanciato Meu INSS, un'app progettata per elaborare le richieste di previdenza sociale utilizzando la visione artificiale e l'elaborazione del linguaggio naturale. Tuttavia, il sistema ha spesso respinto richieste valide a causa di piccoli errori, innescando lunghi ricorsi legali.

Un esempio riguarda Josélia de Brito, 55 anni, ex lavoratrice di canna da zucchero, la cui domanda di pensione è stata respinta perché il sistema automatico ha identificatodentil suo genere. "Ho tutti i documenti che comprovano le mie condizioni di salute, che comprovano tutto, e [il sussidio] mi viene comunque negato. È un'umiliazione", ha dichiarato al resto del mondo.

I braccianti agricoli rurali, molti dei quali privi di competenze digitali di base, hanno avuto difficoltà con il passaggio ai servizi online. "Qui le persone non possono [nemmeno] lavorare con Gmail, Facebook, Instagram", ha affermato Francisco Santana,dent del Sindacato dei Lavoratori Rurali di Barra do Corda. "I processi stanno [diventando] sempre più automatizzati e la società non era pronta, soprattutto nelle zone più remote, in periferia, per le persone che vivono nelle aree rurali"

Questi ostacoli all’estero evidenziano potenziali insidie ​​per gli Stati Uniti.

I servizi sociali sono già sotto pressione per "modernizzarsi", un'iniziativa iniziata sotto la guida del team di cosiddetti tecnocrati dell'amministrazione Trump.

Il DOGE di Musk ha portato questa missione ancora più avanti, puntando a dimezzare la forza lavoro federale. "Tutto ciò che può essere automatizzato dalle macchine lo sarà. E i tecnocrati sostituiranno i burocrati", ha dichiarato al Washington Post una fonte a conoscenza dei piani del DOGE.

L'enfasi di DOGE sull'automazione ha generato confusione anziché efficienza.

Un recente incidente alla SSA illustra la posta in gioco. Secondo quanto riferito, il personale del DOGE ha contrassegnato "innumerevoli" beneficiari di sussidi viventi come "morti", interrompendo i loro pagamenti. "Circa 4 milioni di persone sono state contrassegnate come morte", ha dichiarato Rennie Glasgow, analista tecnico di lunga data dell'agenzia, al Daily Beast. "Ci stanno inviando un'e-mail dicendo: 'Se queste persone vengono in ufficio con i lorodentidentificativi, potete reintegrarle'". Tale processo di reintegrazione può richiedere "dai tre ai quattro giorni", ha aggiunto Glasgow, poiché il personale deve "resuscitare" manualmente ogni beneficiario nel sistema.

Oltre a sospendere le prestazioni, il DOGE prevede di riscrivere l'intero codice sorgente del software della SSA entro pochi mesi. Secondo alcune fonti, per rispettare tale scadenza, il team si affiderà quasi certamente all'intelligenza artificiale per la programmazione, una pratica che richiede una stretta supervisione a causa dell'elevato tasso di errore nel codice generato automaticamente.

da DOGE tracintrapreso il finora

Alcuni osservatori sospettano che questi errori possano essere intenzionali. Una corrente di pensiero critica sostiene che l'obiettivo del DOGE non sia una vera riforma, bensì la destabilizzazione dell'SSA per spianare la strada alla privatizzazione. In tal caso, gli errori e il caos potrebbero essere esattamente ciò a cui il team di Musk mira.