Gli agenti di intelligenza artificiale inondano i servizi governativi con documenti più lunghi e frequenti

Uno studio che documenta 84 casi di "inondazioni di messaggi da parte di agenti" in 11 giurisdizioni collega l'ondata di messaggi a testi generati dall'intelligenza artificiale a basso costo.

L'87% dei picchi è traca una singola capacità

Le denunce presentate al difensore civico per l'edilizia abitativa del Regno Unito sono più che raddoppiate dopo l'arrivo di ChatGPT, passando da 2.600 nel 2022 a poco più di 7.000 nel 2025.

L'Ufficio statunitense per la protezione finanziaria dei consumatori (CFPB), che gestisce i reclami contro banche e istituti di credito, ha ricevuto un numero di reclami cinque volte superiore attraverso lo stesso canale.

Analogamente, sono sorte numerose petizioni rivolte alla magistratura brasiliana e al parlamento tedesco.

L' articolo, scritto in collaborazione con Chris Schmitz, Lewis Hammond della Cooperative AI Foundation e Alan Chan di GovAI, sarà presentato il mese prossimo alla conferenza AAAI su IA, etica e società, che si terrà dal 12 al 14 ottobre.

Inoltre, il numero di ricorsi individuali sta crescendo rapidamente, ed è proprio questo l'aspetto che i ricercatori sottolineano maggiormente.

Il fenomeno del "flooding quantitativo", ovvero un numero crescente di richieste, e quello del "flooding qualitativo", in cui una singola richiesta si allunga e si complica nel tempo, non si escludono a vicenda. Degli 84 casi analizzati, 50 mostrano un flooding quantitativo, 76 un flooding qualitativo e 42 entrambi.

Una pratica depositata presso un tribunale sociale tedesco superava le 4.000 pagine.

Normalmente, il numero di invii giornalieri è limitato per evitare un'eccessiva quantità di richieste. Questo non risolve il problema quando una singola persona invia un documento di dimensioni enormi.

La stessa capacità spiega l'87% dei picchi osservati nel campione. I modelli linguistici possono produrre testo in modo economico e su larga scala.

Non ci sono ancora agenti che visitano autonomamente i siti web delle agenzie.

14 degli 84 casi hanno comportato il pagamento di sanzioni o il blocco della proprietà intellettuale

I ricercatori hanno iniziato con 2.288 servizi governativi in ​​dodici paesi, ma ne hanno selezionati solo 84 che hanno superato tre test contemporaneamente.

Per presentare un caso, era necessario dimostrare in modo plausibile che l'IA avesse ridotto i costi di applicazione, fornire prove di un effettivo spostamento della domanda e rilasciare una dichiarazione esplicita da parte di funzionari o di una terza parte credibile che attestasse tale cambiamento.

I servizi giudiziari e legali si sono classificati al primo posto con 19 casi, seguiti dalle denunce in materia di regolamentazione con 10 e da quelle relative al welfare e alla sicurezza sociale con 9. In 58 degli 84 casi, un funzionario governativo ha puntato il dito direttamente contro l'intelligenza artificiale.

Sulla base di una matrice di 13 fattori, i ricercatori hanno accertato che il rischio più elevato a breve termine riguarda i servizi che generano profitto solo in caso di esito positivo di una richiesta di risarcimento e in cui la complessa burocrazia ha a lungo frenato la domanda, come ad esempio le dichiarazioni dei redditi, le controversie di modesta entità e i ricorsi contro le valutazioni immobiliari. Lo studio, tuttavia, è cauto riguardo ai suoi limiti.

Ottantaquattro casi non dimostrano un nesso causale né che i servizi in generale siano compromessi. Si tratta di una prova dell'esistenza del problema, non di una misurazione.

I governi possono frenare la domanda con tariffe, limiti massimi o requisiti di presenza fisica. Oppure possono aumentare la capacità con più personale, la propria intelligenza artificiale o una riprogettazione delle procedure di accesso.

In 14 degli 84 casi, le agenzie hanno fatto ricorso a misure coercitive, ripristinando le tariffe o bloccando gli intervalli IP. L'Australia ha ipotizzato di reintrodurre le tariffe per le richieste di accesso alle informazioni.

Il problema, però, avverte il documento, è che queste soluzioni colpiscono in modo sproporzionato i candidati più poveri e con minori competenze digitali, chiudendo di fatto la stessa porta che l'intelligenza artificiale stava aprendo.

La Banca d' Inghilterra ha avvertito che i sistemi autonomi di intelligenza artificiale potrebbero rappresentare una minaccia per la stabilità finanziaria, e i primi agenti hanno già dato risultati negativi in ​​situazioni reali.