Uno studio che documenta 84 casi di “inondazione agenziale” in 11 giurisdizioni collega l'aumento ai testi generati dall'IA a basso costo.

⟦N1⟧% degli aumenti risale a una singola capacità

87% dei picchi risale a una singola capacità

La US Consumer Financial Protection Bureau (CFPB), che gestisce le lamentele su banche e finanziatori, ha avuto cinque volte più lamentele nello stesso periodo.

Estratto dalla Figura 1 della carta di Schmitz, Hammond e Chan Characterizing Agentic Flooding of Government Services, arXiv, che mostra i volumi di sottomissione del database delle lamentele dell'ombudsman per l'alloggio del Regno Unito e dei consumatori degli Stati Uniti dal 2018 al 2025, con la linea tratteggiata che segna il rilascio di ChatGPT nel 2022.

Inoltre, il numero di presentazioni individuali sta crescendo rapidamente, ed è questo che i ricercatori sottolineano di più.

Il paper, co-autore da Chris Schmitz con Lewis Hammond della Cooperative AI Foundation e Alan Chan di GovAI, sarà presentato il prossimo mese alla Conferenza AAAI su AI, Etica e Società, dal 12 al 14 ottobre.

L'inondazione quantitativa, più richieste, e l'inondazione qualitativa, una singola richiesta che diventa più lunga e complessa, non sono mutualmente esclusive. Dei 84 casi, 50 mostrano inondazione quantitativa, 76 mostrano inondazione qualitativa e 42 mostrano entrambi.

Una presentazione depositata in un tribunale sociale tedesco ha superato le 4.000 pagine.

Normalmente le presentazioni giornaliere sono limitate per contrastare l'inondazione. Questo non aiuta quando una persona presenta un unico documento enorme.

La stessa capacità spiega il 87% degli aumenti nel campione. I modelli linguistici possono produrre testo a basso costo e su larga scala.

Non ci sono ancora agenti che vanno da soli sui siti web delle agenzie.

⟦N1⟧ dei ⟦N2⟧ casi ha comportato commissioni o blocchi IP

14 dei 84 casi ha generato commissioni o blocchi IP

Un caso necessitava di un modo plausibile per cui l'IA avesse ridotto il costo della domanda, prove che la domanda si era effettivamente spostata e una dichiarazione esplicita da parte di funzionari o una terza parte credibile che l'IA fosse stata la causa.

I servizi giudiziari e legali hanno coronato la lista con 19, seguiti dalle lamentele regolatorie a 10 e dal welfare e dalla sicurezza sociale a 9. In 58 dei 84 casi, un funzionario governativo ha puntato il dito direttamente contro l'IA.

Basandosi su una matrice di 13 fattori, i ricercatori hanno accertato che il rischio più acuto a breve termine è nei servizi che pagano quando una domanda ha successo e dove la documentazione complessa ha a lungo tenuto bassa la domanda, come le dichiarazioni dei redditi, le piccole cause e gli appelli sul valore delle proprietà. La carta è cauta sui suoi limiti.

Sulla base di una matrice di 13 fattori, i ricercatori hanno accertato che il rischio più acuto a breve termine riguarda i servizi che offrono compensi in caso di successo di una richiesta e in cui la complessa documentazione ha a lungo tenuto bassa la domanda, come le dichiarazioni dei redditi, le piccole cause e gli appelli sul valore degli immobili. Il documento è cauto riguardo ai suoi limiti.

Ottantaquattro casi non provano il nesso di causalità né che i servizi in generale siano interessati. È una prova di esistenza, non una misurazione.

I governi possono attenuare la domanda con tariffe, limiti di frequenza o requisiti di presenza fisica. Oppure aumentare la capacità con più personale, la propria IA o un redesign del processo di richiesta.

In 14 dei 84 casi, le agenzie hanno cercato di introdurre attriti, reintroducendo le tariffe o bloccando gli intervalli di indirizzi IP. L'Australia ha ipotizzato il reintroduzione delle tariffe per le richieste di Freedom of Information.

Ma la controindicazione, avverte il documento, è che queste soluzioni impattano in modo sproporzionato i richiedenti più poveri e con minore alfabetizzazione digitale, chiudendo la stessa porta che l'IA stava aprendo.

La Banca d'Inghilterra ha avvertito che i sistemi di intelligenza artificiale autonomi potrebbero rappresentare una minaccia per la stabilità finanziaria, e i primi agenti consumer hanno già dato problemi nel mondo reale.