Os agentes de IA inundam os serviços governamentais com registos mais longos e frequentes

Um estudo que documentou 84 casos de "inundação por agentes" em 11 jurisdições relaciona o aumento repentino com textos baratos gerados por inteligência artificial.

87% dos picos de procura traca uma única capacidade

As queixas apresentadas ao Provedor de Justiça da Habitação do Reino Unido mais do que duplicaram após a chegada do ChatGPT, passando de 2.600 em 2022 para pouco mais de 7.000 em 2025.

O Departamento de Proteção Financeira do Consumidor dos EUA (CFPB, na sigla em inglês), que gere as queixas sobre bancos e instituições financeiras, recebeu cinco vezes mais queixas no mesmo período.

Petições dirigidas ao poder judicial brasileiro e ao parlamento alemão foram apresentadas de forma semelhante.

O artigo, escrito em coautoria por Chris Schmitz com Lewis Hammond da Cooperative AI Foundation e Alan Chan da GovAI, será apresentado no próximo mês na Conferência da AAAI sobre IA, Ética e Sociedade, de 12 a 14 de outubro.

Além disso, o número de processos individuais está a crescer rapidamente, e é isso que mais preocupa os investigadores.

A sobrecarga quantitativa, caracterizada por um aumento do número de pedidos, e a sobrecarga qualitativa, caracterizada por um único pedido que se torna mais longo e complexo, não são mutuamente exclusivas. Dos 84 casos, 50 apresentam sobrecarga quantitativa, 76 apresentam sobrecarga qualitativa e 42 apresentam ambas.

Um dos documentos apresentados a um tribunal social alemão ultrapassou as 4.000 páginas.

Normalmente, o número de submissões diárias é limitado para evitar sobrecarga. Isto não ajuda quando uma única pessoa envia um documento enorme.

Esta mesma capacidade explica 87% dos aumentos repentinos na amostra. Os modelos de linguagem podem produzir texto de forma barata e em grande escala.

Ainda não existem agentes que acedam aos sites das agências por conta própria.

Em 14 dos 84 casos, foram aplicadas taxas ou bloqueios de IP

Os investigadores começaram com 2.288 serviços governamentais em doze países, mas selecionaram apenas 84 que passaram três testes em simultâneo.

Para que um caso fosse considerado válido, era necessário apresentar uma explicação plausível para a IA ter reduzido o custo das candidaturas, provas de que a procura tinha realmente mudado e uma declaração explícita das autoridades ou de uma terceira parte credível de que a IA tinha sido a causa.

Os serviços judiciais e jurídicos lideraram a lista com 19 casos, seguidos pelas queixas regulamentares com 10 e pela assistência social e segurança social com 9. Em 58 dos 84 casos, um funcionário do governo apontou o dedo diretamente à IA.

Com base numa matriz de 13 factores, os investigadores verificaram que o risco mais acentuado a curto prazo reside nos serviços que geram lucro apenas quando uma reclamação é bem-sucedida e nos quais a complexidade burocrática tem historicamente limitado a procura, tais como declarações de rendimentos, pequenas causas e recursos de avaliação de imóveis. O estudo, no entanto, sublinha as suas limitações.

Oitenta e quatro casos não comprovam causalidade nem que os serviços em geral sejam afetados. É uma prova de existência, não uma mensuração.

Os governos podem reduzir a procura com taxas, limites de preços ou requisitos de atendimento presencial. Ou podem aumentar a capacidade com mais funcionários, inteligência artificial própria ou um processo de admissão reformulado.

Em 14 dos 84 casos, as agências recorreram a estratégias de obstrução, restabelecendo taxas ou bloqueando faixas de IP. A Austrália ponderou a possibilidade de reintroduzir taxas para os pedidos de acesso à informação.

Mas o problema, alerta o artigo, é que estas correcções afectam desproporcionalmente os candidatos mais pobres e com menos conhecimentos digitais, fechando a mesma porta que a IA estava a abrir.

O Banco de Inglaterra alertou que os sistemas autónomos de inteligência artificial podem representar uma ameaça à estabilidade financeira, sendo que os primeiros agentes já apresentaram problemas em situações reais.