KI-Agenten fluten staatliche Dienste mit längeren, häufigeren Einreichungen

Eine Studie, die 84 Fälle von „agentic flooding“ in 11 Gerichtsbarkeiten dokumentiert, verbindet den Anstieg mit billigem, KI-generiertem Text.

87% der Anstiege lassen sich auf eine Fähigkeit zurückführen

Die Beschwerden an den britischen Wohnungsombudsmann haben sich nach der Einführung von ChatGPT mehr als verdoppelt, von 2.600 im Jahr 2022 auf etwas mehr als 7.000 im Jahr 2025.

Die US Consumer Financial Protection Bureau (CFPB), die Beschwerden über Banken und Kreditgeber verwaltet, hatte im selben Zeitraum fünfmal so viele Beschwerden.

Petitionen an die brasilianische Justiz und das deutsche Parlament stiegen auf ähnliche Weise an.

Die Arbeit, die von Chris Schmitz gemeinsam mit Lewis Hammond von der Cooperative AI Foundation und Alan Chan von GovAI verfasst wurde, wird nächsten Monat auf der AAAI Conference on AI, Ethics, and Society vom 12. bis 14. Oktober vorgestellt.

Außerdem wächst die Anzahl der einzelnen Einreichungen schnell, und darauf weisen die Forscher am meisten hin.

Quantitatives Flooding, mehr Anfragen, und qualitatives Flooding, eine einzelne Anfrage, die länger und komplexer wird, schließen sich nicht gegenseitig aus. Von den 84 Fällen zeigen 50 quantitatives Flooding, 76 qualitatives Flooding und 42 beides.

Eine bei einem deutschen Sozialgericht eingereichte Petition umfasste mehr als 4.000 Seiten.

Normalerweise sind tägliche Einreichungen begrenzt, um Flooding zu bekämpfen. Das hilft nicht, wenn eine Person ein riesiges Dokument vorlegt.

Die gleiche Fähigkeit erklärt 87 % der Anstiege in der Stichprobe. Sprachmodelle können Text billig und in großem Maßstab produzieren.

Es gibt noch keine Agenten, die eigenständig auf Regierungswebseiten gehen.

14 der 84 Fälle zogen Gebühren oder IP-Blöcke nach sich

Die Forscher begannen mit 2.288 staatlichen Diensten in zwölf Ländern, behielten jedoch nur 84, die drei Tests gleichzeitig bestanden.

Ein Fall benötigte einen plausiblen Weg, wie KI die Kosten für die Bewerbung senken konnte, Beweise dafür, dass die Nachfrage tatsächlich verschoben wurde, und eine ausdrückliche Aussage von Beamten oder einer glaubwürdigen dritten Partei, dass KI die Ursache war.

Justiz- und Rechtsdienste krönten die Liste mit 19, gefolgt von regulatorischen Beschwerden mit 10 und Wohlfahrt und sozialer Sicherheit mit 9. In 58 der 84 Fälle wies ein Regierungsbeamter direkt mit dem Finger auf KI.

Basierend auf einer Matrix von 13 Faktoren stellten die Forscher fest, dass das schärfste kurzfristige Risiko in Diensten besteht, die sich auszahlen, wenn ein Antrag erfolgreich ist, und wo komplexe Papierarbeit die Nachfrage lange Zeit niedrig gehalten hat, wie Steuererklärungen, Kleinforderungen und Berufungen gegen Immobilienwerte. Das Papier ist vorsichtig mit seinen Grenzen.

Achtzigvier Fälle beweisen keine Kausalität oder dass Dienste im Allgemeinen betroffen sind. Es ist ein Existenzbeweis, keine Messung.

Regierungen können die Nachfrage mit Gebühren, Ratenbegrenzungen oder persönlichen Anforderungen dämpfen. Oder sie können die Kapazität mit mehr Personal, eigener KI oder einem neu gestalteten Eingangsverfahren erhöhen.

In 14 der 84 Fälle griffen Agenturen nach Reibung, indem sie Gebühren wieder einführten oder IP-Bereiche blockierten. Australien hat angedeutet, Gebühren für Freedom-of-Information-Anfragen wieder einzuführen.

Aber der Haken, warnt das Papier, ist, dass diese Korrekturen ärmere und weniger digital versierte Antragsteller unverhältnismäßig stark treffen und dieselbe Tür schließen, die KI geöffnet hat.

Die Bank of England hat gewarnt, dass autonome KI-Systeme eine Bedrohung für die finanzielle Stabilität darstellen könnten, und frühe Verbraucher-Agenten sind bereits in der Wildnis fehlgeschlagen.