KI-Agenten überfluten Regierungsbehörden mit längeren und häufigeren Eingaben

Eine Studie, die 84 Fälle von „agentischer Flutung“ in 11 Gerichtsbarkeiten dokumentiert, bringt den Anstieg mit billigem, KI-generiertem Text in Verbindung.

87 % der Spannungsspitzen lassen sich auf eine einzige Fähigkeit trac

Die Anzahl der Beschwerden beim britischen Wohnungsombudsmann hat sich nach der Einführung von ChatGPT mehr als verdoppelt, von 2.600 im Jahr 2022 auf etwas über 7.000 im Jahr 2025.

Das US Consumer Financial Protection Bureau (CFPB), das für die Bearbeitung von Beschwerden über Banken und Kreditgeber zuständig ist, verzeichnete im gleichen Zeitraum fünfmal so viele Beschwerden.

In ähnlicher Weise wurden Petitionen an die brasilianische Justiz und den deutschen Bundestag eingereicht.

Das Papier, das von Chris Schmitz zusammen mit Lewis Hammond von der Cooperative AI Foundation und Alan Chan von GovAI verfasst wurde, wird nächsten Monat auf der AAAI-Konferenz zu KI, Ethik und Gesellschaft vom 12. bis 14. Oktober vorgestellt.

Auch die Zahl der Einzelklagen wächst rasant, und genau das ist es, was die Forscher am meisten betonen.

Quantitative Überflutung (mehr Anfragen) und qualitative Überflutung (eine einzelne Anfrage wird länger und komplexer) schließen sich nicht gegenseitig aus. Von den 84 Fällen weisen 50 eine quantitative Überflutung, 76 eine qualitative Überflutung und 42 beides auf.

Eine bei einem deutschen Sozialgericht eingereichte Klageschrift umfasste mehr als 4.000 Seiten.

Normalerweise ist die Anzahl der täglichen Einreichungen begrenzt, um eine Flut von Dokumenten zu verhindern. Das hilft jedoch nicht, wenn eine Person ein sehr umfangreiches Dokument einreicht.

Dieselbe Fähigkeit erklärt 87 % der Spitzenwerte in der Stichprobe. Sprachmodelle können Texte kostengünstig und in großem Umfang erzeugen.

Es gibt noch keine Agenten, die selbstständig Agentur-Websites besuchen.

In 14 der 84 Fälle wurden Gebühren erhoben oder IP-Sperren verhängt

Die Forscher begannen mit 2.288 staatlichen Diensten in zwölf Ländern, behielten aber nur 84 bei, die drei Tests gleichzeitig bestanden.

Für einen solchen Fall waren eine plausible Erklärung erforderlich, wie KI die Kosten für die Antragsstellung gesenkt haben könnte, Beweise dafür, dass sich die Nachfrage tatsächlich verändert hat, und eine ausdrückliche Aussage von Beamten oder einer glaubwürdigen dritten Partei, dass KI die Ursache dafür war.

Justiz- und Rechtsdienstleistungen führten die Liste mit 19 Fällen an, gefolgt von Beschwerden über Regulierungsbehörden mit 10 und Wohlfahrt und sozialer Sicherheit mit 9. In 58 der 84 Fälle beschuldigte ein Regierungsbeamter KI direkt.

Anhand einer Matrix aus 13 Faktoren stellten die Forscher fest, dass das größte kurzfristige Risiko bei Dienstleistungen besteht, die sich erst bei erfolgreicher Geltendmachung eines Anspruchs auszahlen und bei denen komplexer Papierkram die Nachfrage lange Zeit gebremst hat, wie beispielsweise Steuererklärungen, Mahnverfahren und Einsprüche gegen die Immobilienbewertung. Die Studie weist vorsichtig auf ihre Grenzen hin.

Die 84 Fälle beweisen weder einen Kausalzusammenhang noch dass Dienstleistungen im Allgemeinen beeinträchtigt sind. Es handelt sich um einen Existenznachweis, nicht um eine Messung.

Regierungen können die Nachfrage durch Gebühren, Tarifbegrenzungen oder die Pflicht zur persönlichen Anwesenheit dämpfen. Alternativ können sie die Kapazitäten durch mehr Personal, eigene KI oder ein überarbeitetes Aufnahmeverfahren erhöhen.

In 14 der 84 Fälle griffen die Behörden zu Druckmitteln, indem sie Gebühren wieder einführten oder IP-Adressbereiche sperrten. Australien hat die Wiedereinführung von Gebühren für Anfragen nach dem Informationsfreiheitsgesetz erwogen.

Der Haken an der Sache, warnt die Studie, ist jedoch, dass diese Korrekturen ärmere und weniger digital kompetente Bewerber überproportional stark treffen und damit genau die Tür wieder schließen, die die KI gerade geöffnet hatte.

Die Bank von England hat davor gewarnt, dass autonome Systeme der künstlichen Intelligenz eine Bedrohung für die Finanzstabilität darstellen könnten, und frühe Verbraucheragenten haben in der Praxis bereits Fehler gemacht.