AIエージェントが政府サービスに長く、頻繁な申請で溢れさせる

11の管轄区域で84件の「エージェント・フロoding（アジェンティック・フロoding）」のケースを文書化した研究は、この急増が安価なAI生成テキストに起因していることを結びつけている。

急増の87%が1つの機能に起因

イギリスの住宅オームズマンへの苦情は、ChatGPTの登場後、2022年の2,600件から2025年には7,000件超へと2倍以上に増えた。

銀行や貸付業者に関する苦情を管理する米国消費者金融保護局（CFPB）は、同じ期間に5倍の苦情を受けた。

ブラジルの司法およびドイツの議会への請願も同様の方法で増加した。

Chris SchmitzがCooperative AI FoundationのLewis HammondとGovAIのAlan Chanと共著した論文は、10月12日から14日に開催されるAAAI AI、倫理、および社会会議で発表される予定だ。

また、個別の申請件数が急速に増加しており、これが研究者たちが最も強調している点である。

定量的なフロoding（より多くのリクエスト）と定性的なフロoding（1つのリクエストがより長くなり、より複雑になる）は排他的ではない。84件のケースのうち、50件が定量的なフロodingを示し、76件が定性的なフロodingを示し、42件が両方を示している。

ドイツの社会裁判所に提出された1件の申請は4,000ページを超えた。

通常、フロodingに対抗するために日次提出件数が制限されている。しかし、1人が1つの巨大な文書を出した場合には、これは役に立たない。

サンプル内の急増の87%を説明する同じ機能がある。言語モデルは、テキストを安価かつ大規模に生成できる。

まだ、エージェントが自発的に機関のウェブサイトにアクセスするものはいない。

14の84件のケースで手数料またはIPブロックが発生

研究者たちは、12か国の2,288の政府サービスから開始したが、同時に3つのテストを通過した84件のみを選別した。

ケースには、AIが申請コストを削減する可能性のある妥当な方法、需要が実際にシフトした証拠、そしてAIが原因であると公式または信頼できる第三者が明確に述べたことが必要だった。

司法および法務サービスが19件で首位となり、その次に規制苦情が10件、福祉および社会保障が9件だった。84件のケースのうち58件で、政府関係者がAIを直接指弾した。

13の要因のマトリックスに基づき、研究者たちは、請求が成功した際に報酬があり、複雑な書類作業が長年にわたり需要を抑えてきたサービス（税務申告、少額訴訟、不動産価値の控訴など）における短期的なリスクが最も顕著であると判断した。論文は自身の限界について慎重である。

84件のケースは因果関係やサービス全般への影響を証明するものではない。これは存在の証明であり、測定ではない。

政府は、手数料、レート制限、または対面要件によって需要を抑制できる。または、スタッフの追加、独自のAI、または再設計された受付プロセスによって容量を追加できる。

84件のケースのうち14件で、機関は摩擦を導入し、手数料の再開またはIP範囲のブロックを行った。オーストラリアは、情報自由請求に対する手数料の復活を検討している。

しかし、論文は警告する。これらの修正は、貧困層やデジタルリテラシーの低い申請者に不均衡な影響を与え、AIが開けた扉を再び閉じてしまう可能性がある。

イングランド銀行は、自律型人工知能システムが金融安定性に対する脅威となる可能性があると警告しており、初期の消費者エージェントはすでに野外で誤作動を起こしている。