人工智能代理向政府服务部门提交大量篇幅更长、频率更高的文件

一项研究记录了 11 个司法管辖区内 84 起“代理泛滥”事件，并将这种激增与廉价的 AI 生成文本联系起来。.

87% 的激增 trac源于一项能力

ChatGPT 上线后，英国住房申诉专员收到的投诉数量增加了一倍多，从 2022 年的 2600 起增加到 2025 年的 7000 多起。.

负责处理银行和贷款机构投诉的美国消费者金融保护局 (CFPB) 在同一时间段收到的投诉数量是之前的五倍。.

向巴西司法机构和德国议会提交的请愿书也以类似的方式不断增加。.

该 论文由 Chris Schmitz 与 Cooperative AI Foundation 的 Lewis Hammond 和 GovAI 的 Alan Chan 共同撰写，将于下个月在 AAAI 人工智能、伦理与社会大会（10 月 12 日至 14 日）上发表。

此外，个人申报的数量也在快速增长，这也是研究人员最强调的一点。.

数量上的泛滥（请求数量增加）和质量上的泛滥（单个请求变得更长更复杂）并非互斥。在84个案例中，50个案例表现为数量上的泛滥，76个案例表现为质量上的泛滥，42个案例同时表现为数量和质量上的泛滥。.

提交给德国社会法院的一份文件竟然超过 4000 页。.

通常情况下，为了防止提交过多文件，每日提交数量是有限制的。但如果一个人提交一份篇幅巨大的文件，这种限制就无济于事了。.

同样的能力可以解释样本中 87% 的文本激增现象。语言模型能够以低成本大规模生成文本。.

目前还没有经纪人会主动访问经纪公司网站。.

84起案件中有14起导致罚款或IP封禁。

研究人员最初选取了十二个国家的 2288 个政府服务机构，但最终只保留了 84 个同时通过三项测试的机构。.

一个案例需要有合理的理由证明人工智能降低了申请成本，有证据表明需求确实发生了变化，并且有官方或可信的第三方明确声明人工智能是造成这种变化的原因。.

司法和法律服务部门以 19 起案件位居榜首，其次是监管投诉部门（10 起）和福利和社会保障部门（9 起）。在 84 起案件中，有 58 起是政府官员直接指责人工智能。.

基于包含13个因素的矩阵，研究人员确定，近期风险最大的服务领域是那些索赔成功后才能获得收益，且繁琐的文书工作长期以来抑制了需求的服务，例如报税、小额索赔和房产估值上诉。该论文对其局限性持谨慎态度。.

84个案例并不能证明因果关系，也不能证明服务总体上受到影响。它只能证明存在这种现象，而不是衡量这种现象的指标。.

政府可以通过收费、限价或要求亲自办理来抑制需求。或者，也可以通过增加员工、开发人工智能或重新设计接待流程来提高接待能力。.

在84起案例中，有14起案件中，相关机构采取了对抗措施，例如恢复收费或屏蔽IP地址段。澳大利亚曾提出恢复对信息自由申请收取费用。.

但该报告警告说，问题在于这些补救措施对较贫困和数字素养较低的申请者造成了不成比例的影响，关闭了人工智能正在打开的同一扇门。.

英国央行警告称，自主人工智能系统可能对金融稳定构成威胁，早期消费者代理已经在实际应用中出现过问题。