ИИ-агенты заваливают государственные службы более длинными и частыми заявлениями

Исследование, документирующее 84 случая «агентного затопления» в 11 юрисдикциях, связывает всплеск с дешевым текстом, сгенерированным ИИ.

87% всплесков связаны с одной способностью

Жалобы в омбудсмен по жилищным вопросам Великобритании удвоились после появления ChatGPT, увеличившись с 2 600 в 2022 году до чуть более 7 000 в 2025 году.

Бюро по защите прав потребителей США (CFPB), которое управляет жалобами на банки и кредиторов, за тот же период получило в пять раз больше жалоб.

Петиции в бразильскую судебную систему и немецкий парламент росли аналогичным образом.

Статья, соавторами которой являются Крис Шмитц из Кооперативного фонда ИИ (Cooperative AI Foundation) и Алан Чан из GovAI, будет представлена в следующем месяце на конференции AAAI по ИИ, этике и обществу 12-14 октября.

Кроме того, количество индивидуальных заявлений быстро растет, и именно на этом исследователи делают особый акцент.

Количественное затопление (больше запросов) и качественное затопление (один запрос становится длиннее и сложнее) не являются взаимоисключающими. Из 84 случаев 50 демонстрируют количественное затопление, 76 — качественное, а 42 — оба вида.

Одно заявление, поданное в немецкий социальный суд, превысило 4 000 страниц.

Обычно ежедневные подачи ограничиваются для противодействия затоплению. Это не помогает, когда один человек представляет один огромный документ.

Одна и та же способность объясняет 87% всплесков в выборке. Языковые модели могут производить текст дешево и в больших масштабах.

Пока нет агентов, которые самостоятельно посещают сайты агентств.

14 из 84 случаев привели к взиманию комиссий или блокировке IP

Исследователи начали с 2 288 государственных служб в двенадцати странах, но сохранили только 84, которые прошли три теста одновременно.

Для случая требовался правдоподобный способ, которым ИИ мог снизить стоимость подачи заявки, доказательства того, что спрос действительно сместился, и явное заявление от чиновников или надежной третьей стороны о том, что ИИ был причиной.

Судебные и юридические службы возглавили список с 19 случаями, за ними последовали регуляторные жалобы (10) и пособия по социальному обеспечению (9). В 58 из 84 случаев государственный чиновник прямо указал на ИИ.

Основываясь на матрице из 13 факторов, исследователи установили, что наибольшая краткосрочная опасность заключается в услугах, которые окупаются при успешном заявлении и где сложная бюрократия долгое время сдерживала спрос, таких как налоговые декларации, мелкие иски и апелляции по оценке недвижимости. Статья осторожна в отношении своих ограничений.

84 случая не доказывают причинно-следственную связь или то, что услуги в целом затронуты. Это доказательство существования, а не измерение.

Правительства могут снизить спрос с помощью комиссий, ограничений скорости или требований личного присутствия. Или добавить мощности с помощью большего количества сотрудников, собственного ИИ или переработанного процесса приема.

В 14 из 84 случаев агентства прибегли к трению, восстановив комиссии или заблокировав диапазоны IP. Австралия обсуждает возвращение комиссий за запросы по закону о свободе информации.

Но подвох, предупреждает статья, заключается в том, что эти исправления непропорционально сильно затрагивают бедных и менее цифрово грамотных заявителей, закрывая ту же дверь, которую ИИ открывал.

Банк Англии предупредил, что автономные системы искусственного интеллекта могут представлять угрозу для финансовой стабильности, а первые потребительские агенты уже совершали ошибки в реальной среде.