Искусственный интеллект заваливает государственные службы более длинными и частыми заявками

Исследование, в котором задокументировано 84 случая «агентного наводнения» в 11 юрисдикциях, связывает этот всплеск с дешевым текстом, сгенерированным искусственным интеллектом.

87% всплесков tracс одной из возможностей

После появления ChatGPT количество жалоб в жилищный омбудсмен Великобритании увеличилось более чем вдвое: с 2600 в 2022 году до чуть более 7000 в 2025 году.

Бюро по защите прав потребителей финансовых услуг США (CFPB), которое рассматривает жалобы на банки и кредитные учреждения, за тот же период получило в пять раз больше жалоб.

Аналогичным образом, количество петиций в бразильскую судебную систему и немецкий парламент увеличилось.

Статья , написанная в соавторстве Крисом Шмитцем, Льюисом Хаммондом из Cooperative AI Foundation и Аланом Чаном из GovAI, будет представлена ​​в следующем месяце на конференции AAAI по искусственному интеллекту, этике и обществу, которая пройдет с 12 по 14 октября .

Кроме того, количество индивидуальных заявок быстро растет, и именно это больше всего беспокоит исследователей.

Количественное затопление (увеличение количества запросов) и качественное затопление (удлинение и усложнение одного запроса) не являются взаимоисключающими явлениями. Из 84 случаев 50 демонстрируют количественное затопление, 76 — качественное затопление, а 42 — и то, и другое.

Один из документов, поданных в немецкий социальный суд, насчитывал более 4000 страниц.

Обычно количество ежедневных заявок ограничено, чтобы предотвратить перегрузку системой. Но это не помогает, когда один человек отправляет один огромный документ.

Та же способность объясняет 87% всплесков в выборке. Языковые модели могут создавать текст дешево и в больших масштабах.

Пока еще нет агентов, которые самостоятельно заходят на сайты агентств.

В 14 из 84 случаев были начислены сборы или заблокированы IP-адреса

Исследователи начали с 2288 государственных служб в двенадцати странах, но отобрали только 84, которые прошли одновременно три теста.

Для обоснования своего иска требовалось убедительное объяснение того, как ИИ мог снизить стоимость подачи заявок, доказательства фактического изменения спроса, а также четкое заявление официальных лиц или авторитетной третьей стороны о том, что причиной стало именно ИИ.

Список возглавили судебные и юридические службы с 19 жалобами, за ними следуют жалобы в регулирующие органы (10 жалоб) и социальное обеспечение (9 жалоб). В 58 из 84 случаев правительственный чиновник прямо указал на ИИ.

На основе матрицы из 13 факторов исследователи установили, что наиболее существенный краткосрочный риск существует в сфере услуг, которые приносят прибыль в случае успешного рассмотрения иска и где сложная документация долгое время сдерживала спрос, таких как налоговые декларации, иски в суды по мелким делам и апелляции по оценке стоимости недвижимости. В статье с осторожностью оцениваются ее ограничения.

Восемьдесят четыре случая не доказывают причинно-следственную связь или то, что услуги в целом затронуты. Это доказательство существования, а не измерение.

Правительства могут сдерживать спрос с помощью сборов, ограничений тарифов или требований личного присутствия. Или же увеличивать пропускную способность за счет найма персонала, использования собственного искусственного интеллекта или перепроектирования системы приема.

В 14 из 84 случаев ведомства прибегли к давлению, восстановив плату за запросы или заблокировав диапазоны IP-адресов. В Австралии обсуждается возможность возвращения платы за запросы в соответствии с Законом о свободе информации.

Однако, как предупреждает статья, загвоздка в том, что эти исправления непропорционально сильно затрагивают более бедных и менее грамотных в цифровых технологиях соискателей, закрывая ту же дверь, которую открывал искусственный интеллект.

Банк Англии предупредил, что автономные системы искусственного интеллекта могут представлять угрозу финансовой стабильности, а первые примеры работы потребительских агентов уже показали себя с худшей стороны в реальных условиях.