AI 에이전트가 정부 서비스에 더 길고 빈번한 신청서를 폭격

11개 관할 구역에서 84건의 '에이전트 폭격' 사례를 문서화한 연구는 이러한 급증을 저렴한 AI 생성 텍스트와 연결합니다.

87%의 급증이 하나의 기능에서 기인

영국의 주택 중재인(ombudsman)에 접수된 불만은 ChatGPT 도입 이후 2배 이상 증가하여, 2022년 2,600건에서 2025년에는 7,000건을 약간 넘었습니다.

은행 및 대출 기관에 대한 불만을 관리하는 미국 소비자금융보호국(CFPB)은 같은 기간 동안 5배 더 많은 불만을 접수했습니다.

브라질 사법부 및 독일 의회에 제출된 청원도 유사한 방식으로 증가했습니다.

Chris Schmitz가 Cooperative AI Foundation의 Lewis Hammond와 GovAI의 Alan Chan과 공동 저술한 논문은 10월 12-14일 AAAI Conference on AI, Ethics, and Society에서 다음 달 발표될 예정입니다.

또한 개별 신청 건수가 빠르게 증가하고 있으며, 이는 연구자들이 가장 강조하는 부분입니다.

정량적 폭격(더 많은 요청)과 정성적 폭격(단일 요청의 길이와 복잡성 증가)은 상호 배타적이지 않습니다. 84건 중 50건은 정량적 폭격을, 76건은 정성적 폭격을, 42건은 두 가지를 모두 보여줍니다.

한 독일 사회 법원에 제출된 신청서는 4,000페이지를 넘었습니다.

일반적으로 폭격을 방지하기 위해 일일 제출 건수가 제한됩니다. 하지만 한 사람이 거대한 문서를 하나 제출할 때는 이러한 제한이 도움이 되지 않습니다.

동일한 기능이 샘플 내 급증의 87%를 설명합니다. 언어 모델은 저렴하고 대량으로 텍스트를 생성할 수 있습니다.

아직 기관 웹사이트에 직접 접속하는 에이전트는 없습니다.

14의 84 사례에서 수수료 또는 IP 차단이 발생

연구자들은 12개국에 걸쳐 2,288개 정부 서비스를 초기 대상으로 삼았으나, 동시에 세 가지 테스트를 통과한 84개만 최종적으로 선정했습니다.

사건은 AI가 신청 비용을 줄일 수 있는 타당한 방법, 수요가 실제로 이동했음을 보여주는 증거, 그리고 AI가 원인임을 공식 관계자나 신뢰할 수 있는 제3자가 명시적으로 언급한 내용을 필요로 했습니다.

사법 및 법률 서비스가 19건으로 1위를 차지했으며, 그 다음으로 규제 관련 불만이 10건, 복지와 사회보장이 9건이었습니다. 84건 중 58건에서 정부 관리가 직접 AI를 지목했습니다.

13가지 요인의 행렬을 바탕으로 연구자들은 가장 심각한 단기적 위험이 청구 성공 시 보상이 이루어지고 복잡한 서류 작업이 오랫동안 수요를 억제해 온 서비스(예: 세금 신고, 소액 청구, 재산 가치 항소)에 있음을 확인했습니다. 논문은 한계를 신중하게 다루고 있습니다.

84건의 사례는 인과관계를 증명하거나 전반적인 서비스에 영향을 미쳤다는 것을 의미하지 않습니다. 이는 존재 증명이자 측정이 아닙니다.

정부는 수수료, 속도 제한 또는 대면 요구사항을 통해 수요를 억제할 수 있습니다. 또는 인력 추가, 자체 AI 도입, 또는 접수 절차 재설계를 통해 수용 능력을 늘릴 수 있습니다.

84건 중 14건에서 기관들은 마찰을 유발하기 위해 수수료를 재도입하거나 IP 범위를 차단했습니다. 오스트레일리아는 정보자유법(FOI) 요청에 대해 수수료를 다시 부과할 계획을 제시했습니다.

하지만 논문은 이러한 해결책이 가난하고 디지털 문해력이 낮은 신청자에게 불균형적으로 영향을 미쳐, AI가 열어놓은 문을 다시 닫을 수 있다고 경고합니다.

영국 은행은 자율 인공지능 시스템이 금융 안정성에 위협이 될 수 있다고 경고했으며, 초기 소비자 에이전트들이 이미 실제 환경에서 잘못 작동한 사례가 있습니다.