판사, 영국 세무당국 HMRC에 중요한 판결에서 AI 역할 공개 명령

판사는 영국 세무당국인 HM Revenue & Customs (HMRC)가 의사결정 과정에서 AI 사용에 대해 투명해지도록 압박하고 있다. 

판사는 HRMC가 연구 개발(R&D) 세금 크레딜 신청에 대한 결정을 내리는 방법에 대한 정보를 공개하도록 명령했다.

HMRC, R&D 세액 공제 결정에 AI 사용 여부 공개

영국 세관(HM Revenue & Customs)은 인공지능을 사용하여 세금 크레딜 청구 거부를 결정했는지 여부를 공개하라는 명령을 받았다. 제1심 법원은 세무 당국이 연구 개발(R&D) 세금 크레딜 신청에 대한 결정에 AI가 언제 관여했는지 확인해야 한다고 판결했다.

이 명령은 AI가 의사결정 과정에 투입되었음을 의심한 세무 전문가 톰 엘즈버리가 2023년 12월 정보공개청원(FOI)을 제기한 후 내려졌다.

HMRC의 거부 통지서 언어와 구조를 바탕으로 엘즈버리와 다른 여러 세무 자문가들은 AI 도구가 청구 처리에 사용되고 있다고 결론 내렸다. 그의 FOI 요청은 HMRC의 확인을 구했지만, 부서는 그러한 정보를 공개하는 것이 사기성 세액 공제 청구를 시도하는 개인들에게 도움이 될 수 있다는 이유로 이를 거부했다.

정보 위원회(ICO)는 지난해 HMRC의 거부를 지지하며 부서의 입장을 옹호했다. 그러나 법원은 이번 주 HMRC와 ICO의 결정을 모두 뒤집으며 “정보 공개 요청에 대한 공공 이익의 균형이 공개에 있다”고 밝혔다.

HMRC는 18까지 이 명령을 이행해야 한다.

재판소는 공공의 이익과 신뢰를 인용

판결은 HMRC가 R&D 청구 평가에서 AI 사용 여부를 확인하거나 부인하는 것을 거부한 것이 “이러한 도구가 사용되고 있을 수 있다는 믿음”을 강화한다고 지적했다. “아마도 승인되지 않은 방식으로 — 따라서 납세자들의 HMRC의 청구 처리에 대한 신뢰와 확신을 훼손하는” 방식이다.

이 사건을 심판한 알렉산드라 마크스 판사는 엘즈버리의 주장을 “설득력 있다”고 묘사하며, 공공이 세금 의사결정에 AI가 어떤 역할을 하는지 알 권리가 있다고 판단했다. 엘즈버리는 소송에서 자신을 대리했다.

ICO는 이 판결에 대해 “우리는 재판소의 이 사건에 대한 결정을 받았으며 존중한다. 세부 사항을 검토한 결과, 우리는 항소하지 않을 것이다.”라고 밝혔다.

HMRC는 “결정을 신중히 검토 중이며” “다음 단계를 고려하고 있다”고 말했다.

최근 몇 년간 HMRC는 높은 수준의 사기와 오류가 발견된 후 R&D 세액 공제에 대한 심사를 강화해 왔다. HMRC는 시스템 남용을 단속하려 노력해 왔지만, 여러 전문 기관과 세무 자문가들은 HMRC의 접근 방식이 지나치게 공격적이라고 비판했다. 그들은 이것이 합법적인 청구의 거절과 일부 기업의 신청 기피로 이어졌다고 경고했다.

R&D 세액 공제 소프트웨어 플랫폼 Novel의 창립자인 엘즈버리는 뉴스 매체들에게 납세자들이 어떤 안전 장치가 마련되어 있는지, 그리고 생성형 AI 도구가 결정에 영향을 미친 사례에서 벌금이 부과되었는지 아는 것이 중요하다고 말했다.

엘즈버리는 또한 HMRC 직원들이 청구를 평가할 때 챗GPT와 같은 공개 대형 언어 모델을 사용할 가능성에 대해 구체적인 우려를 제기했다. 만약 그러한 도구가 사용된다면, 그는 상거래상 기밀로 유지될 것으로 예상되는 정보가 공개 영역에 노출될 위험이 있다고 말했다.

그는 이러한 위험이 국가 방위와 관련된 산업에서 특히 심각할 수 있다고 경고했다. R&D 세액 공제 청구에는 영국 국방부를 위해 개발된 혁신적인 방위 또는 공격용 무기 시스템의 세부 사항이 포함될 수 있다. 엘즈버리는 공공 AI 시스템을 통한 이러한 정보의 공개가 “재앙적인 결과를 초래할 가능성”이 있다고 경고했다.