Судья приказывает налоговой службе Великобритании HMRC раскрыть роль ИИ в критических решениях

Судья добивается от налоговой службы Великобритании HM Revenue & Customs (HMRC) прозрачности в отношении использования ИИ в процессах принятия решений. 

Судья приказал HMRC раскрыть информацию о том, как принимаются решения по заявкам на налоговые кредиты на исследования и разработки (R&D).

HMRC должно раскрыть, использовался ли ИИ в решениях по налоговым кредитам на R&D

HM Revenue & Customs (HMRC) приказано раскрыть, использовало ли оно искусственный интеллект для принятия решений об отказе в выплатах налоговых кредитов. Трибунал первой инстанции постановил, что налоговый орган должен подтвердить, использовался ли ИИ и когда, при принятии решений по заявкам на налоговые кредиты на исследования и разработки (R&D).

Приказ был вынесен после того, как налоговый эксперт Том Элсбери, подозревавший, что ИИ был задействован в процессе принятия решений, подал запрос в рамках Закона о свободе информации (FOI) в декабре 2023 года.

Основываясь на языке и структуре писем об отказе HMRC, Элсбери и несколько других налоговых консультантов пришли к выводу, что для обработки заявлений используются инструменты ИИ. Его запрос FOI требовал подтверждения от HMRC, но ведомство отказало, аргументируя это тем, что раскрытие такой информации может помочь лицам, пытающимся подать мошеннические заявления на налоговые льготы.

Информационный комиссар (ICO) поддержал отказ HMRC в прошлом году, встав на сторону ведомства. Однако трибунал на этой неделе отменил как решения HMRC, так и решения ICO, заявив, что «баланс общественного интереса заключается в раскрытии запрошенной информации».

У HMRC есть до сентября 18 для выполнения приказа.

Трибуал ссылается на общественный интерес и доверие

В постановлении отмечалось, что отказ HMRC подтвердить или опровергнуть использование ИИ при оценке заявлений R&D «укрепляет убеждение», что такие инструменты могут использоваться «возможно, в несанкционированном порядке — таким образом подрывая доверие и уверенность налогоплательщиков в отношении обращения HMRC с заявлениями».

Судья Александра Маркс, председательствующая по делу, описала аргументы Элсбери как «убедительные» и пришла к выводу, что общественность имеет право знать, играет ли ИИ роль в налоговых решениях. Элсбери представлял себя сам в ходе разбирательства.

ICO отреагировал на постановление, заявив: «Мы получили и уважаем решение Трибунала по этому вопросу. Проведя анализ деталей, мы не будем подавать апелляцию».

HMRC заявило, что оно «внимательно рассматривает решение» и «рассматривает свои следующие шаги».

Налоговые кредиты на R&D в последние годы подвергались повышенному вниманию со стороны HMRC после обнаружения высоких уровней мошенничества и ошибок. Хотя HMRC стремилась пресечь злоупотребления системой, несколько профессиональных ассоциаций и налоговых консультантов критиковали ее подход как чрезмерно агрессивный. Они предупреждали, что это привело к отклонению законных заявлений и отказу некоторых компаний от подачи заявок вообще.

Элсбери, основатель платформы программного обеспечения для налоговых льгот на R&D Novel, сообщил новостным изданиям, что важно для налогоплательщиков знать, какие меры защиты предусмотрены и были ли выписаны штрафы в случаях, когда на решение повлиял инструмент генеративного ИИ.

Элсбери также выразил конкретные опасения по поводу потенциального использования публичных больших языковых моделей, таких как ChatGPT, сотрудниками HMRC при оценке заявлений. Если такие инструменты использовались, сказал он, существует риск, что коммерчески конфиденциальная информация, которая должна оставаться секретной, может быть раскрыта в публичном пространстве.

Эти риски могут быть особенно серьезными в отраслях, связанных с национальной обороной, предупредил он. Заявления на налоговые льготы на R&D могут включать детали инновационных оборонительных или наступательных систем вооружения, разработанных для Министерства обороны Великобритании. Раскрытие такой информации через публичные системы ИИ «может иметь катастрофические последствия», предостерег Элсбери.