裁判官、英国の税務当局HMRCに重要な判断におけるAIの役割の公開を命じる

裁判官は、英国の税務当局であるHM Revenue & Customs（HMRC）に対し、意思決定プロセスにおけるAIの使用について透明性を保つよう迫っています。 

裁判官は、HMRCに研究開発（R&D）税額控除の申請に関する決定方法を明らかにするよう命じました。

HMRC、R&D税額控除の決定にAIを使用したかどうかを公開

HM Revenue & Customs（HMRC）は、税額控除の請求を却下する決定に 人工知能を使用したかどうかを明らかにするよう命じられました。第一審裁判所は、税務当局が研究開発（R&D）税額控除の申請に関する決定にAIが関与したかどうか、およびいつ関与したかを確認しなければならないと判決しました。

この命令は、AIが意思決定プロセスに導入されたと疑いを抱いていた税務専門家トム・エルズベリー氏が、2023年12月に情報公開法（FOI）請求を行った後に下されました。

HMRCの却下通知の言語と構造に基づき、エルズベリー氏および他の複数の税務アドバイザーは、AIツールが請求の処理に使用されていると結論付けました。彼のFOI請求はHMRCからの確認を求めていましたが、同省は、そのような情報を開示することが不正な税額控除請求を試みる個人を助ける可能性があるとして拒否しました。

情報コミッショナーズ・オフィス（ICO）は昨年、HMRCの拒否を支持し、省庁の立場に賛同しました。しかし、裁判所は 今週 HMRCおよびICOの両方の決定を覆し、「公共の利益のバランスは、要求された情報の開示にある」と述べました。

HMRCは9月 18 までに命令に従う必要があります。

裁判所、公共の利益と信頼を引用

判決は、HMRCがR&D請求の評価におけるAIの使用を確認または否定することを拒否したことが、「おそらく認可されていない方法でそのようなツールが使用されている」という信念を「強化し」、それによって納税者のHMRCによる請求処理への信頼と自信を損なうものであると指摘しました。

事件を審理したアレクサンドラ・マークス裁判官は、エルズベリー氏の主張を「説得力がある」と表現し、一般市民には税務決定においてAIが役割を果たしているかどうかを知る権利があると判断しました。エルズベリー氏は訴訟で自らを代表しました。

ICOは判決に対し、「私たちはこの件に関する裁判所の決定を受け入れ、尊重しています。詳細をレビューした結果、上訴する予定はありません」と述べました。

HMRCは、「決定を慎重にレビューしており」、「次のステップを検討している」と述べました。

R&D税額控除は、近年、高いレベルの詐欺と誤りの発見によりHMRCからの厳しい審査の対象となっています。HMRCはシステムの乱用を取り締まろうとしていますが、いくつかの専門団体や税務アドバイザーは、そのアプローチが過度に攻撃的であると批判しています。彼らは、これが正当な請求の却下や、一部の企業が申請を完全に回避することにつながっていると警告しました。

R&D税額控除ソフトウェアプラットフォーム「Novel」の創設者であるエルズベリー氏は、ニュースメディアに対し、どのような安全対策が講じられているか、および生成AIツールが決定に影響を与えた場合に罰則が科されたかどうかについて、納税者が知ることは重要だと述べました。

エルズベリー氏はまた、HMRCの職員が請求を評価する際に、ChatGPTなどのパブリックな大規模言語モデルが使用される可能性について具体的な懸念を提起しました。そのようなツールが使用された場合、機密性が保たれることが期待される商業的に機微な情報が公の場に晒されるリスクがあると彼は述べました。

これらのリスクは、国防に関連する業界において特に深刻になる可能性があると彼は警告しました。R&D税額控除の請求には、英国国防省のために開発された革新的な防御的または攻撃的な兵器システムの詳細が含まれる場合があります。そのような情報がパブリックなAIシステムを通じて開示されることは、「壊滅的な結果を引き起こす可能性がある」と、エルズベリー氏は注意を促しました。