Richter ordnet an, dass UK’s Steuerbehörde HMRC die Rolle der KI bei wichtigen Entscheidungen offenlegt

Ein Richter drängt die britische Steuerbehörde HM Revenue & Customs (HMRC), Transparenz über die KI-Nutzung in ihren Entscheidungsprozessen zu gewährleisten. 

Der Richter ordnete an, dass HRMC Informationen darüber offenlegen muss, wie es über Anträge auf Forschungs- und Entwicklungs-(F&E)-Steuergutschriften entscheidet.

HMRC muss offenlegen, ob es KI bei F&E-Steuerentscheidungen verwendet hat

HM Revenue & Customs wurde angewiesen, offenzulegen, ob es künstliche Intelligenz verwendet hat, um Steueransprüche abzulehnen. Ein Tribunal der ersten Instanz hat entschieden, dass die Steuerbehörde bestätigen muss, ob und wann KI bei der Entscheidung über Forschungs- und Entwicklungs-(F&E)-Steueransprüche beteiligt war.

Die Anordnung erging, nachdem der Steuerprofi Tom Elsbury, der vermutete, dass KI im Entscheidungsprozess eingesetzt wurde, im Dezember 2023 eine Informationsfreiheitsanfrage (FOI) gestellt hatte.

Basierend auf der Sprache und Struktur der Ablehnungsschreiben von HMRC waren Elsbury und mehrere andere Steuerberater zu dem Schluss gekommen, dass KI-Tools bei der Bearbeitung von Ansprüchen verwendet wurden. Seine FOI-Anfrage suchte nach Bestätigung von HMRC, aber die Abteilung verweigerte diese mit der Begründung, dass die Offenlegung solcher Informationen Personen helfen könnte, betrügerische Steuererleichterungsansprüche zu stellen.

Das Information Commissioner’s Office (ICO) hatte letztes Jahr HMRC’s Weigerung bestätigt und sich auf die Position der Abteilung gestützt. Das Tribunal hat diese Woche jedoch sowohl HMRC’s als auch die Entscheidungen des ICO aufgehoben und festgestellt, dass „das Gleichgewicht des öffentlichen Interesses in der Offenlegung der angeforderten Informationen liegt.“

HMRC hat bis zum September 18 Zeit, der Anordnung nachzukommen.

Tribunal zitiert öffentliches Interesse und Vertrauen

Die Entscheidung merkte an, dass HMRC’s Weigerung, die Nutzung von KI bei der Bewertung von F&E-Ansprüchen zu bestätigen oder zu leugnen, „den Glauben verstärkt“, dass solche Tools „vielleicht in unbefugter Weise“ im Einsatz sind „und damit das Vertrauen und das Selbstvertrauen der Steuerzahler in HMRC’s Behandlung von Ansprüchen untergraben.“

Richterin Alexandra Marks, die den Fall leitete, beschrieb Elsbury’s Argumente als „überzeugend“ und stellte fest, dass die Öffentlichkeit ein Recht darauf hat zu wissen, ob KI eine Rolle bei steuerlichen Entscheidungen spielt. Elsbury vertrat sich selbst in den proceedings.

Das ICO reagierte auf die Entscheidung mit der Aussage: „Wir haben die Entscheidung des Tribunals in dieser Angelegenheit erhalten und respektieren sie. Nach Prüfung der Details werden wir nicht in Berufung gehen.“

HMRC sagte, es prüfe die Entscheidung „sorgfältig“ und „erwäge unsere nächsten Schritte.“

F&E-Steuererleichterungen waren in den letzten Jahren einer erhöhten Prüfung durch HMRC unterzogen worden, nachdem hohe Niveaus an Betrug und Fehlern entdeckt wurden. Während HMRC versucht, den Missbrauch des Systems einzudämmen, haben mehrere professionelle Gremien und Steuerberater ihren Ansatz als übermäßig aggressiv kritisiert. Sie warnten, dass dies dazu geführt habe, dass legitime Ansprüche abgelehnt wurden und einige Unternehmen ganz von Anträgen absehen.

Elsbury, der Gründer der R&D-Steuererleichterungs-Softwareplattform Novel, sagte Nachrichtenagenturen, es sei wichtig, dass Steuerzahler wissen, welche Schutzmaßnahmen vorhanden sind und ob Strafen in Fällen verhängt wurden, in denen ein generatives KI-Tool eine Entscheidung beeinflusst hat.

Elsbury hob auch spezifische Bedenken bezüglich der potenziellen Nutzung öffentlicher Large Language Models, wie ChatGPT, durch HMRC-Beamte bei der Bewertung von Ansprüchen hervor. Wenn solche Tools verwendet würden, sagte er, bestünde das Risiko, dass kommerziell sensible Informationen, die vertraulich bleiben sollten, in der Öffentlichkeit preisgegeben werden könnten.

Diese Risiken könnten in Branchen, die mit der nationalen Verteidigung verbunden sind, besonders schwerwiegend sein, warnte er. Anträge auf Steuervergünstigungen für Forschung und Entwicklung können Details zu innovativen defensiven oder offensiven Waffensystemen enthalten, die für das britische Verteidigungsministerium entwickelt wurden. Die Offenlegung solcher Informationen durch öffentliche KI-Systeme „kann katastrophale Folgen haben“, warnte Elsbury.