US-Bundesrichter räumen den Einsatz von KI bei „fehlerhaften“ Gerichtsbeschlüssen ein

Zwei US-Bundesrichter haben eingeräumt, dass Mitarbeiter in ihren Kammern künstliche Intelligenz zur Unterstützung beim Verfassen von Gerichtsurteilen eingesetzt haben und dass das Experiment gründlich schiefgegangen ist.

In zwei offenen Briefen, die Senator Chuck Grassley, Vorsitzender des Justizausschusses des Senats, am Donnerstag veröffentlichte, erklärten die Richter Henry T. Wingate aus Mississippi und Julien Xavier Neals aus New Jersey, dass bei der Erstellung von Gerichtsbeschlüssen KI-Tools eingesetzt wurden, die sich später als voller sachlicher Fehler und juristischer Irrtümer erwiesen. Beide Entscheidungen wurden inzwischentrac.

Grassley, der Erklärungen gefordert hatte, sagte: „Jeder Bundesrichter und die Justiz als Institution haben die Pflicht sicherzustellen, dass der Einsatz von generativer KI nicht die Rechte der Prozessparteien verletzt oder eine faire Behandlung nach dem Gesetz verhindert.“ 

Fehltritte des Personals offenbaren die Grenzen der KI im Gerichtssaal

In seinem Schreibenerklärte Richter Neals vom Bezirksgericht New Jersey, dass ein Urteilsentwurf in einem Wertpapierprozess irrtümlich – aufgrund menschlichen Versagens – veröffentlicht worden sei, nachdem ein Praktikant der juristischen Fakultät ohne Genehmigung oder Offenlegung OpenAIs ChatGPT für Forschungszwecke genutzt hatte. Das Urteil wurde umgehend zurückgezogen, nachdem der Fehler entdeckt worden war.

Um ein erneutes Auftreten zu verhindern, habe seine Kammer seither eine schriftliche KI-Richtlinie erstellt und ihren Überprüfungsprozess verbessert, sagte Neals.

Richter Wingate, der im südlichen Bezirk von Mississippi tätig ist, sagte, ein Rechtsreferendar habe das KI-Tool Perplexity „als grundlegendes Hilfsmittel zur Erstellung von Schriftsätzen verwendet, um öffentlich verfügbare Informationen über die Gerichtsakte zu synthetisieren“ 

Der Entwurf der Anordnung in einem Bürgerrechtsfall wurde später ersetzt, nachdem er Fehlerdent. Wingate erklärte, es habe sich um ein „Versagen der menschlichen Aufsicht“ gehandelt, und fügte hinzu, er habe die Prüfverfahren in seinem Büro seither verschärft.

Kritik am Einsatz von KI in der juristischen Arbeit

Dieser Vorfall reiht sich in eine wachsende Liste von Kontroversen um KI-generierte Rechtstexte ein. Anwälte in mehreren US-Bundesstaaten wurden in den letzten Jahren mit Sanktionen belegt, weil sie von Chatbots verfasste Schriftsätze eingereicht hatten, die gefälschte Fallzitate und falsch angewandtedententhielten. 

Anfang dieses Monats veröffentlichtedent, privilegierte oder nicht öffentliche Fallinformationen in öffentliche generative KI-Tools einzugeben. das Gerichtssystem des Staates New York eine neue Richtlinie, die Richter und Mitarbeiter daran hindert

Während die Justiz das Potenzial von KI zur Effizienzsteigerung rasch erkannt hat, haben die VorfälledentGrenzen der Technologie offengelegt, insbesondere ihre Neigung zu Fehlinterpretationen oder zur Generierung plausibler, aber falscher Informationen. Für Gerichte, wo Integrität, Korrektheit der Urteile und Beweislast von höchster Bedeutung sind, bergen solche Ausrutscher die Gefahr, das Vertrauen der Öffentlichkeit in die Justiz zu untergraben.

Grassley lobte Wingate und Neals dafür, dass sie ihre Fehler eingestanden hatten, und forderte die Justiz außerdem auf,tronKI-Richtlinien einzuführen. 

Die Verwaltungsbehörde der US-Gerichte hat noch keine umfassenden Richtlinien zum Einsatz von KI veröffentlicht, obwohl mehrere Berufungsgerichte Berichten zufolge Rahmenbedingungen für einen begrenzten, beaufsichtigten Einsatz prüfen. Rechtswissenschaftler schlagen hingegen angeblich eine Offenlegungspflicht vor, die Richter verpflichten würde, jeglichen KI-Einsatz in ihren Urteilen oder Beschlüssen öffentlich zu kennzeichnen, ähnlich den Zitiervorschriften für externe Forschungsergebnisse.

Diedentereignen sich zu einer Zeit, in der sich Bundesbehörden und Berufsverbände weiterhin mit Fragen der Rechenschaftspflicht im Bereich der KI auseinandersetzen.