AKTUELLE NACHRICHTEN
FÜR SIE AUSGEWÄHLT

US federal judges admit to using AI on ‘error-ridden’ court orders

VonHannah CollymoreHannah Collymore 2 Min. Lesezeit
US-Richter lehnt Anträge ab, Elon Musks D.O.G.E vom Arbeitsministerium fernzuhalten
  • Zwei US-Bundesrichter haben zugegeben, dass ihre Mitarbeiter KI-Tools wie ChatGPT und Perplexity zur Erstellung von Urteilen nutzten, die später wegen faktischer und rechtlicher Fehler zurückgezogen wurden.
  • Beide Richter haben seitdem strengere Überprüfungsverfahren eingeführt und Richtlinien für den Einsatz von KI in ihren Kanzleien erstellt.
  • Senator Grassley forderte die Justiz auf, stärkere KI-Richtlinien zu etablieren, während Gerichte und Rechtswissenschaftler Regeln für Transparenz bei KI-unterstützten Urteilen diskutieren.

Zwei US-Bundesrichter haben zugegeben, dass Mitarbeiter in ihren Kanzleien künstliche Intelligenz zur Unterstützung bei der Ausarbeitung von Gerichtsentscheidungen einsetzten und dass das Experiment schiefging.

In zwei offenen Briefen, die am Donnerstag vom Vorsitzenden des Senatsjustizausschusses, Senator Chuck Grassley, veröffentlicht wurden, erklärten die Richter Henry T. Wingate aus Mississippi und Julien Xavier Neals aus New Jersey, dass KI-Tools bei der Vorbereitung von Gerichtsbeschlüssen eingesetzt wurden, die später als voller Fehler entlarvt wurden. faktische Fehler und rechtliche Fehltritte. Beide Entscheidungen wurden inzwischen zurückgezogen.

Grassley, der Erklärungen gefordert hatte, sagte: „Jeder Bundesrichter und die Justiz als Institution haben die Pflicht sicherzustellen, dass der Einsatz von generativer KI die Rechte der Prozessbeteiligten nicht verletzt oder eine faire Behandlung nach dem Gesetz verhindert.“ 

Fehler des Personals zeigen die Grenzen von KI im Gerichtssaal auf

In seinem Briefsagte Richter Neals vom Bezirk New Jersey, dass ein Entwurf eines Urteils in einem Wertklageverfahren „irrtümlich – menschliches Versagen“ veröffentlicht worden war, nachdem ein Praktikant einer Juristischen Fakultät ohne Genehmigung oder Offenlegung OpenAIs ChatGPT zur Recherche verwendet hatte. Die Entscheidung wurde sofort zurückgezogen, als der Fehler entdeckt wurde.

Um eine Wiederholung zu verhindern, sagte Neals, dass seine Kanzlei seitdem eine schriftliche KI-Richtlinie erstellt und ihren Überprüfungsprozess verschärft habe.

Richter Wingate, der im Southern District of Mississippi tätig ist, sagte, ein Rechtsreferendar habe das KI-Tool Perplexity „als grundlegendes Entwurfsassistent verwendet, um öffentlich verfügbare Informationen aus der Akte zusammenzufassen.“ 

Dieser Entwurf eines Bescheids, der in einem Fall der Bürgerrechte erlassen wurde, wurde später ersetzt, nachdem er Fehler festgestellt hatte. Wingate erklärte, dass das Ereignis „ein Versagen der menschlichen Aufsicht“ gewesen sei, und fügte hinzu, dass er die Überprüfungsverfahren in seiner Kanzlei seitdem verschärft habe.

Kritik am KI-Einsatz in der Rechtsarbeit

Der Vorfall fügt sich in eine wachsende Liste von Kontroversen rund um KI-generierte Rechtsmaterialien ein. Anwälte in mehreren US-Bundesstaaten wurden in den letzten Jahren mit Sanktionen belegt, weil sie von Chatbots erstellte Einreichungen eingereicht hatten, die erfundene Fallzitate und falsch angewandte Präzedenzfälle enthielten. 

Anfang dieses Monats gab das Bundesstaatsgerichtssystem von New York eine neue Richtlinie heraus, die Richter und Mitarbeiter davon abhält, vertrauliche, privilegierte oder nicht-öffentliche Fallinformationen in öffentliche generative KI-Tools einzugeben.

Während die Rechtsbranche das Potenzial der KI zur Verbesserung der Effizienz schnell erkundet hat, haben die Vorfälle die Grenzen der Technologie offengelegt, insbesondere ihre Tendenz zur Halluzination, also der Erzeugung plausibler, aber falscher Informationen. Für Gerichte, in denen die Integrität, die Genauigkeit von Urteilen und die Beweislast von größter Bedeutung sind, bergen solche Fehler das Risiko, das öffentliche Vertrauen in die Justiz zu untergraben.

Grassley, der Wingate und Neals für ihr Eingeständnis der Fehler lobte, forderte die Justiz auch auf, strengere KI-Richtlinien einzuführen. 

Das Administrative Office of the US Courts hat keine umfassenden Richtlinien zum KI-Einsatz veröffentlicht, obwohl mehrere Circuit Courts Berichten zufolge Rahmenwerke für eine begrenzte, beaufsichtigte Einführung erkunden. Rechtswissenschaftler schlagen andererseits Berichten zufolge eine Offenlegungsregel vor, die Richter verpflichten würde, jede Verwendung von KI in ihren Urteilen oder Bescheiden öffentlich zu vermerken, ähnlich wie bei Zitatanforderungen für externe Recherchen.

Die Vorfälle ereignen sich, während Bundesbehörden und Berufsverbände weiterhin mit Fragen zur Rechenschaftspflicht von KI ringen.

Die klügsten Krypto-Köpfe lesen bereits unseren Newsletter. Lust dabei? Mach mit.

Diesen Artikel teilen
Hannah Collymore

Hannah Collymore

Hannah ist Autorin und Redakteurin mit fast einem Jahrzehnt Erfahrung im Bloggen und in der Berichterstattung über Events im Krypto-Bereich. Bei Cryptopolitan arbeitet sie an der News-Seite und berichtet sowie analysiert die neuesten Entwicklungen in den Bereichen DeFi, RWA, Krypto-Regulierung, KI und Zukunftstechnologien. Sie hat ihr Studium an der Arcadia University mit einem Abschluss in Betriebswirtschaft abgeschlossen.

MEHR … NACHRICHTEN