Anwaltskanzlei Gordon Rees entgeht Sanktionen wegen KI-Fehlern in Insolvenzverfahren

Der leichtfertige Einsatz von generativer KI in Gerichtsverfahren hat zu einer persönlichen Rüge der Anwältin Cassie Preston von der Anwaltskanzlei Gordon Rees Scully Mansukhani durch einen US-Konkursrichter geführt. 

In einem Insolvenzverfahren nach Chapter 11, das von der Jackson Hospital & Clinic in Alabama eingeleitet wurde, entschied der US- Insolvenzrichter Christopher Hawkins, keine formellen Sanktionen gegen Gordon Rees Scully Mansukhani zu verhängen, obwohl die Kanzlei Gerichtsdokumente eingereicht hatte, die KI-generierte Rechtszitate enthielten, die sich als erfunden herausstellten

Gerichte behandeln gefälschte, KI-generierte Vorladungen als schwerwiegende ethische und verfahrensrechtliche Verstöße, die Sanktionen rechtfertigen.

Richter rügt Anwalt wegen fahrlässigen Umgangs mit KI

In seiner Urteilsbegründung erklärte dass Gordon Rees einer Rüge entgangen sei, da die Kanzlei „angemessene Maßnahmen“ ergriffen habe, um die Risiken im Zusammenhang mit dem Einsatz generativer KI in der Rechtsberatung zu minimieren. Die Kanzlei hatte den Gegenparteien bereits Anwaltskosten in Höhe von über 55.000 US-Dollar im Zusammenhang mit den fehlerhaften Schriftsätzen erstattet.

Um künftigen Problemen vorzubeugen, hat das Unternehmen außerdem seine internen Richtlinien geändert und einen obligatorischen „Zitierprüfungsprozess“ eingeführt, der immer dann gilt, wenn KI-Tools zur Erstellung von Forschungsarbeiten oder Entwürfen von Dokumenten verwendet werden.

Während die Kanzlei als Ganzes verschont blieb, erteilte Richter Hawkins der ehemaligen Anwältin von Gordon Rees, Cassie Preston, die für die Einreichung der Klage im Namen des Gläubigers Progressive Perfusion verantwortlich war, eine offizielle Rüge.

Preston erklärte, dass sie sich zum Zeitpunkt der Antragstellung in schwierigen persönlichen Umständen befand. Trotzdem befand der Richter, dass ihr Verhalten „einen Missbrauch des Insolvenzverfahrens darstellte “.

Hawkins' ausführliche Stellungnahme umfasste 32 Seiten und enthielt unter anderem die Feststellung, dass Preston „seine Argumente, die durch die zitierten Autoritäten nicht gestützt wurden, immer wieder bekräftigte “.

Als Teil ihrer Strafeist Preston verpflichtet, das Urteil und die Begründung des Gerichts an alle ihre Mandanten, die gegnerischen Anwälte und die Richter in allen laufenden Verfahren weiterzuleiten.

Wachsende Besorgnis über KI in Gerichtsakten

Gerichte in den USA weisen zunehmend auf gefälschte Rechtszitate und falsch dargestellte Rechtsgrundlagen hin, die von KI-Tools generiert werden. In einem Fall betraf, wurden beispielsweise zwei Anwälte mit einer Geldstrafe von über 24.400 US-Dollar belegt, weil sie Schriftsätze mit mehr als 50 fehlerhaften oder nicht existierenden Zitaten eingereicht hatten.

Drei Anwälte der Kanzlei Butler Snow wurden von der Bundesrichterin Anna Manasco in Birmingham, Alabama, öffentlich gerügt, weil sie ChatGPT benutzt hatten, um juristische Zitate zu generieren, die sich als völlig erfunden herausstellten.

Der Richter bezeichnete ihr Verhalten als „äußerste Rücksichtslosigkeit“. Die Anwälte wurden von dem Fall ausgeschlossen und, genau wie Preston, angewiesen, die Anordnung und die Begründung des Gerichts allen ihren Mandanten, der Gegenpartei und den Richtern in ihren anderen Fällen mitzuteilen.

Laut Berichten der Washington Post haben Gerichte in den USA mindestens 95dentdokumentiert, in denen Anwälte Schriftsätze mit gefälschten oder erfundenen, von KI generierten Fällen eingereicht haben. Solche Fehler untergraben das Vertrauen in das Rechtssystem.

Steve Puiszis, General Counsel der Kanzlei Hinshaw, sagt, dass Anwälte jede Rechtsprechung immerdentüberprüfen müssen, selbst wenn sie von KI generiert wurde.