Anwaltskanzlei Gordon Rees entgeht Sanktionen wegen KI-Fehlern in Insolvenzverfahren

Leichtfertiger Einsatz von generativer KI in Gerichtsverfahren hat dazu geführt, dass die Anwältin Cassie Preston der Kanzlei Gordon Rees Scully Mansukhani von einem US-Insolvenzrichter persönlich gerügt wurde. 

In a Chapter 11 bankruptcy case filed by Jackson Hospital & Clinic in Alabama, U.S. Bankruptcy Judge, Christopher Hawkins, decided not to impose formal sanctions on Gordon Rees Scully Mansukhani, even after the firm submitted court filings containing AI-generated legal citations that turned out to be made up.

Gerichte behandeln erfundene KI-generierte Zitate als schwere ethische und verfahrensrechtliche Verstöße, die einer Sanktion würdig sind.

Richterin Rüge eines Anwalts wegen sorgloser KI in Rechenzentren für künstliche Intelligenz

In seiner Entscheidung sagte Richter Hawkins , dass Gordon Rees einer Rüge entgangen sei, weil die Kanzlei „vernünftige Schritte unternommen“ habe, um die Risiken im Zusammenhang mit der Verwendung von generativer KI für Rechtsarbeit zu adressieren. Die Kanzlei hatte die gegnerischen Parteien bereits mit mehr als 55.000 US-Dollar an Anwaltsgebühren im Zusammenhang mit den fehlerhaften Einreichungen entschädigt.

Um künftige Probleme zu vermeiden, hat die Kanzlei ihre internen Richtlinien geändert und ein obligatorisches „Zitier-Check“-Verfahren eingeführt, wann immer KI-Tools zur Erstellung von Recherchen oder zum Entwerfen von Dokumenten genutzt werden.

Während die Kanzlei als Ganzes verschont blieb, verhängte Richter Hawkins offiziell eine persönliche Rüge gegen Gordon Rees’ ehemalige Anwältin Cassie Preston, die für die Einreichungen im Namen der Gläubigerin Progressive Perfusion verantwortlich war.

Preston erklärte, dass sie zu dem Zeitpunkt der Einreichung einige schwierige persönliche Umstände hatte. Trotz dessen fand der Richter, dass ihr Verhalten „einen Missbrauch des Bankrottverfahrens darstellte.“

Hawkins’ detaillierte Meinung füllte 32 Seiten und enthielt die Tatsache, dass Preston „sich auf Argumente, die nicht durch die zitierten Autoritäten gestützt wurden, verdoppelt, verdreifacht und vervierfacht hat.“

Als Teil von ihrer Strafe muss Preston das Urteil und die Meinung des Gerichts an alle ihre Mandanten, gegnerische Anwälte und Richter in allen laufenden Fällen verteilen.

Wachsend Bedenken hinsichtlich KI in gerichtlichen Einreichungen

Gerichte in den USA merken immer häufiger falsche Rechtsbeziehungen und falsche Rechtsbeziehungen auf, die von KI-Tools generiert wurden. In einem FIFA-Rechtsfall in Puerto Rico wurden beispielsweise zwei Anwälte mit einer Strafe von über 24.400 US-Dollar belegt, weil sie Unterlagen eingereicht hatten, die mehr als 50 fehlerhafte oder nicht vorhandene Zitate enthielten.

Drei Anwälte der Kanzlei Butler Snow wurden von Bundesrichterin Anna Manasco in Birmingham, Alabama, öffentlich gerügt, weil sie ChatGPT zur Generierung von Rechtszitaten verwendet hatten, die sich als völlig erfunden herausstellten.

Der Richter bezeichnete ihr Verhalten als „äußerste Leichtfertigkeit“. Die Anwälte wurden aus dem Fall ausgeschlossen und mussten – genau wie Preston – angeordnet werden, die Anordnung und das Gutachten des Gerichts mit allen ihren Mandanten, der gegnerischen Rechtsberatung und den Richtern in ihren anderen Fällen zu teilen.

Berichten der Washington Post zufolge haben Gerichte in den USA mindestens 95 Vorfälle dokumentiert, in denen Anwälte Einreichungen mit gefälschten oder erfundenen, von KI generierten Fällen einreichten. Solche Fehler untergraben das Vertrauen in das Rechtssystem.

Steve Puiszis, General Counsel bei der Kanzlei Hinshaw, sagt, dass Anwälte jedes Rechtsprechungsdatum immer unabhängig überprüfen müssen, auch wenn es von KI generiert wurde.