Anwalt, der Roc Nation verklagt, muss mit der dritten Sanktion wegen der Zitierung von KI-Halluzinationen rechnen

Ein Anwalt, der bereits zweimal wegen des Missbrauchs künstlicher Intelligenz sanktioniert wurde, ist von einem Bundesrichter erneut gerügt worden, nachdem er in einer Klageschrift gegen das Unterhaltungsunternehmen Roc Nation KI-generierte Zitate verwendet hatte.

Immer mehr Anwälte sehen sich mit empfindlichen Strafen konfrontiert, weil sie künstliche Intelligenz zur Erstellung von Gerichtsdokumenten nutzen, ohne diese zu überprüfen. Bis Mitte 2026 wurden 1.667 Fälle registriert, in denen Anwälte gefälschte, von KI-Tools generierte Rechtszitate einreichten. 

KI-Halluzinationen führen zu Geldstrafen für Anwälte

Laut einer globalen Datenbank, die vom Forscher Damien Charlotin tracwird, haben Anwälte künstliche Intelligenz in bis zu 1.667 Gerichtsverfahren missbraucht. Dieser Missbrauch besteht hauptsächlich darin, gefälschte, KI-generierte Zitate in offizielle Gerichtsdokumente einzufügen. Die Häufigkeit dieserdenthat sich im Vergleich zum Vorjahr, als 230 Fälle registriert wurden, etwa versiebenfacht. 

Kürzlich erließ die US-Magistratsrichterin Jennifer Willis eine Anordnung, in der sie erklärte, dass der Anwalt Tyrone Blackburn ein „anhaltendes Verhaltensmuster“ im Zusammenhang mit KI an den Tag gelegt habe, nachdem festgestellt worden war, dass seine Eingabe Zitate enthielt, die in den von ihm zitierten Fällen nicht vorkamen.

Willis schrieb, Blackburns Verhalten sei „ein ungeheuerlicher Verstoß gegen seine ethischen und beruflichen Pflichten“. Bereits im Dezember war er sanktioniert worden, weil er vor einem Bundesgericht in New Jersey nicht existierende Fälle angeführt hatte, die angeblich durch KI-Halluzinationen . Ein Bundesrichter in Pennsylvania hatte ihn im vergangenen Jahr wegen angeblich gefälschter Zitate zu einer Geldstrafe von 5.000 US-Dollar verurteilt.

Anwalt beruft sich in Roc-Nation-Klage auf KI-Halluzinationen

Im jüngsten Fall reichte Blackburn im Namen von Terrance Dixon, einem Musiker und Kollaborateur des Rappers Fat Joe, Klage ein. Dixon wirft dem Musiker und dessen Managementfirma Roc Nation arbeitsrechtliches Fehlverhalten vor. Er macht Lohnausfälle und weitere Schäden geltend. Roc Nation und Fat Joe weisen die Vorwürfe zurück.

Roc Nation beantragte letzten Monat beim Gericht, Blackburn wegen der Verfolgung ihrer Ansicht nach unbegründeter Behauptungen zu sanktionieren. Anschließend forderte das Unternehmen das Gericht auf, Blackburns Gegendarstellung zurückzuweisen, da diese zu spät eingereicht worden sei und offenbar durch KI-Halluzinationen erzeugte Zitate.

Blackburn versuchte, seine Aussage zu bekräftigen und behauptete, jede der von ihm zitierten Gerichtsentscheidungen sei echt, obwohl er zugab, einige Passagen paraphrasiert zu haben. Richter Willis erklärte, Blackburns Erklärung verharmlose sein Verhalten in dreister Weise.

Blackburn erklärte, er werde auf die Anordnung des Gerichts reagieren, hält aber an seiner Dementi fest.  

In einem weiterendentdisqualifizierte die US-Bezirksrichterin Sharion Aycock vom Northern District of Mississippi alle vier Anwälte in einem Vertragsstreit,tracsie festgestellt hatte, dass die Anwälte beider Seiten erfundene Klageschriften eingereicht hatten. Der Streit selbst war geringfügig: Anwalt Tom Withers hatte eine Klage wegen Vertragsbruchstracdie Stadt Aberdeen aufgrund unbezahlter Anwaltskosten erhoben. 

Withers vertrat sich hier nur nominell selbst und wurde nicht sanktioniert. Zwei seiner Anwälte und die beiden Vertreter der Stadt hatten jedoch weniger Glück. Kathryn Williams gab zu, ein KI-Recherchetool verwendet zu haben, und Kathleen Wilson räumte ein, generative KI zur Erstellung einer Stellungnahme eingesetzt zu haben, ohne die Ergebnisse vor der Einreichung zu überprüfen. 

Wilsons Argument war, dass sie nicht gewusst habe, dass KI Fälle erfinden könne und dass sie nicht wusste, was ein halluzinierter Fall sei. 

Aycock nannte die Verteidigung „unzureichend und unglaubwürdig“. Sie sagte nicht nur den Prozess ab, sondern verhängte gegen die Anwälte auch Geldstrafen zwischen 1.000 und 3.500 US-Dollar. Darüber hinaus wurde Williams und Wilson für zwei Jahre von der Anwaltschaft in ihrem Bezirk ausgeschlossen. 

Wo sonst hat die KI Halluzinationen gehabt? 

Sullivan & Cromwell, eine der etabliertesten Anwaltskanzleien der Wall Street, teilte einem New Yorker Bundesgericht im April 2026 mit, dass eine Akte mit irreführenden Behauptungen in den Fall der Prince Group gelangt sei. 

Andrew Dietderich, Co-Leiter der Restrukturierungsabteilung der Kanzlei, entschuldigte sich in einem Brief an Richter Martin Glenn für eine Reihe von Fehlern, darunter das falsche Zitieren des US-Insolvenzrechts und das falsche Anführen von Urteilen. 

Das Unternehmen erklärte, seine KI-Richtlinien seien nicht eingehalten worden und eine zweite Überprüfung habe die fehlerhaften Zitate vor der Einreichung übersehen. Die konkurrierende Kanzlei Boies Schiller Flexner hatte sie entdeckt.

Sullivan & Cromwell vertrat die Liquidatoren, die gegen die Prince Group vorgingen, die von dem in China geborenen Geschäftsmann Chen Zhi kontrolliert wurde. 

US-Staatsanwälte klagten Chen Zhi letztes Jahr wegen Betrugs und Geldwäsche im Zusammenhang mit mutmaßlichen Zwangsarbeitssiedlungen in Kambodscha an. Unabhängig davon beschlagnahmten sie Bitcoin im Wert von fast neun Milliarden US-Dollar, die mutmaßlich aus den Aktivitäten der Gruppe stammten. Chen wurde in Kambodscha festgenommen und nach China ausgeliefert.

Warum machen KI-gestützte Rechtstools immer wieder Fehler? 

Tests mit zwei führenden juristischen Rechercheplattformen, Lexis+ AI und den KI-Tools von Thomson Reuters (NYSE: TRI), ergaben in über 17 % der Fälle falsche Informationen. In einigen Tests lag die Fehlerquote sogar bei 34 %. 

Im Februar 2026 warnte das National Center for State Courts davor, dass KI-Halluzinationen eine wachsende Bedrohung für das Justizsystem darstellen. 

Obwohl Anwälten die Nutzung von KI nicht verboten ist, haben sie eine ethische Pflicht, sicherzustellen, dass alles, was sie einreichen, korrekt ist. 

Die American Bar Association warnte bereits im Juni 2025 davor, die Ergebnisse von KI-Analysen nicht zu überprüfen, da dies die Pflicht eines Anwalts zur kompetenten Vertretung verletzen könnte. Die aktuellen Sanktionen zeigen jedoch, dass viele Anwälte diese Warnung nicht ernst genommen haben.