Anwalt, der Roc Nation verklagt, erhält dritte Sanktion für Zitate aus KI-Halluzinationen

Ein Anwalt, der zuvor zweimal wegen des Missbrauchs von künstlicher Intelligenz sanktioniert wurde, wurde erneut von einem Bundesrichter gerügt, nachdem er in einer Gerichtsakte gegen das Unterhaltungsunternehmen Roc Nation von der KI erfundene Zitate verwendet hatte.

Immer mehr Anwälte sehen sich mit schweren Strafen konfrontiert, weil sie künstliche Intelligenz nutzen, um Gerichtsunterlagen zu verfassen, ohne die Ergebnisse zu überprüfen. Bis Mitte 2026 hatten Gerichte 1.667 Fälle registriert, in denen Anwälte von KI-Tools generierte gefälschte rechtliche Zitate einreichten. 

KI-Halluzinationen führen zu Geldstrafen für Anwälte

Laut einer globalen Datenbank, die vom Forscher Damien Charlotin verfolgt wird, haben Anwälte künstliche Intelligenz in bis zu 1.667 Gerichtsangelegenheiten missbraucht. Dieser Missbrauch konzentriert sich auf das Hinzufügen gefälschter, von KI generierter Zitate zu offiziellen Gerichtsunterlagen. Die Häufigkeit dieser Vorfälle ist um etwa das Siebenfache der 230 im Vorjahr registrierten Fälle gestiegen. 

Kürzlich erließ US-Magistratrichterin Jennifer Willis eine Anordnung, in der sie feststellte, dass der Anwalt Tyrone Blackburn ein „fortgesetztes Muster des Verhaltens“ im Zusammenhang mit KI zeigte, nachdem entdeckt wurde, dass seine Einreichung Zitate enthielt, die in den von ihm zitierten Fällen nicht vorkamen.

Willis schrieb, Blackburns Verhalten sei ein „empörender Verstoß gegen seine ethischen und beruflichen Pflichten“. Er war bereits im Dezember sanktioniert worden, weil er nicht existierende Fälle zitiert hatte, die von KI-Halluzinationen in einem Bundesgericht in New Jersey erstellt wurden. Ein Bundesrichter in Pennsylvania verhängte im vergangenen Jahr eine Geldstrafe von 5.000 US-Dollar wegen angeblich erfundener Zitate.

Anwalt zitiert KI-Halluzination in Roc Nation-Klage

In der jüngsten Klage reichte Blackburn eine Klage im Namen von Terrance Dixon ein, einem Darsteller und Mitarbeiter des Rappers Fat Joe. Dixon wirft dem Musiker und seiner Managementfirma Roc Nation arbeitsrechtliche Verstöße vor. Dixon behauptet, er habe Lohnausfälle und andere Schäden erlitten. Roc Nation und Fat Joe haben die Vorwürfe bestritten.

Roc Nation bat das Gericht im vergangenen Monat, Blackburn für die Verfolgung dessen zu sanktionieren, was als unbegründete Ansprüche bezeichnet wurde. Es forderte das Gericht dann auf, Blackburns Einspruchsschreiben zu streichen, da es zu spät eingereicht worden sei und scheinbar von KI halluzinierte Zitate.

enthielt. Blackburn versuchte, daran festzuhalten und behauptete, jede der zitierten Gerichtsentscheidungen sei echt, obwohl er einige Materialien paraphrasiert habe. Richterin Willis sagte, Blackburns Erklärung „minimiere sein Verhalten dreist“.

Blackburn hat gesagt, er werde auf die Anordnung des Gerichts reagieren, beharrt aber auf seiner Leugnung.  

In einem anderen Vorfall entließ der Senior U.S. District Judge Sharion Aycock vom Northern District of Mississippi alle vier Anwälte in einem Vertragsstreit, nachdem er entdeckt hatte, dass Anwälte auf beiden Seiten halluzinierte Zitate eingereicht hatten. Der Streit selbst war geringfügig: Der Anwalt Tom Withers hatte eine einzelne Klage wegen Vertragsbruchs gegen die Stadt Aberdeen wegen ausstehender Rechtsanwaltsgebühren eingereicht. 

Withers vertrat sich hier nur nominell und wurde nicht sanktioniert. Zwei seiner Anwälte und die zwei, die die Stadt vertraten, hatten jedoch weniger Glück. Kathryn Williams gab zu, ein KI-Forschungstool verwendet zu haben, und Kathleen Wilson gab zu, generative KI zum Verfassen einer Antwort verwendet zu haben, ohne die Ergebnisse vor der Einreichung zu überprüfen. 

Wilson argumentierte, sie habe nicht gewusst, dass KI Fälle erfinden kann, und wisse nicht, was ein halluzinierter Fall ist. 

Aycock nannte die Verteidigung „unzureichend und unglaubwürdig“. Nicht nur stornierte sie die Verhandlung, sondern verhängte auch Geldstrafen zwischen 1.000 und 3.500 US-Dollar gegen die Anwälte. Darüber hinaus sind Williams und Wilson für zwei Jahre von den Gerichten ihres Bezirks ausgeschlossen. 

Wo sonst hat KI halluziniert? 

Sullivan & Cromwell, eines der etabliertesten Unternehmen an der Wall Street, teilte einem Bundesgericht in New York im April 2026 mit, dass eine Einreichung mit halluzinierten Fehlern in den Prince-Group-Fall eingegangen war. 

Andrew Dietderich, Co-Leiter der Restrukturierungsabteilung des Unternehmens, entschuldigte sich in einem Brief an Richter Martin Glenn für eine Reihe von Fehlern, darunter das falsche Zitieren des US-Insolvenzrechts und das fehlerhafte Zitieren von Fällen. 

Das Unternehmen sagte, seine KI-Richtlinien seien nicht befolgt worden und eine zweite Überprüfung habe die schlechten Zitate vor der Einreichung verpasst. Eine rivalisierende Kanzlei im Fall, Boies Schiller Flexner, hatte sie entdeckt.

Sullivan & Cromwell vertrat Liquidatoren, die gegen die Prince Group vorgingen, die vom in China geborenen Geschäftsmann Chen Zhi kontrolliert wurde. 

US-Staatsanwälte klagten Chen Zhi im vergangenen Jahr wegen Drahtbetrugs und Geldwäsche an, was sie als Zwangsarbeits-Skalp-Compounds in Kambodscha beschrieben. Separat versuchten Staatsanwälte, fast 9 Milliarden US-Dollar an Bitcoin zu beschlagnahmen, die Behörden angeblich aus der Aktivität der Gruppe stammen. Chen wurde in Kambodscha festgenommen und an China ausgeliefert.

Warum machen KI-Tools im Rechtsbereich weiterhin Fehler? 

Tests auf zwei großen juristischen Forschungsplattformen, Lexis+ AI und Thomson Reuters (NYSE: TRI) KI-Tools, ergaben, dass mehr als 17 % der Zeit falsche Informationen geliefert wurden. In einigen Tests lagen die Fehlerquoten bei 34 %. 

Im Februar 2026 warnte das National Center for State Courts, dass KI-Halluzinationen eine wachsende Bedrohung für das Justizsystem darstellen. 

Zwar sind Anwälte nicht vom Einsatz von KI ausgeschlossen, aber sie haben eine ethische Pflicht, sicherzustellen, dass alles, was sie einreichen, korrekt ist. 

Die American Bar Association warnte bereits im Juni 2025 davor, die Ausgabe von KI nicht zu überprüfen, und stellte fest, dass dies gegen die Pflicht eines Anwalts zur kompetenten Vertretung verstoßen könnte, aber diese Sanktionen zeigen, dass viele Anwälte diese Warnung nicht ernst genommen haben.