Britisches Gericht warnt vor schweren Strafen für Anwälte, die gefälschte KI-Zitate verwenden

Das High Court of England and Wales warnte Anwälte vor den Gefahren, sich bei der Rechtsrecherche auf KI-Tools wie ChatGPT zu verlassen. Richterin Victoria Sharp entschied, dass diese generativen KI-Tools keine zuverlässige Rechtsrecherche durchführen könnten.

Richterin Sharp dass einige ihrer Operateure einen in den USA ansässigen Bürger finden, der bereit ist, als Gesicht des potenziellen Kandidaten aufzutreten. Der Operateur installiert dann Malware auf dem Gerät dieser Person, wodurch ihm ein ständiger Zugriff auf eine US-IP-Adresse und den Rest des Internets gewährt wird. In diesem Fall nimmt der Operateur an Vorstellungsgesprächen teil und arbeitet im Erfolgsfall von zu Hause aus. dass KI-Tools scheinbar kohärente und plausible Antworten liefern könnten, aber auch völlig falsch sein könnten. Sie klärte auf, dass Anwälte KI in ihrer Recherche verwenden können, aber eine berufliche Pflicht haben, die Genauigkeit solcher Recherche durch Bezugnahme auf autoritative Quellen zu überprüfen, bevor sie sie in ihrer beruflichen Arbeit verwenden.

Die Bemerkungen der Richterin kamen vor dem Hintergrund steigender Bedenken über Fälle, in denen Anwälte scheinbar KI-generierte Falschinformationenzitierten. Dames Sharps Entscheidung zitierte zwei kürzliche Fälle, in denen Anwälte gefunden wurden, die in Gerichtsverfahren gefälschte, von KI generierte Fälle zitiert hatten. Sie sagte, ihr Urteil werde mit den Berufsverbänden im Land geteilt, einschließlich der Bar Council und der Law Society.

Anwalt Hussain zitiert nicht existierende Fälle in einem $120M-Prozess

Anwälte, aufgepasst: Die Gefahren der Nutzung von KI zum Erstellen von Einreichungen ohne Überprüfung

Im Fall Al-Haroun deckte das Gericht erstaunliche 45 Zitate auf, die entweder nicht existierten oder ungenaue Zitate enthielten. Erschreckenderweise wurden diese falschen Zitate ursprünglich generiert… pic.twitter.com/CbgNy1z7X1

— Lawpoint Uganda (@Lawpointuganda) Juni 7, 2025

Der Anwalt Abid Hussain zitierte nicht existierende Fälle in einem 120-Millionen-Dollar-Prozess (89 Mio. £) wegen eines angeblichen Vertragsbruchs einer Finanzierungsvereinbarung mit der Qatar National Bank. Hussain reichte eine Einreichung mit 45 Zitaten ein, von denen 18 nicht existierten, während viele andere die ihnen zugeschriebenen Zitate nicht enthielten. 

Der Mandant, Hamad Al-Haroun, entschuldigte sich dafür, das Gericht unbeabsichtigt mit falschen Daten aus öffentlich verfügbaren KI-Tools getäuscht zu haben, und sagte, er sei verantwortlich, nicht sein Anwalt Hussain. Aber Sharp sagte, es sei „außergewöhnlich“, dass der Anwalt sich für die Genauigkeit seiner Rechtsrecherche auf den Mandanten und nicht umgekehrt verlassen habe.

Richterin Sharp, die Präsidentin der King’s Bench Division, sagte, es gäbe ernste Implikationen für die Rechtsprechung und das öffentliche Vertrauen in das Justizsystem, wenn KI missbraucht würde. Sie fügte hinzu, dass Anwälte, die KI missbrauchen, mit öffentlicher Rüge und einer Weiterleitung an die Polizei rechnen könnten. Sie forderte die Bar Council und die Law Society auf, Schritte zur Eindämmung des Problems „als Angelegenheit höchster Dringlichkeit“ zu erwägen.

Die Richterin bat auch die Leiter der Barrister-Kammern und die geschäftsführenden Partner von Anwaltskanzleien sicherzustellen, dass alle Anwälte ihre beruflichen und ethischen Pflichten bei der Nutzung von KI verstehen.

„Die Antworten können selbstbewusste Behauptungen aufstellen, die einfach unwahr sind. Sie können Quellen zitieren, die nicht existieren. Sie können vorgeben, Passagen aus einer echten Quelle zu zitieren, die nicht in dieser Quelle erscheinen.“

–Richterin Victoria Sharp, Präsidentin der King’s Bench Division

Ian Jeffery, der Chief Executive der Anwaltskammer von England und Wales, sagte, dass das Urteil die Gefahren der Nutzung von KI in der Rechtsarbeit offengelegt hat. Er fügte hinzu, dass KI-Tools zunehmend zur Unterstützung der Rechtsdienstleistung eingesetzt werden. Dennoch erfordert das tatsächliche Risiko falscher Ausgaben, die von generativer KI erzeugt werden, dass Anwälte die Genauigkeit ihrer Arbeit überprüfen, prüfen und sicherstellen.

Anwältin Forey zitiert fünf gefälschte Fälle in einer Wohnraumklage eines Mieters

Die Barristerin Sarah Forey zitierte fünf gefälschte Fälle in einer Wohnraumklage eines Mieters gegen den London Borough of Haringey. Forey bestritt die Nutzung von KI, aber Sharp sagte, sie habe dem Gericht keine kohärente Erklärung für das Geschehene geliefert.

Die Richterin warnte auch, dass die Vorlage falscher Materialien als echt als Missachtung des Gerichts oder in „den schwerwiegendsten Fällen“ als Manipulation der Rechtspflege betrachtet werden könnte. Sie fügte hinzu, dass dies zu schweren Strafen für Anwälte führen könnte, die ihren beruflichen Pflichten nicht nachkommen.

Sharp sagte, Forey zeige eine besorgniserregende mangelnde Einsicht und fügte hinzu, dass das Gericht nicht akzeptiere, dass ein Mangel an Zugang zu Lehrbüchern oder elektronischen Abonnementdiensten innerhalb der Kanzlei, falls dies der Fall sei, etwas mehr als eine marginale Milderung biete.

Sie behauptete, Forey hätte die von ihr zitierten Fälle durchsuchen der National Archives caselaw-Website oder durch einen Besuch in der Rechtsbibliothek ihres Inn of Court überprüfen können. Sharp beobachtete, dass Forey gefälschte Zitate bewusst aufgenommen oder KI verwendet haben muss, obwohl sie dies in ihrer Zeugenaussage bestritten hatte.

Letzten Monat, Justice Ritchie sagte dass das Verhalten von Forey, damals Schülerin bei 3 Bolt Court, und der Anwälte des Haringey Law Centre in London bei der Zitation von fünf gefälschten Fällen unangemessen, unvernünftig und fahrlässig war. Er ordnete auch an, dass alle von ihnen die verschwendeten Kosten zu tragen haben.