Britisches Gericht warnt vor strengen Strafen für Anwälte, die gefälschte KI-Zitate verwenden

Der High Court von England und Wales warnte Anwälte vor den Gefahren, sich bei der juristischen Recherche auf KI-Tools wie ChatGPT zu verlassen. Richterin Victoria Sharp urteilte, dass diese generativen KI-Tools keine verlässliche juristische Recherche ermöglichen.

Richterin Sharp argumentierte , dass KI-Tools zwar scheinbar schlüssige und plausible Antworten liefern, aber auch völlig falsch sein könnten. Sie stellte klar, dass Anwälte zwar KI für ihre Recherchen nutzen dürfen, jedoch berufsrechtlich verpflichtet sind, die Richtigkeit dieser Recherchen anhand maßgeblicher Quellen zu überprüfen, bevor sie diese in ihrer beruflichen Tätigkeit anwenden.

Die Äußerungen der Richterin erfolgten vor dem Hintergrund wachsender Besorgnis über Fälle, in denen Anwälte mutmaßlich KI-generierte Falschinformationen. Dame Sharp bezog sich in ihrer Entscheidung auf zwei aktuelle Fälle, in denen Anwälte in Gerichtsverfahren gefälschte, KI-generierte Fälle angeführt hatten. Sie erklärte, ihr Urteil werde den Berufsverbänden des Landes, darunter der Anwaltskammer und der Juristischen Gesellschaft, mitgeteilt.

Anwalt Hussain führt nicht existierende Fälle in einem 120-Millionen-Dollar-Fall an

Achtung, Anwälte: Die Gefahren der Verwendung von KI zur Erstellung von Schriftsätzen ohne Überprüfung

Im Fall Al-Haroun deckte das Gericht sage und schreibe 45 Zitate auf, die entweder nicht existierten oder fehlerhafte Angaben enthielten. Schockierenderweise wurden diese falschen Zitate ursprünglich erstellt… pic.twitter.com/CbgNy1z7X1

– Lawpoint Uganda (@Lawpointuganda) 7. Juni 2025

Anwalt Abid Hussain führte in einer 120-Millionen-Dollar-Klage (89 Millionen Pfund) wegen angeblichen Verstoßes gegen einen Finanzierungsvertrag mit der Qatar National Bank nicht existierende Fälle an. Hussain reichte eine Klageschrift mit 45 Zitaten ein, von denen 18 nicht existierten, während viele andere die ihnen zugeschriebenen Zitate nicht enthielten. 

Der Mandant, Hamad Al-Haroun, entschuldigte sich dafür, das Gericht unbeabsichtigt mit falschen Daten aus öffentlich zugänglichen KI-Tools in die Irre geführt zu haben, und erklärte, er trage die Verantwortung, nicht sein Anwalt Hussain. Sharp bezeichnete es jedoch als „außergewöhnlich“, dass der Anwalt sich bei der juristischen Recherche auf die Richtigkeit des Mandanten verlassen habe, anstatt umgekehrt.

Richterin Sharp, Präsidentindent King's Bench Division, erklärte, der Missbrauch von KI habe schwerwiegende Folgen für die Rechtspflege und das Vertrauen der Öffentlichkeit in die Justiz. Sie fügte hinzu, Anwälte, die KI missbrauchen, könnten mit öffentlicher Rüge und einer Anzeige bei der Polizei rechnen. Sie forderte den Anwaltsrat und die Law Society dringend auf, Maßnahmen zur Eindämmung des Problems zu ergreifen.

Der Richter forderte außerdem die Leiter der Anwaltskanzleien und die geschäftsführenden Partner der Anwaltskammern auf, sicherzustellen, dass alle Anwälte ihre beruflichen und ethischen Pflichten beim Einsatz von KI verstehen.

„Die Antworten könnendent Behauptungen enthalten, die schlichtweg unwahr sind. Sie können Quellen zitieren, die nicht existieren. Sie können vorgeben, Passagen aus einer authentischen Quelle zu zitieren, die in dieser Quelle gar nicht vorkommen.“

–Richterin Victoria Sharp, Präsidentindent King's Bench Division

Ian Jeffery, Geschäftsführer der Anwaltskammer von England und Wales, erklärte, das Urteil verdeutliche die Gefahren des KI-Einsatzes in der juristischen Arbeit. Er fügte hinzu, KI-Tools würden zunehmend zur Unterstützung juristischer Dienstleistungen eingesetzt. Dennoch bestehe weiterhin das reale Risiko fehlerhafter Ergebnisse durch generative KI, weshalb Anwälte ihre Arbeit stets auf Richtigkeit überprüfen und sicherstellen müssten.

Anwalt Forey führt fünf fingierte Fälle in einer Wohnungsforderung eines Mieters an

Die Anwältin Sarah Forey führte in einer Klage eines Mieters gegen den Londoner Bezirk Haringey fünf fingierte Fälle an. Forey bestritt den Einsatz von KI, doch Richter Sharp erklärte, sie habe dem Gericht keine schlüssige Erklärung für den Vorfall geliefert.

Die Richterin warnte zudem, dass die Vorlage falscher Unterlagen als echt gewertet werden könne oder, in besonders schwerwiegenden Fällen, als Behinderung der Justiz. Sie fügte hinzu, dies könne zu empfindlichen Strafen für Anwälte führen, die ihren beruflichen Pflichten nicht nachkämen.

Sharp sagte, Forey zeige einen besorgniserregenden Mangel an Einsicht, und fügte hinzu, dass das Gericht nicht akzeptiere, dass ein fehlender Zugang zu Lehrbüchern odertronAbonnementdiensten innerhalb der Richterkammern, falls dies der Fall sei, mehr als eine geringfügige Milderung darstelle.

Sie argumentierte, Forey hätte die von ihr zitierten Fälle auf der Website des Nationalarchivs oder in der Bibliothek ihrer Anwaltskammer überprüfen können. Sharp merkte an, Forey müsse absichtlich falsche Zitate oder KI eingesetzt haben, obwohl sie dies in ihrer Zeugenaussage bestritten habe.

Letzten Monat erklärte , dass das Verhalten von Forey, damals Referendar bei 3 Bolt Court, und der Anwälte des Haringey Law Centre in London, die fünf fingierte Fälle vorbrachten, unzulässig, unangemessen und fahrlässig gewesen sei. Er verurteilte sie außerdem zur Übernahme der entstandenen Kosten.