Michael Cohen gibt die Abhängigkeit von Google Bard KI für rechtliche Zitate zu

In einer überraschenden Wendung der Ereignisse hat Michael Cohen, der ehemalige Anwalt von Donald Trump und ein wichtiger Zeuge in den bevorstehenden Strafprozessen gegen Trump, zugegeben, sich irrtümlich auf von künstlicher Intelligenz (KI) generierte rechtliche Zitate von Google Bard verlassen zu haben. 

Die Enthüllung kommt, als Cohen vorhat, gegen Trump auszusagen und wirft ein Licht auf die potenziellen Fallstricke des Einsatzes von KI in der Rechtsbranche.

Missverständnis führt zur Abhängigkeit von KI

In einem kürzlichen Gerichtsantrag gab Michael Cohen zu, seinem Anwalt David Schwartz rechtliche Zitate zur Unterstützung seines Falls bereitgestellt zu haben, die von Google Bard generiert wurden. Da er kein praktizierender Anwalt ist, hielt Cohen Google Bard Berichten zufolge fälschlicherweise für eine hochleistungsfähige Suchmaschine und nicht für einen generativen KI-Dienst. Infolgedessen nahm er unwissentlich ungenaue Zitate in offizielle Gerichtsunterlagen auf.

„Die fraglichen ungültigen Zitate – und viele andere, die Herr Cohen fand, aber nicht in der Motion verwendet wurden – wurden von Google Bard erstellt, das Herr Cohen fälschlicherweise für eine hochleistungsfähige Suchmaschine und nicht für einen generativen KI-Dienst wie Chat-GPT hielt“,

lautete der Gerichtsbescheid.

Cohens Verteidigung argumentierte, dass ihm die juristische Expertise fehlte, um die Genauigkeit von KI-generierten Zitaten zu beurteilen, und betonte, dass er keine ethische Verpflichtung zur Überprüfung der Recherche habe. Stattdessen machten sie Cohens Anwalt, David Schwartz, dafür verantwortlich, die Zitate nicht zu validieren, bevor sie in den Rechtsantrag aufgenommen wurden.

KI-Fallstricke in der juristischen Recherche

Dieser Fall ist nicht das erste Beispiel für Anwälte, die auf Probleme mit KI-generierten juristischen Inhalten stoßen. Anfang dieses Jahres sah sich Steven Schwartz, ein Anwalt der New Yorker Kanzlei Levidow, Levidow & Oberman, Kritik ausgesetzt, weil er sich darauf verlassen hatte, KI zur Erstellung falscher Gerichts-Zitate zu nutzen.

In diesem Fall gab Schwartz zu, KI, speziell ChatGPT, für die juristische Recherche verwendet zu haben, behauptete jedoch, dies sei sein erstes Mal gewesen. Der Richter, der den Fall beaufsichtigte, deckte jedoch schwerwiegende Ungenauigkeiten in den KI-generierten Inhalten auf.

„Sechs der eingereichten Fälle scheinen gefälschte gerichtliche Entscheidungen mit gefälschten Zitaten und internen Verweisen zu sein“,

erklärte der Richter.

Diese Vorfälle unterstreichen die potenziellen Risiken, die mit der Integration von KI in den juristischen Forschungsprozess verbunden sind, insbesondere wenn Personen nicht über die notwendige Expertise verfügen, um die Genauigkeit von KI-generierten Informationen zu bewerten.

Der Ruf nach Vorsicht bei juristischer KI

Die Notwendigkeit von Vorsicht und Sorgfalt wird zunehmend offensichtlich, da KI fortschreitet und in verschiedene Branchen, einschließlich des Rechts, integriert wird. Juristische Fachkräfte und ihre Mandanten müssen die Grenzen der KI erkennen und verstehen, dass KI-generierte Inhalte als Werkzeug und nicht als definitive Quelle behandelt werden sollten.

Experten im Rechtsbereich empfehlen, dass Anwälte eine Schulung absolvieren sollten, um die Fähigkeiten und Mängel der KI zu verstehen, damit sie fundierte Entscheidungen über deren Nutzung treffen können. Darüber hinaus sollte ein System der Kontrolle und des Gleichgewichts innerhalb von Anwaltskanzleien eingerichtet werden, um KI-generierte Inhalte zu überprüfen und zu validieren, bevor sie vor Gericht vorgelegt oder in juristische Dokumente aufgenommen werden.