Ein Bundesrichter im westlichen Bezirk von Virginia hat die Anwälte eines Klägers in einem Whistleblower-Verfahren aufgefordert, darzulegen, warum sie nicht disziplinarisch belangt werden sollten, weil sie angeblich künstliche Intelligenz (KI) zur Einreichung erfundener Rechtszitate eingesetzt haben. Die Anwälte sollen eine Klageschrift mit „offenbar fiktiven Fällen und Zitaten“ eingereicht haben, woraufhin Richter Thomas T. Cullen eine Anhörungsanordnung erließ.
Die Anordnung erfolgte, nachdem der Anwalt des Klägers gegen eine Schutzanordnung des US-Magistratsrichters Joel C. Hoppe im Fall Iovino gegen Michael Stapleton Associates, Ltd. Einspruch erhoben hatte. Der Beklagte beanstandete mehrere Mängel in der Klageschrift des Klägers, darunter Verweise auf nicht existierende Fälle und Zitate, die nicht auffindbar sind. Richter Cullen forderte die Anwälte auf, bis zum 14. August zu erläutern, warum er sie nicht wegen berufsrechtlichen Fehlverhaltens sanktionieren oder den jeweiligen Anwaltskammern ihrer Bundesstaaten melden sollte.
Anwälte, die der Verwendung gefälschter Zitate beschuldigt werden, lösen rechtliche Untersuchungen aus
Richter Cullen legte das mutmaßliche Fehlverhalten in einem schriftlichen Gutachten dar und erklärte, die vom Kläger angeführten Quellen und Zitate seien offenbar frei erfunden. Die Gegenschrift des Beklagten wies ebenfalls darauf hin und vermutete, dass diese falschen Zitate auf den unkontrollierten Einsatz von KI, möglicherweise durch Software wie ChatGPT, zurückzuführen seien. Ein bestimmtes Zitat, das angeblich Formulierungen aus dem Fall Graves v. Lioi wiedergab, fehlte im Urteil des Vierten Berufungsgerichts.
Die Anwälte der Klägerseite reagierten nicht auf diese Vorwürfe bezüglich erfundener Zitate – ein Schweigen, das Richter Cullen als „ohrenbetäubend“ bezeichnete. Dieses Versäumnis hat weitere Fragen zur Integrität des Rechtssystems und zur Frage aufgeworfen, ob KI während des Gesetzgebungsverfahrens missbraucht werden kann.
Richter Cullen stellte zwar fest, dass der Einsatz von KI für juristische Arbeiten nicht grundsätzlich falsch sei, merkte aber an, dass jeder Anwalt, der sich für eine solche Technologie entscheide, die Richtigkeit jedes einzelnen Zitats und jeder Angabe gewährleisten müsse.
Er warnte davor, dass der absichtliche oder unabsichtliche Missbrauch von KI schwerwiegende Konsequenzen nach sich ziehen könne, wie etwa den Vorwurf der Arglist oder des bewussten Versuchs, das Gericht irrezuführen, wodurch ein Vorladungsbeschluss erlassen würde, um die Integrität des Verfahrens zu schützen und den Ursprung angeblich falscher Angaben aufzudecken.
