Anwalt gerät wegen übermäßiger Abhängigkeit von ChatGPT vor Gericht unter Kritik

Ein Anwalt aus New York, Steven Schwartz von der Kanzlei Levidow, Levidow & Oberman, geriet in die Kritik, weil er bei der Bearbeitung eines Rechtsstreits gegen die Fluggesellschaft Avianca den KI-Sprachmodell ChatGPT für seine juristischen Recherchen einsetzte. Der Fall betrifft Robert Mata, der laut einer Meldung von CNN Business vom 28. Mai behauptet, im Jahr 2019 während eines Fluges mit der kolumbianischen Airline durch einen Servierwagen verletzt worden zu sein.

Der Anwalt präsentierte falsche Dokumente, die von ChatGPT stammten

Der Fall nahm eine unerwartete Wendung, als der Richter, der die Verfahren leitete, Widersprüche und sachliche Fehler in den vorgelegten Dokumenten feststellte. In einer eidesstattlichen Versicherung vom 24. Mai gab Schwartz zu, ChatGPT für seine juristische Recherche verwendet zu haben, und erklärte, er sei sich der Möglichkeit falscher Informationen in deren Inhalten nicht bewusst gewesen. Er fügte hinzu, dass dies sein erster Einsatz des KI-Modells für juristische Recherchen war.

Die Prüfung des Richters ergab, dass mehrere vom Anwalt eingereichte Fälle fiktiv waren und erfundene Zitate sowie ungenaue interne Verweise enthielten. Zudem stellte sich heraus, dass bestimmte zitierte Fälle nicht existierten, und es kam vor, dass eine Aktennummer fälschlicherweise einem anderen Gerichtsverfahren zugeordnet wurde.

Der Anwalt bedauerte, sich auf den KI-Chatbot verlassen zu haben, ohne seine Sorgfaltspflicht zu erfüllen. In seiner eidesstattlichen Versicherung betonte er, dass er den Einsatz generativer künstlicher Intelligenz im Rechercheprozess sehr bedauert und schwor, diese Praxis künftig nicht mehr anzuwenden, ohne die Authentizität absolut zu verifizieren.

Analysten diskutieren das Potenzial von KI, Menschen zu ersetzen

Die Integration von ChatGPT in professionelle Arbeitsabläufe hat eine anhaltende Debatte über seine Eignung und Zuverlässigkeit ausgelöst. Während die Intelligenz von KI-Modellen wie ChatGPT weiter voranschreitet, bestehen weiterhin Zweifel daran, ob sie menschliche Arbeitskräfte vollständig ersetzen können. Syed Ghazanfer, ein Blockchain-Entwickler, erkennt den Wert von ChatGPT an, hinterfragt jedoch dessen Kommunikationsfähigkeiten als vollständigen Ersatz für menschliche Interaktion. Er hebt hervor, dass Programmiersprachen entwickelt wurden, um Anforderungen zu adressieren, die möglicherweise nicht effektiv in der Muttersprache Englisch vermittelt werden können.

Da sich die KI-Technologie weiterentwickelt, bewegen sich Entwickler und Fachleute auf dem schmalen Grat zwischen der Nutzung ihrer Möglichkeiten und der Sicherstellung der Genauigkeit und Validität der von ihnen generierten Informationen. Der Fall von Steven Schwartz und seiner Nutzung von ChatGPT dient als warnendes Beispiel und unterstreicht die Bedeutung menschlicher Aufsicht und kritischer Bewertung in der Rechtsrecherche und anderen professionellen Kontexten.

Während KI-Modelle wie ChatGPT dabei helfen können, bestimmte Aufgaben zu optimieren, sollten sie in Verbindung mit menschlicher Expertise und gründlichen Verifizierungsprozessen eingesetzt werden, um das Risiko von Ungenauigkeiten und falschen Informationen zu minimieren. Da sich die Grenzen der KI-Fähigkeiten erweitern, bleibt es für Fachleute essenziell, bei der Integration solcher Tools in ihre Arbeit Umsicht und Urteilsvermögen walten zu lassen.