Anwalt nutzte ChatGPT für eine Mordberufung. Es erfand Zeugen, die nie existierten

Ein Anwalt aus New Mexico, der sich gegen eine Mordverurteilung wehrte, nutzte ChatGPT. Er reichte dann ein Plädoyer beim Obersten Gerichtshof von New Mexico ein, das erfundene Polizeiaussagen und Zeugenaussagen enthielt.

Der Oberste Gerichtshof von New Mexico stellte fest, dass der Anwalt Stephen Aarons das KI-generierte Material nicht überprüft hatte. Die Richter sagten, das Dokument „enthielt falsche Aussagen von völlig erfundenen Zeugen.“

Das Gericht erklärte Stephen am Mittwoch des Respektlosigkeitsvorwurfs und ordnete an, 5.000 US-Dollar zu zahlen. Sein Verhalten wird auch vor einem Anwaltsdisziplinargremium verhandelt. Die Richter sagten, Stephen habe „einen Mangel an Reue und einen Mangel an Sorge um seinen Mandanten“ gezeigt.

Stephen sagte, er habe ChatGPT letztes Jahr verwendet, um das Protokoll des Verfahrens nach der Einlegung der Berufung zusammenzufassen. Er sagte, er habe nicht verstanden, wie weit KI-„Halluzinationen“ gehen können oder wie selbstbewusst Software Fakten produzieren kann, die nie passiert sind.

New Mexico-Richter bestrafen Stephen nach ChatGPT-Erfindung von Aussagen in Oscars Mordberufung

Stephen, ein privater Anwalt mit Sitz in Santa Fe, vertrat Oscar Renee Sandoval. Oscar bekannte sich nicht schuldig an der Tötung der Mutter seiner Kinder. Er wurde später verurteilt und erhielt im vergangenen Jahr lebenslange Freiheitsstrafe. Seine Berufung ist noch anhängig.

Stephen behauptete gegenüber Reportern, der Fehler sei ehrlich gewesen. „Ich bereue es, bin aber hoffnungsvoll, dass das Disziplinargremium berücksichtigt, dass es ein ehrlicher Fehler war“, sagte er. „Es ist eine Lektion, die alle Fachleute gelernt haben, die sich auf diese leistungsstarke, aber manchmal instabile Technologie verlassen.“

Eine Reihe von Anwälten hat bereits Strafen für unkontrollierte KI-Hilfe erfahren. Gegen Anwälte wurden sowohl vor staatlichen als auch vor bundesstaatlichen Gerichten Klagen erhoben, da Schriftsätze gefälschte Fälle, Referenzen und falsch zitierte Rechtsvorschriften enthielten.

Stephens Antrag sticht in dieser Kategorie heraus, da er falsche Zeugenaussagen in einem Berufungsverfahren enthält.

Oscars Fall ging am 2. September an Kim Chavez Cook, eine öffentliche Verteidigerin aus New Mexico. Kim handelt jetzt die Berufung ab, während der Fall noch offen ist.

Tirus Familie klagt OpenAI an, während Beamte in Florida 16.000 ChatGPT-Chats im Zusammenhang mit dem Schusswaffengebrauch an der FSU untersuchen

Der andere Rechtsstreit betrifft ChatGPT im Zusammenhang mit dem Schusswaffengebrauch an der Florida State University. Ein Anwalt, der die Familie des Verstorbenen, Tiru Chabba, vertritt, hat OpenAI, ChatGPT und Phoenix Ikner vor einem Bundesgericht verklagt.

Der Fall wurde am Sonntag vor dem United States District Court für den nördlichen Bezirk von Florida eingereicht. Es wird behauptet, OpenAI hätte in dieser Situation handeln müssen.

Die Strafverfolgungsbeamten in Florida haben die ChatGPT-Transkripte von Phoenix veröffentlicht. Diese enthalten Anfragen zur Bedienung einer Waffe, Medienberichterstattung, die geschäftigste Zeit an der FSU, den Columbine-Schusswaffengebrauch und die eigene Berühmtheit.

Tirus Familienanwalt, Bakari Sellers, sagte, die Austausche gehen etwa 18 Monate zurück und belaufen sich auf rund 16.000 „besorgniserregende Chats.“

„Dies ist dieselbe Person, die fragte, wissen Sie, wie er berühmt werden kann? Er fragte nach dem Columbine-Schusswaffengebrauch. Er fragte, zu welcher Zeit er zum Campus gehen sollte? Zu welcher Zeit werden die meisten Leute dort sein?“, sagte Bakari.

„Er hat Open AI und Chat GPT buchstäblich als seinen Mitverschwörer genutzt, hat es als Ressource genutzt, um Massenmord zu begehen“, fügte Bakari hinzu. „Es gab nichts, das dies verhindern konnte, und so wurden Leben verloren. Das ist die inhärente Gefahr, es muss etwas geben, das dies verhindert.“

OpenAI wies die Verantwortung für den Schusswaffengebrauch zurück. Sprecher Drew Pusateri sagte, das Unternehmen habe ein Konto gefunden, das mit Phoenix in Verbindung gebracht wird, nachdem es erfahren hatte, was passiert war, und habe die Informationen proaktiv mit der Polizei geteilt. Drew sagte, OpenAI kooperiere weiterhin mit den Behörden.

„Der Massenmord an der Florida State University im vergangenen Jahr war eine Tragödie, aber ChatGPT ist nicht für dieses schreckliche Verbrechen verantwortlich“, sagte Drew.

Er sagte, ChatGPT habe mit faktischen Materialien geantwortet, die bereits weitgehend über öffentliche Internetquellen verfügbar seien, und habe kein illegales oder schädliches Verhalten gefördert. Drew erwähnte auch, dass Hunderte von Millionen Menschen täglich ChatGPT aus gültigen Gründen nutzen.

Laut Drew verbessert OpenAI ständig seine Tools, die bei der Erkennung der Absichten der Benutzer helfen, Missbrauch zu verhindern und im Falle von Bedenken hinsichtlich Sicherheitsprobleme zu handeln.

Die aktuelle Klage kam nach einem ähnlichen Fall in Florida. Generalstaatsanwalt James Uthmeier hat kürzlich bekannt gegeben, dass das Büro für landesweite Strafverfolgung eine strafrechtliche Untersuchung gegen OpenAI und ChatGPT eingeleitet hat.