Ein Anwalt nutzte ChatGPT für die Berufung in einem Mordprozess. Das Programm erfand Zeugen, die nie existierten

Ein Anwalt aus New Mexico, der sich in einem Mordprozess verteidigte, nutzte ChatGPT. Anschließend reichte er beim Obersten Gerichtshof von New Mexico eine Klageschrift ein, die erfundene Polizeiaussagen und Zeugenberichte enthielt.

Der Oberste Gerichtshof von New Mexico stellte fest, dass Anwalt Stephen Aarons das KI-generierte Material nicht überprüft hatte. Die Richter erklärten, das Dokument enthalte „falsche Aussagen von völlig erfundenen Zeugen“

Das Gericht verurteilte Stephen am Mittwoch wegen Missachtung des Gerichts und ordnete eine Geldstrafe von 5.000 US-Dollar an. Sein Verhalten wird außerdem einem Disziplinarausschuss für Anwälte vorgelegt. Die Richter erklärten, Stephen habe „weder Reue noch Rücksichtnahme auf seinen Mandanten gezeigt“

Stephen gab an, ChatGPT letztes Jahr genutzt zu haben, um nach Einlegung der Berufung das Prozessprotokoll zu verkürzen. Er sagte, er habe nicht geahnt, wie weit KI-„Halluzinationen“ gehen könnten oder wiedentSoftware Fakten erzeugen könne, die nie stattgefunden haben.

Richter in New Mexico verurteilen Stephen, nachdem ChatGPT im Berufungsverfahren um Oscars Mord eine Zeugenaussage erfunden hatte

Stephen, ein in Santa Fe ansässiger Privatanwalt, vertrat Oscar Renee Sandoval. Oscar plädierte auf nicht schuldig, die Mutter seiner Kinder getötet zu haben. Er wurde später verurteilt und erhielt letztes Jahr eine lebenslange Haftstrafe. Seine Berufung ist noch anhängig.

Stephen angeblich , der Fehler sei ein ehrlicher Irrtum gewesen. „Ich bedauere es zutiefst, hoffe aber, dass das Disziplinargremium berücksichtigt, dass es sich um einen ehrlichen Fehler handelte“, sagte er. „Es ist eine Lehre für alle Fachleute, die auf diese leistungsstarke, aber manchmal instabile Technologie angewiesen sind.“

Mehrere Anwälte wurden bereits wegen unkontrollierter KI-Unterstützung. Gegen sie wurden sowohl vor Landes- als auch vor Bundesgerichten Verfahren eingeleitet, weil ihre Schriftsätze gefälschte Fälle, Verweise und falsch zitierte Rechtsvorschriften enthielten.

Stephens Antrag sticht in dieser Kategorie hervor, da er falsche Zeugenaussagen in einem Berufungsverfahren beinhaltet.

Oscars Fall wurde am 2. September an Kim Chavez Cook, eine Pflichtverteidigerin aus New Mexico, übergeben. Kim bearbeitet nun die Berufung, während der Fall noch offen ist.

Tirus Familie verklagt OpenAI, während die Behörden Floridas 16.000 ChatGPT-Chats im Zusammenhang mit dem Amoklauf an der Florida State University untersuchen

Der andere Rechtsstreit betrifft ChatGPT im Zusammenhang mit der Schießerei an der Florida State University. Tiru Chabba, ein Anwalt der Familie des Verstorbenen, hat OpenAI, ChatGPT und Phoenix Ikner vor einem Bundesgericht verklagt.

Die Klage wurde am Sonntag beim US-Bezirksgericht für den nördlichen Bezirk von Florida eingereicht. Es wird behauptet, OpenAI hätte in dieser Situation Maßnahmen ergreifen müssen.

Die Strafverfolgungsbehörden in Florida haben die ChatGPT-Protokolle aus Phoenix veröffentlicht. Diese enthalten Fragen zum Umgang mit Schusswaffen, zur Medienberichterstattung, zur Stoßzeit an der Florida State University, zum Amoklauf an der Columbine High School und dazu, wie man sich einen zweifelhaften Ruf verschafft.

Der Anwalt von Tirus Familie, Bakari Sellers, sagte, die Nachrichtenübertragungen reichten etwa 18 Monate zurück und umfassten insgesamt rund 16.000 „beunruhigende Chats“

„Das ist derselbe Mann, der gefragt hat, wie er berüchtigt werden kann. Er hat nach dem Amoklauf an der Columbine High School gefragt. Er hat gefragt, wann er auf den Campus gehen soll. Wann die meisten Leute dort sein werden?“, sagte Bakari.

„Er nutzte Open AI und Chat GPT buchstäblich als Komplizen, als Ressource für Massenmord“, fügte Bakari hinzu. „Es gab keine Vorkehrungen, um das zu verhindern, und so gingen Menschenleben verloren. Das ist die inhärente Gefahr: Es muss etwas geben, um das zu verhindern.“

OpenAI wies die Verantwortung für die Schießerei zurück. Sprecher Drew Pusateri erklärte, das Unternehmen habe nach Bekanntwerden des Vorfalls ein Konto gefunden, das mutmaßlich mit Phoenix in Verbindung stehe, und diese Information proaktiv an die Polizei weitergegeben. Laut Pusateri kooperiert OpenAI weiterhin mit den Behörden.

„Die Massenerschießung an der Florida State University im letzten Jahr war eine Tragödie, aber ChatGPT ist für dieses schreckliche Verbrechen nicht verantwortlich“, sagte Drew.

Er sagte, ChatGPT habe mit Fakten geantwortet, die bereits in öffentlichen Internetquellen frei zugänglich seien, und kein illegales oder schädliches Verhalten gefördert. Drew erwähnte außerdem, dass täglich Hunderte Millionen Menschen ChatGPT aus legitimen Gründen nutzen.

Laut Drew arbeitet OpenAI ständig an der Verbesserung seiner Tools, die dabei helfen, die Absichten der Nutzer zu erkennen, Missbrauch zu verhindern und bei Sicherheitsbedenken einzugreifen.

Die aktuelle Klage folgte einem ähnlichen Fall in Florida. Generalstaatsanwalt James Uthmeier gab kürzlich bekannt, dass die strafrechtlichen Ermittlungen gegen OpenAI und ChatGPT von der Staatsanwaltschaft eingeleitet wurden.