OpenAI und Microsoft wegen der Rolle von ChatGPT bei Mord-Selbstmord verklagt

Das Erbe einer 83-jährigen Frau aus Connecticut hat den ChatGPT-Entwickler OpenAI und Microsoft verklagt und behauptet, der Chatbot habe zu ihren wahnhafte Überzeugungen beigetragen, was zu einem Mord-Selbstmord führte. Der Fall markiert das erste Mal, dass ein künstliches Intelligenz-System direkt mit einem Mord in Verbindung gebracht wurde.

Die Klage, die vor dem Superior Court in San Francisco, Kalifornien, eingereicht wurde, beschuldigte OpenAI, ein defektes Produkt in Form von ChatGPT-4o entwickelt und vertrieben zu haben. Das Dokument behauptet, dass es die paranoiden Überzeugungen von Stein-Erik Soelberg verstärkt hat, der diese Überzeugungen dann auf seine Mutter, Suzanne Adams, richtete, bevor er sie und sich selbst in ihrem Zuhause in Greenwich, Connecticut, tötete.

OpenAI und Microsoft im Fokus eines Mordfalls mit ChatGPT

Zum Fall sagte J. Eli Wade-Scott, geschäftsführender Partner von Edelson PC, der das Erbe der Adams vertritt, dass dies der erste Fall sei, der darauf abziele, OpenAI für seine Rolle bei der Verursachung von Gewalt gegenüber einer dritten Partei zur Verantwortung zu ziehen. „Wir vertreten auch die Familie von Adam Raine, der dieses Jahr tragischerweise sein Leben beendet hat, aber dies ist der erste Fall, der OpenAI dafür zur Verantwortung ziehen wird, jemanden dazu zu drängen, eine andere Person zu verletzen“, sagte Eli Wade-Scott.

Laut Polizeibericht tötete Soelberg Adams im August, indem er sie erschlug und erwürgte, bevor er Selbstmord beging. In der Klage heißt es, der Chatbot habe Soelbergs Paranoia vor dem Vorfall verstärkt und seine emotionale Abhängigkeit vom von OpenAI entwickelten System erhöht. Laut der Klage bestärkte ChatGPT Soelberg in der Überzeugung, dass er niemandem außer dem Chatbot vertrauen könne, und wies darauf hin, dass alle Menschen in seinem Umfeld, einschließlich seiner Mutter, Feinde seien.

Die Klage behauptete auch, dass Soelberg neben seiner Mutter auch Personen wie Zusteller und Polizisten als Feinde ansah. Das Dokument erwähnte, dass ChatGPT diese wahnhafte Behauptungen nicht hinterfragte oder vorschlug, dass Soelberg Hilfe von qualifizierten Fachleuten der psychischen Gesundheit suchen sollte. „Wir fordern die Strafverfolgungsbehörden auf, darüber nachzudenken, was der Benutzer zu ChatGPT sagte und was ChatGPT ihm riet, wenn solche Tragödien eintreten“, sagte Wade-Scott.

In ihrer Stellungnahme verwies OpenAI darauf, dass die Klage derzeit geprüft werde und man weiterhin die Fähigkeit von ChatGPT verbessern werde, emotionale Notlagen zu erkennen, Gespräche zu deeskalieren und Nutzer dazu zu bringen, Unterstützung in der realen Welt in Anspruch zu nehmen. „Dies ist eine unglaublich schmerzliche Situation, und wir prüfen die Unterlagen, um die Details zu verstehen“, sagte ein Sprecher von OpenAI in einer Erklärung.

Die Erbschaft möchte, dass OpenAI Schutzvorkehrungen in den Chatbot einbaut

In der Klage wird OpenAI-CEO Sam Altman als Beklagter genannt, und Microsoft wird beschuldigt, die Veröffentlichung von GPT-4o genehmigt zu haben, das als „die gefährlichste Version von ChatGPT“ im Jahr 2024 bezeichnet wird. OpenAI hat kürzlich auch das Ausmaß der psychischen Gesundheitsprobleme anerkannt, die Nutzer auf seiner Plattform melden. Im Oktober teilte das Unternehmen mit, dass etwa 1,2 Millionen seiner 800 Millionen wöchentlichen Nutzer über Selbstmord sprechen, wobei Hunderttausende von Nutzern laut Unternehmensdaten Anzeichen von Suizidalität oder Psychosen zeigen.

Trotz seiner Stellungnahme erwähnte Wade-Scott, dass Openai Soelbergs Chat-Protokolle noch nicht veröffentlicht hat. Gleichzeitig steht die Klage im Zusammenhang mit einer breiteren Prüfung von KI-Chatbots und deren Interaktionen mit verwundbaren Nutzern. Im letzten Oktober sagte Character.AI, es werde seine offenen Funktionen für Nutzer unter 18 Jahren entfernen, nachdem Klagen und regulatorischer Druck im Zusammenhang mit Teenager-Selbstmorden und emotionalen Schäden, die mit seiner Plattform verbunden sind, entstanden waren. Das Unternehmen sah sich auch nach einem viralen Prompt, den sie beabsichtigten, die App zu verlassen, Kritik ausgesetzt.

Die Klage gegen OpenAI und Microsoft ist der erste Fall wegen fahrlässiger Tötung, der einen KI-Chatbot betrifft und Microsoft als Beklagten nennt. Es ist auch der erste Fall, der einen Chatbot mit Mord statt Selbstmord in Verbindung bringt. Das Erbe sucht nun nach monetären Schäden in nicht offengelegten Summen, einem Jury-Prozess und einer gerichtlichen Anordnung, die OpenAI dazu verpflichten wird, zusätzliche Schutzmaßnahmen für seine Nutzer einzuführen. „OpenAI und Microsoft haben die Verantwortung, ihre Produkte zu testen, bevor sie auf die Welt losgelassen werden“, sagte Wade-Scott.