OpenAI und Microsoft wurden wegen der Rolle von ChatGPT bei einem erweiterten Suizid verklagt.

Die Hinterbliebenen einer 83-jährigen Frau aus Connecticut haben den Entwickler von ChatGPT, OpenAI, und Microsoft verklagt. Sie werfen dem Chatbot vor, ihre Wahnvorstellungen bestärkt und so zu einem erweiterten Suizid geführt zu haben. Es handelt sich um den ersten Fall, in dem ein System künstlicher Intelligenz direkt mit einem Tötungsdelikt in Verbindung gebracht wird.

Die in San Francisco, Kalifornien, eingereichte Klage wirft OpenAI vor, mit ChatGPT-4o ein fehlerhaftes Produkt haben. Laut Klageschrift habe ChatGPT-4o die paranoiden Wahnvorstellungen von Stein-Erik Soelberg verstärkt, die dieser dann gegen seine Mutter Suzanne Adams richtete, bevor er sie und anschließend sich selbst in ihrem Haus in Greenwich, Connecticut, tötete.

OpenAI und Microsoft im Visier eines Tötungsdelikts im Zusammenhang mit ChatGPT

zu dem Fall, dass dies der erste Fall sei, in dem OpenAI für seine Rolle bei der Anstiftung zu Gewalt gegen Dritte zur Rechenschaft gezogen werden solle. „Wir vertreten auch die Familie von Adam Raine, der sich dieses Jahr tragischerweise das Leben nahm, aber dies ist der erste Fall, in dem OpenAI dafür zur Rechenschaft gezogen wird, jemanden dazu angestiftet zu haben, einem anderen Menschen Schaden zuzufügen“, so Wade-Scott.

Dem Polizeibericht zufolge schlug und erwürgte Soelberg Adams im August, bevor er Suizid beging. In der Klage wird erwähnt, dass der Chatbot vor demdent Soelbergs Paranoia verstärkt und seine emotionale Abhängigkeit von dem von OpenAI entwickelten System erhöht hatte. Laut Klage bestärkte ChatGPT ihn in seiner Überzeugung, niemandem außer dem Chatbot vertrauen zu können, und ließ ihn jeden in seinem Umfeld, einschließlich seiner Mutter, als Feind betrachten.

Die Klage behauptete außerdem, dass Soelberg neben seiner Mutter auch Lieferfahrer und Polizisten als Feinde betrachtete. Laut dem Dokument unterließ es ChatGPT, diese wahnhaften Behauptungen zu hinterfragen oder Soelberg zu empfehlen, sich an qualifizierte Psychiater oder Psychologen zu wenden. „Wir appellieren an die Strafverfolgungsbehörden, bei solchen Tragödien darüber nachzudenken, was der Nutzer ChatGPT mitgeteilt hat und was ChatGPT ihm geraten hat“, sagte Wade-Scott.

In einer Stellungnahme erklärte OpenAI, man prüfe derzeit die Klage und werde die Fähigkeit von ChatGPT, emotionale Belastungen zu erkennen, Gespräche zu deeskalieren und Nutzer dazu zu bewegen, sich Unterstützung im realen Leben zu suchen, weiter verbessern. „Dies ist eine unglaublich herzzerreißende Situation, und wir prüfen die Schriftsätze, um die Details zu verstehen“, sagte ein Sprecher von OpenAI in einer Stellungnahme.

Das Anwesen fordert von OpenAI die Installation von Sicherheitsvorkehrungen auf seinem Chatbot.

Die Klage richtet sich gegen OpenAI-CEO Sam Altman und wirft Microsoft vor, die Veröffentlichung von GPT-4o, der laut Klage „gefährlichsten Version von ChatGPT“, im Jahr 2024 genehmigt zu haben. OpenAI räumte kürzlich auch das Ausmaß der psychischen Probleme ein, die Nutzer auf seiner Plattform melden. Im Oktober gab das Unternehmen bekannt, dass etwa 1,2 Millionen seiner 800 Millionen wöchentlichen Nutzer über Suizid sprechen und dass Hunderttausende von Nutzern laut Unternehmensangaben Anzeichen von Suizidgedanken oder Psychosen zeigen.

Trotz dieser Erklärung erwähnte Wade-Scott, dass OpenAI Soelbergs Chatprotokolle noch nicht veröffentlicht hat. Die Klage erfolgt inmitten einer breiteren Kritik an KI-Chatbots und deren Interaktionen mit schutzbedürftigen Nutzern. Im vergangenen Oktober kündigte Character.AI an, die offenen Funktionen für Nutzer unter 18 Jahren nach Klagen und regulatorischem Druck im Zusammenhang mit Selbstmorden und psychischen Schäden von Jugendlichen, die mit der Plattform in Verbindung gebracht wurden, zu entfernen. Das Unternehmen sah sich zudem Kritik ausgesetzt, nachdem eine viral gegangene Aufforderung zum Verlassen der App die Nutzer zum Handeln veranlasst hatte.

Die Klage gegen OpenAI und Microsoft ist der erste Fall von fahrlässiger Tötung im Zusammenhang mit einem KI-Chatbot, in dem Microsoft als Beklagter genannt wird. Es ist auch der erste Fall, der einen Chatbot mit Mord und nicht mit Selbstmord in Verbindung bringt. Die Hinterbliebenen fordern nun eine nicht genannte Schadensersatzsumme, ein Geschworenengericht und eine gerichtliche Anordnung, die OpenAI zu zusätzlichen Sicherheitsvorkehrungen für seine Nutzer verpflichtet. „OpenAI und Microsoft tragen die Verantwortung, ihre Produkte zu testen, bevor sie auf den Markt kommen“, sagte Wade-Scott.