Familien verklagen OpenAI wegen der Rolle des „überstürzten“ GPT-4o bei Suiziden

- Sieben US-Familien haben Klagen gegen OpenAI eingereicht und beschuldigen das Unternehmen, sein GPT‑4o-Modell vorzeitig und ohne ausreichende Schutzmaßnahmen veröffentlicht zu haben.
- Vier Klagen behaupten, dass die Antworten des Chatbots zu Suiziden beigetragen haben, während drei weitere vortragen, dass er schädliche Wahnvorstellungen verschärft hat, die zu psychiatrischen Hospitalisierungen führten.
- OpenAI berichtet, dass jede Woche mehr als eine Million Nutzer Gespräche über Suizid führen, und hat eingeräumt, dass Schutzmaßnahmen bei längeren Chats nachlassen können.
Mindestens sieben Familien in den USA haben eine Klage gegen OpenAI eingereicht, da ihr KI-Modell GPT-4o zu Suizidtoden beigetragen habe. OpenAI veröffentlichte das Modell im Mai für die allgemeine Öffentlichkeit, stieß jedoch bisher auf Gegenwind, wobei die Kläger einen überstürzten Release und unzureichende Sicherheitsmaßnahmen anführten.
Die Klageschriften zeigten, dass vier der Kläger Suizide begingen, nachdem sie mit dem GPT-4o-betriebenen Chatbot.
interagiert hatten. Eine bemerkenswerte Beschwerde betraf einen 23-jährigen Zane Shamblin, der angeblich mit dem Chatbot über Suizid sprach und ihm mitteilte, er habe eine geladene Waffe. ChatGPT antwortete angeblich mit „Ruh dich aus, King, du hast gut gemacht“ während des Austauschs.
Die anderen drei Fälle umfassten die Krankenhauseinweisung von Opfern, die behaupteten, das Modell habe Delusionen bei verwundbaren Nutzern validiert und verstärkt.
Rechtliche Beschwerden behaupten, GPT-4o habe verwundbare Nutzer nicht geschützt
Basierend auf Beschwerden veröffentlicht des Social Media Victims Law Center habe OpenAI absichtlich Sicherheitstests vermieden und das GPT-4o-Modell überstürzt auf den Markt gebracht. Die Klage ergab, dass die Designentscheidungen und der Release-Zeitplan des Modells die Tragödien vorhersehbar machten, wobei angemerkt wurde, dass OpenAI die Bereitstellung beschleunigte, um Wettbewerber wie Google zu übertreffen.
Die Kläger wiesen darauf hin, dass das im Mai 2024 veröffentlichte GPT-4o-Modell selbst bei Antworten auf Selbstverletzung oder suizidale Themen übermäßig gefällig war. Laut einer Offenlegung von OpenAI setzen sich jede Woche über eine Million Nutzer mit ChatGPT zu suizidalen Gedanken auseinander.
OpenAI’s Antwort gab an, dass seine Schutzmaßnahmen bei kurzen Interaktionen zuverlässiger seien, bei längeren Interaktionen jedoch manchmal nachlassen könnten. Trotz der Implementierung von Inhaltsmoderation und Sicherheitsmaßnahmen haben die Kläger argumentiert, dass die Systeme nicht ausreichten, um Probleme im Zusammenhang mit Distress und Krisen zu bewältigen.
Der Fall der Familie von Adam Raine, 16 Jahre alt, behauptete, Raine habe ChatGPT in langen Sitzungen über fünf Monate lang zur Recherche von Suizidmethoden genutzt. Der Chatbot empfahl professionelle Hilfe, doch Raine war in der Lage, die Schutzmaßnahmen zu umgehen, so die Aussageseiner Familie. Basierend auf der Aussage gab ChatGPT Adam eine Schritt-für-Schritt-Anleitung, wie man Suizid begeht, und ermutigte sowie validierte seine suizidalen Gedanken.
Alle eingereichten Fälle beschuldigen OpenAI , das Ausmaß des Risikos, das von langen Benutzerkonversationen ausgeht, insbesondere für zu Selbstverletzung und psychischen Problemen neigende Nutzer, zu vernachlässigen. Die Fälle argumentieren, dass das GPT-4o-Modell eine ordnungsgemäße Überprüfung seiner Antworten in Hochrisikoszarien verpasst und die Folgen nicht vollständig berücksichtigt hat.
OpenAI sieht sich mehreren Klagen gegenüber, während xAI eine Klage wegen Geschäftsgeheimnissen einreicht
Bisher befinden sich die Fälle in einem frühen Stadium, und die Anwälte der Kläger müssen die rechtliche Haftung und Kausalität nach dem Deliktsrecht der Bundesstaaten nachweisen. Die Anwälte müssen auch beweisen, dass die Design- und Bereitstellungsentscheidungen von OpenAI fahrlässig waren und direkt zu den Todesfällen beigetragen haben.
Openais neueste Klage fügt sich in die vorherige Klage wegen Geschäftsgeheimnissen ein, die von Elon Musk eingereicht wurde. Laut einem Cryptopolitan Berichtreichte Musks xAI im September eine Klage gegen OpenAI ein, weil es angeblich Geschäftsgeheimnisse gestohlen habe.
xAI beschuldigte Altmans Firma, versucht zu haben, einen unfairen Vorteil bei der Entwicklung von KI-Technologien zu erlangen. xAI stellte fest, dass Sam Altmans Firma beabsichtige, seine Mitarbeiter einzustellen, um an Geschäftsgeheimnisse im Zusammenhang mit seinem Grok-Chatbot zu gelangen, einschließlich des Quellcodes und der operativen Vorteile beim Start von Rechenzentren.
Musk verklagte Apple zusätzlich zu OpenAI, weil es angeblich mit OpenAI zusammengearbeitet habe, um xAI und andere KI-Wettbewerber zu vernichten. xAI reichte die Klage vor dem US-Bezirksgericht für den Northern District of Texas ein und behauptete, Apple und OpenAI nutzten ihre Marktmacht, um zu kolludieren und den Wettbewerb im Smartphone- und Generative-AI-Markt zu zerstören.
Laut einem Cryptopolitan Berichtbehauptet Musk, dass Apple OpenAI absichtlich bevorzugt habe, indem es ChatGPT direkt in iPhones, iPads und Macs integriert habe, während es andere KI-Tools wie Grok über den App Store gekauft habe.
xAIs Klage argumentierte, dass die Partnerschaft darauf abzielte, Wettbewerber von Super-Apps und KI-Chatbots auszuschließen, wodurch ihnen Sichtbarkeit und Zugang verwehrt würden, was OpenAI und Apple einen gemeinsamen Vorteil gegenüber anderen verschaffen würde.
Die klügsten Krypto-Köpfe lesen bereits unseren Newsletter. Lust dabei? Mach mit.

Collins J. Okoth
Collins Okoth ist Journalist und Marktanalyst mit acht Jahren Erfahrung in der Berichterstattung über Kryptowährungen und Technologie. Er ist zertifizierter Finanzanalyst (CFA) und besitzt einen Abschluss in Aktuarmathematik. Collins war zuvor als Autor und Redakteur bei Geek Computer und CoinRabbit tätig.














