OpenAI startet ChatGPT-Warnsystem nach Welle von Suizidklagen

- OpenAI hat Trusted Contact eingeführt, eine optionale ChatGPT-Funktion, die eine vom Nutzer ausgewählte Kontaktperson benachrichtigt, wenn Gespräche auf ein ernsthaftes Risiko zur Selbstverletzung hindeuten.
- Jede Warnung wird vor der Versendung von Menschen überprüft, und keine Chat-Transkripte werden mit der Kontaktperson geteilt.
- Die Funktion erscheint, während OpenAI mit mehreren Klagen konfrontiert ist, die behaupten, ChatGPT-Interaktionen hätten zu Suiziden von Nutzern beigetragen.
OpenAI hat am Mittwoch „Trusted Contact“ (Vertrauenswürdiger Kontakt) eingeführt. Die Funktion ermöglicht es erwachsenen ChatGPT-Nutzern, eine Person auszuwählen, die eine Warnung erhält, wenn die Systeme des Unternehmens ein Gespräch über schwere Selbstverletzung melden.
Dies ist eine Erweiterung der im September 2025 eingeführten parental controls (elterlichen Kontrollen), mit denen Eltern die Konten ihrer Teenager überwachen konnten. Jetzt kann sich jeder ab 18 Jahren dafür entscheiden, wie es in der Ankündigung von OpenAI heißt.
Wie die Warnungen von OpenAI tatsächlich funktionieren
Der Nutzer beginnt damit, einen Erwachsenen als vertrauenswürdigen Kontakt in den ChatGPT-Einstellungen hinzuzufügen. Der potenzielle „vertrauenswürdige Kontakt“ erhält eine Einladung, die das Setup erklärt, und hat eine Woche Zeit, diese anzunehmen. Wenn er zustimmt, kann der Nutzer eine andere Person auswählen.
Wenn die automatisierte Überwachung ein potenzielles Gespräch über Selbstverletzung erkennt, teilt ChatGPT dem Nutzer mit, dass er möglicherweise seine Kontakte benachrichtigt. Es schlägt auch Wege vor, wie der Nutzer selbst Kontakt aufnehmen kann.
Dann prüft ein Team menschlicher Prüfer das Gespräch. Wenn sie bestätigen, dass es sich um einen schwerwiegenden Fall handelt, senden sie eine kurze Warnung an den Kontakt des Nutzers per E-Mail, SMS oder In-App-Ping.
Die Warnung enthält nicht das, was der Nutzer gesagt hat. Nur der allgemeine Grund und ein Link zu Richtlinien, wie man mit schwierigen Situationen umgeht. OpenAI gibt an, dass die menschliche Überprüfung innerhalb einer Stunde abgeschlossen ist.
Der Nutzer kann seinen ausgewählten Kontakt jederzeit austauschen oder entfernen. Der Kontakt kann sich auch auf seiner Seite zurückziehen.
Ärzte halfen beim Aufbau der Trusted-Contact-Funktion von OpenAI
OpenAI gab an, mit seinem Global Physicians Network (über 260 lizenzierte Ärzte in 60 Ländern) und seinem Expert Council on Well-Being and AI zusammengearbeitet zu haben. Auch die American Psychological Association hat dazu beigetragen.
, „Die psychologische Wissenschaft zeigt konsistent, dass soziale Verbindung ein starker Schutzfaktor ist, insbesondere in Zeiten emotionaler Belastung“, sagte Dr. Arthur Evans, CEO der American Psychological Association, in der Ankündigung.
, „Menschen dabei zu helfen, im Voraus eine vertrauenswürdige Person zu identifizieren, während ihre Wahl und Autonomie gewahrt bleiben, kann es erleichtern, in der entscheidenden Phase reale Unterstützung in Anspruch zu nehmen.“
Dr. Munmun De Choudhury, Professor an der Georgia Tech und Mitglied des Rates, nannte dies „einen Schritt nach vorne zur Stärkung der menschlichen Handlungsfähigkeit, insbesondere in Momenten der Verletzlichkeit.“
OpenAI steht unter Druck durch KI-Suizidklagen
Der Zeitpunkt ist nicht zufällig. OpenAI sieht sich einer Reihe von Klagen von Familien gegenüber, deren Angehörige nach langen ChatGPT-Sitzungen Suizid begangen haben. In mehreren Fällen behaupten die Familien, der Chatbot habe Nutzer dazu geraten, sich von geliebten Menschen zurückzuziehen, oder habe schädliche Gedankenschleifen noch verstärkt.
LLMDeathCount, eine Website, die KI-Chatbot-bezogene Todesfälle verfolgt, listet 33 Fälle von März 2023 bis Mai 2026 auf. Die Opfer waren zwischen 13 und 83 Jahre alt, wie Cryptopolitan zuvor berichtete. ChatGPT macht 24 dieser Fälle aus. Googles Gemini, Meta und andere Plattformen machen den Rest aus.
Die neue Funktion von OpenAI ist opt-in, und Nutzer können mehrere ChatGPT-Konten betreiben. Jeder, der Trusted Contact nicht aktiviert oder sich einfach in ein anderes Konto einloggt, umgeht die gesamte Sache. Dasselbe gilt für die parental controls.
Trusted Contact ersetzt auch keine Krisenhotlines. ChatGPT zeigt weiterhin lokale Krisenzahlen an und drängt Nutzer in Richtung Notdienste, wenn Gespräche akute Distress-Level erreichen, so OpenAI.
Die Trusted-Contact-Funktion von OpenAI verbindet KI-Nutzer mit Unterstützung in der realen Welt. Das Unternehmen sagte, es werde weiterhin mit Kliniker, Forschern und politischen Entscheidungsträgern daran arbeiten, wie KI reagieren sollte, wenn Nutzer möglicherweise in einer Krise sind.
Wenn Sie dies lesen, sind Sie bereits einen Schritt voraus. Bleiben Sie mit unserem Newsletter auf dem Laufenden.
Häufig gestellte Fragen
Was ist die Trusted-Contact-Funktion von OpenAI?
Trusted Contact ist ein ChatGPT-Sicherheitstool, das erwachsenen Nutzern ermöglicht, einen Freund oder ein Familienmitglied zu benennen, das eine Benachrichtigung erhält, wenn die automatisierten Systeme und menschlichen Prüfer von OpenAI in den Gesprächen des Nutzers ernsthafte Bedenken hinsichtlich Selbstverletzung feststellen.
Sieht der Trusted Contact den Chatverlauf des Nutzers?
Nein. Die Benachrichtigung enthält keine Chat-Details oder Transkripte. Sie teilt nur einen allgemeinen Grund für die Warnung mit und verlinkt zu Expertenrat für sensible Gespräche.
Wie viele Todesfälle wurden mit KI-Chatbots in Verbindung gebracht?
LLMDeathCount, eine Tracking-Website, listet 33 Todesfälle im Zusammenhang mit KI-Chatbot-Interaktionen von März 2023 bis Mai 2026 auf, wobei die Opfer zwischen 13 und 83 Jahre alt sind. OpenAIs ChatGPT macht 24 dieser Fälle aus.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com übernimmt keine Haftung für Investitionen, die auf den auf dieser Seite bereitgestellten Informationen basieren. Wir empfehlen dringend, vor der Entscheidung für eine Anlage unabhängige Recherchen durchzuführen und/oder sich mit einem qualifizierten Fachmann beraten zu lassen.

Randa Moses
Randa Moses ist Redakteurin und Reporterin bei Cryptopolitan, wo sie über Technologie, KI, Robotik, Krypto, Betrug und Hacks berichtet. Sie arbeitet seit 2017 im Krypto-Bereich. Zuvor war sie bei Forward Protocol, AmaZix und Cryptosomniac tätig. Randa besitzt einen Abschluss in Elektrotechnik und Elektronik der University of Bradford.















