Die besten Krypto-Einblicke direkt in Ihren Posteingang.
OpenAI führt ChatGPT-Warnsystem nach Welle von Selbstmordklagen ein
- OpenAI hat Trusted Contact eingeführt, eine optionale ChatGPT-Funktion, die einen vom Benutzer ausgewählten Kontakt benachrichtigt, wenn Konversationen auf ein ernsthaftes Selbstverletzungsrisiko hindeuten.
- Jede Benachrichtigung wird vor dem Versand von einem Mitarbeiter geprüft, und es werden keine Chatprotokolle an den Kontakt weitergegeben.
- Diese Funktion wird zu einem Zeitpunkt eingeführt, an dem OpenAI mit mehreren Klagen konfrontiert ist, in denen behauptet wird, dass ChatGPT-Interaktionen zu Selbstmorden von Nutzern beigetragen haben.
OpenAI hat am Mittwoch die Funktion „Vertrauenswürdiger Kontakt“ eingeführt. Mit dieser Funktion können erwachsene ChatGPT-Nutzer eine Person auswählen, die benachrichtigt wird, wenn die Systeme des Unternehmens eine Unterhaltung über ernsthafte Selbstverletzungen erkennen.
Es handelt sich um eine Erweiterung der von OpenAI im September 2025 eingeführten Kindersicherungsfunktion, mit der Eltern die Konten ihrer Teenager überwachen können. Laut OpenAI-Ankündigung können nun alle Personen ab 18 Jahren diese Funktion nutzen.
Wie die Warnmeldungen von OpenAI tatsächlich funktionieren
Der Nutzer beginnt, indem er in den ChatGPT-Einstellungen einen Erwachsenen als Vertrauenskontakt hinzufügt. Der potenzielle Vertrauenskontakt erhält eine Einladung mit Erläuterungen zur Einrichtung und hat eine Woche Zeit, diese anzunehmen. Lehnt er ab, wählt der Nutzer eine andere Person aus.
Wenn die automatisierte Überwachung ein potenziell selbstverletzendes Gespräch erkennt, ChatGPT dem Nutzer mit, dass es möglicherweise seinen Kontakt benachrichtigen wird. Es schlägt dem Nutzer außerdem Möglichkeiten vor, selbst Kontakt aufzunehmen.
Anschließend prüft ein Team von menschlichen Mitarbeitern die Konversation. Bestätigen sie, dass es sich um einen schwerwiegenden Vorfall handelt, senden sie eine kurze Benachrichtigung per E-Mail, SMS oder In-App-Benachrichtigung an den Kontakt des Nutzers.
Die Benachrichtigung enthält nicht die Aussage des Nutzers. Sie umfasst lediglich den allgemeinen Grund und einen Link zu einer Anleitung für Gespräche über schwierige Themen. Laut ist die menschliche Überprüfung innerhalb einer Stunde abgeschlossen.
Der Nutzer kann den ausgewählten Kontakt jederzeit austauschen oder entfernen. Auch der Kontakt kann die Verbindung jederzeit abbrechen.
Ärzte halfen beim Aufbau der Trusted Contact-Funktion von OpenAI
OpenAI gibt an, mit seinem globalen Ärztenetzwerk (über 260 approbierte Ärzte in 60 Ländern) und seinem Expertenrat für Wohlbefinden und KI zusammengearbeitet zu haben. Auch die American Psychological Association hat sich zu Wort gemeldet.
„Die psychologische Wissenschaft zeigt immer wieder, dass soziale Kontakte ein starker Schutzfaktor sind, insbesondere in Zeiten emotionaler Belastung“, sagte Dr. Arthur Evans, CEO der American Psychological Association, in der Ankündigung.
„Wenn man Menschen dabei hilft, im Voraus eine Vertrauensperson zudentund gleichzeitig ihre Wahlfreiheit und Autonomie wahrt, kann dies den Zugang zu Unterstützung aus der realen Welt erleichtern, wenn es am wichtigsten ist.“
Dr. Munmun De Choudhury, Professorin und Ratsmitglied am Georgia Institute of Technology, nannte es „einen Schritt hin zur Stärkung der menschlichen Selbstbestimmung, insbesondere in Momenten der Verletzlichkeit“
OpenAI steht unter Druck durch Klagen wegen angeblichen KI-Selbstmords
Der Zeitpunkt ist kein Zufall. OpenAI sieht sich einer Flut von Klagen von Familien gegenüber, deren Angehörige nach langen ChatGPT-Sitzungen Suizid begangen haben. In mehreren Fällen behaupten der Chatbot habe die Nutzer aufgefordert, sich von ihren Lieben zu distanzieren oder schädliche Gedankenspiralen zu verstärken.
LLMDeathCount, eine Website, tracdie Todesfälle im Zusammenhang mit KI-Chatbots Cryptopolitan. 24 dieser Fälle gehen auf das Konto von ChatGPT. Die übrigen Fälle werden durch Googles Gemini, Meta und andere Plattformen verursacht.
Die neue Funktion von OpenAI ist optional, und Nutzer können mehrere ChatGPT-Konten verwenden. Wer die Funktion „Vertrauenswürdige Kontakte“ nicht aktiviert oder sich einfach mit einem anderen Konto anmeldet, umgeht die Funktion. Dasselbe gilt für die Kindersicherung.
Trusted Contact ersetzt auch keine Krisen-Hotlines. Laut OpenAI zeigt ChatGPT weiterhin lokale Krisennummern an und leitet Nutzer an Notdienste weiter, wenn Gespräche einen akuten Krisenzustand erreichen.
Die Funktion „Vertrauenswürdiger Kontakt“ von OpenAI verbindet KI-Nutzer mit realer Unterstützung. Das Unternehmen erklärte, es werde weiterhin mit Ärzten, Forschern und politischen Entscheidungsträgern zusammenarbeiten, um zu erarbeiten, wie KI in Krisensituationen reagieren sollte.
Wenn Sie das hier lesen, sind Sie schon einen Schritt voraus. Bleiben Sie mit unserem Newsletter auf dem Laufenden.
Häufig gestellte Fragen
Was ist die Funktion „Vertrauenswürdiger Kontakt“ von OpenAI?
Trusted Contact ist ein Sicherheitstool von ChatGPT, mit dem erwachsene Nutzer einen Freund oder ein Familienmitglied bestimmen können, der eine Benachrichtigung erhält, wenn die automatisierten Systeme von OpenAI und die menschlichen Prüfer in den Konversationen des Nutzers eine ernsthafte Selbstverletzungsgefahr feststellen.
Kann der vertrauenswürdige Kontakt den Chatverlauf des Nutzers einsehen?
Nein. Die Benachrichtigung enthält weder Chatdetails noch -protokolle. Sie gibt lediglich den allgemeinen Grund für die Warnung an und verlinkt zu Expertenratgebern für sensible Gespräche.
Wie viele Todesfälle stehen im Zusammenhang mit KI-Chatbots?
LLMDeathCount, eine Website tracvon Todesfällen, listet 33 Todesfälle im Zusammenhang mit Interaktionen mit KI-Chatbots im Zeitraum von März 2023 bis Mai 2026 auf. Die Opfer waren zwischen 13 und 83 Jahre alt. 24 dieser Fälle gehen auf das Konto von ChatGPT von OpenAI.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan/ übernimmt keine Haftung für Investitionen, die auf Grundlage der Informationen auf dieser Seite getätigt werden. Wirtronempfehlen dringend, vor jeder Anlageentscheidung eigene Recherchen durchzuführendent oder einen qualifizierten Fachmann zu konsultieren
Randa Moses
Randa Moses ist Redakteurin und Reporterin bei Cryptopolitan und berichtet über Technologie, KI, Robotik, Kryptowährungen, Betrug und Hackerangriffe. Sie ist seit 2017 in der Krypto-Branche tätig und arbeitete zuvor bei Forward Protocol, AmaZix und Cryptosomniac. Randa hat einen Abschluss in Elektrotechnik undtronvon der Universität Bradford.
CRASH-KURS
- Mit welchen Kryptowährungen kann man Geld verdienen?
- Wie Sie Ihre Sicherheit mit einer digitalen Geldbörse erhöhen können (und welche sich tatsächlich lohnen)
- Wenig bekannte Anlagestrategien, die Profis anwenden
- Wie man mit dem Investieren in Kryptowährungen beginnt (welche Börsen man nutzen sollte, welche Kryptowährung am besten zum Kauf geeignet ist usw.)