OpenAI entwickelt ein neues ChatGPT speziell für Jugendliche

OpenAI hat angekündigt, dass es eine dedizierte Version von ChatGPT für Jugendliche entwickelt, einen Schritt, der seiner Aussage nach notwendig ist, um ein Gleichgewicht zwischen Sicherheit, Privatsphäre und Freiheit zu finden.

Das in San Francisco ansässige Unternehmen, das am besten dafür bekannt ist, KI in den Mainstream zu bringen, sagte am Dienstag, es werde das einführen, was es als „ein anderes ChatGPT-Erlebnis“ für Nutzer unter 18 Jahren beschrieb. Dies geschieht im Zuge des Drucks von Aufsichtsbehörden, Politikern und Eltern, die eine intensivere Überprüfung der Auswirkungen von KI-gestützten Chatbots auf die psychische Gesundheit junger Menschen fordern.

Das neue ChatGPT wird Schutzmechanismen besitzen, um Jugendliche zu schützen

OpenAI-CEO Sam Altman räumte ein, dass das Unternehmen vor schwierigen Zielkonflikten stand.

„Einige unserer Prinzipien stehen im Konflikt“, schrieb er in einem Blogbeitrag. „Wir priorisieren die Sicherheit vor der Privatsphäre und der Freiheit für Jugendliche; dies ist eine neue und leistungsstarke Technologie, und wir glauben, dass Minderjährige einen erheblichen Schutz benötigen.“

OpenAI forderte Nutzer lange Zeit auf, mindestens 13 Jahre alt zu sein, beabsichtigt jedoch nun, ein strengeres Altersvorhersagesystem zu entwickeln, um Erwachsene von Minderjährigen zu unterscheiden. Im Zweifelsfall wird der Nutzer automatisch auf die jugendspezifische Version „aus Übermaß an Vorsicht“ umgeleitet.

Dieses Erlebnis wird nicht nur stärker überwacht, sondern auch Eltern eine zentralere Rolle einräumen. Durch die Verknüpfung von Konten können Mütter und Väter den Zugang ihrer Kinder verwalten, Funktionen wie Speicher und Chatverlauf einschränken und Sperrzeiten festlegen, in denen das System nicht nutzbar ist. Eltern werden auch benachrichtigt, wenn die Plattform Anzeichen von „akuter Not“ erkennt.

Das Unternehmen gab weitere Einschränkungen bekannt, wie zum Beispiel, dass ChatGPT für Jugendliche nicht in flirtende Gespräche verwickelt wird und auch nicht auf Fragen nach Suizid oder Selbstverletzung reagiert, selbst nicht im Rahmen kreativen Schreibens. Wenn ein Kind suizidale Gedanken zeigt, sagt das Unternehmen, es werde zunächst versuchen, die Eltern zu alarmieren, und gegebenenfalls die Behörden zu benachrichtigen.

„Dies sind schwierige Entscheidungen, aber nach Gesprächen mit Experten glauben wir, dass dies das Beste ist“, schrieb OpenAI.

OpenAI handelt im Kontext verschärfter regulatorischer Aufsicht

Diese neue vorgeschlagene Entwicklung kommt, als die Anhörung des US-Senats zur Prüfung der Risiken, die KI für Jugendliche birgt, nur noch Stunden entfernt ist. Die parteiübergreifende Diskussion wird von Senator Josh Hawley, einem Republikaner aus Missouri, zusammen mit den Senatoren Marsha Blackburn, Katie Britt, Richard Blumenthal und Chris Coons geleitet.

Letzte Woche hat die Federal Trade Commission im Rahmen einer Untersuchung eine Anfrage an OpenAI, Alphabet, Meta, xAI, Snap und Character.AI gerichtet. Die Kommission verlangt Informationen darüber, welche Maßnahmen jedes Unternehmen ergriffen hat, um Minderjährige zu schützen. Kürzlich hat, wie von Cryptopolitan berichtet, eine Risikobewertung von Common Sense Media Google Gemini als „hochriskant“ für Jugendliche und Kinder eingestuft.

Klagen erhöhen den Druck, da Eltern in den gesamten USA Beschwerden eingereicht haben, in denen sie Technologieunternehmen beschuldigen, süchtig machende Produkte entwickelt zu haben, die das psychische Wohlbefinden von Kindern schädigen. Die Welle rechtlicher Schritte hat Unternehmen wie YouTube bereits dazu gezwungen, kinderfreundliche Alternativen zu schaffen.

Obwohl OpenAI Bemühungen unternimmt, um ein sichereres ChatGPT für Minderjährige zu schaffen, gibt es keine Garantie dafür, dass die Initiative erfolgreich sein wird, da technikaffine Jugendliche möglicherweise die elterlichen Kontrollen umgehen und unzensierte Versionen beliebter Apps suchen.

„Wir müssen Nutzer, die unter 18 sind, von denen, die es nicht sind, trennen.“

OpenAI.

„Im Zweifel spielen wir auf Sicherheit“, erklärte das Unternehmen in seiner öffentlichen Stellungnahme.

Beobachter der Branche weisen darauf hin, dass Jugendliche trotz wohlmeinender Bemühungen oft „Umgehungsmöglichkeiten“ finden, um auf Mainstream-Plattformen zuzugreifen. Die Abhängigkeit von OpenAI von Eltern zur Überwachung der Aktivitäten, so sagen sie, könnte zu einem Stolperstein werden.

Die neue Initiative ist Teil eines breiteren Versprechens von OpenAI, bis Ende des Jahres stärkere Schutzmaßnahmen für junge Menschen und Personen in emotionaler Not einzuführen.

Wie Altman es formulierte: „Dies ist eine neue und leistungsstarke Technologie, und wir glauben, dass Minderjährige einen erheblichen Schutz benötigen.“