Mark Zucks Meta wird Eltern nun erlauben, KI-Charaktere zu blockieren und die Chat-Themen von Teenagern einzusehen

Mark Zuckers Meta hat am Freitag angekündigt, neue Elternkontrollen einzuführen, um Eltern dabei zu helfen, zu verwalten, wie Teenager mit den KI-Charakteren auf seinen Plattformen interagieren.

Eltern werden bald in der Lage sein, One-on-One-Chats zu deaktivieren, bestimmte KI-Bots zu blockieren und einzusehen, über welche Themen ihre Teenager mit diesen sprechen. Das Unternehmen sagte, diese Funktionen seien noch in der Entwicklung und würden Anfang nächsten Jahres schrittweise eingeführt.

„Aktualisierungen vorzunehmen, die Milliarden von Nutzern auf Meta-Plattformen betreffen, ist etwas, das wir mit Sorgfalt tun müssen, und wir werden bald mehr dazu teilen“, sagte Meta in einer Erklärung, die auf seinem Blog veröffentlicht wurde. Die Ankündigung erfolgt, während das Unternehmen unter wachsender scrutiny bezüglich der Jugendsicherheit und psychischer Gesundheitsprobleme steht, die mit seinen Apps verbunden sind.

Die Federal Trade Commission (FTC) hat eine Untersuchung gegen mehrere Tech-Giganten, darunter Meta, eingeleitet, um zu verstehen, wie KI-Chatbots Kinder beeinflussen könnten. Die FTC sagte, sie wolle wissen, welche Maßnahmen die Unternehmen ergriffen haben, um „die Sicherheit dieser Chatbots zu bewerten, wenn sie als Begleiter agieren.“

Die Untersuchung erfolgt nach Jahren öffentlicher Bedenken regarding der Art und Weise, wie Social-Media-Plattformen den Zugang von Jugendlichen zu KI-Gesprächen handhaben, die unangemessen oder schädlich werden könnten.

Meta sieht sich nach romantischen KI-Chatbots mit Kindern kritisiert

Im August hatte Reuters berichtet, dass einige Meta-Chatbots in der Lage waren, romantische und sinnliche Gespräche mit Minderjährigen zu führen. Eines der zitierten Beispiele war ein romantisches Gespräch zwischen einem KI-Bot und einem achtjährigen Kind. Der Bericht verursachte Empörung und zwang das Unternehmen zu einer sofortigen Reaktion.

Danach aktualisierte Meta seine Chatbot-Richtlinien. Das Unternehmen blockiert nun seine KI-Systeme davor, über Selbstverletzung, Suizid, Essstörungen sowie romantische oder sexuelle Inhalte zu sprechen, wenn sie mit Teenagern interagieren. Es hieß auch, dass diese Woche neue Schutzmaßnahmen eingeführt wurden, um zu verhindern, dass seine KIs „altersunangemessene Antworten produzieren, die in einem PG-13-Film fehl am Platz wären.“

Diese Updates werden bereits in den Vereinigten Staaten, dem Vereinigten Königreich, Australien und Kanada ausgerollt. Das Unternehmen fügte hinzu, dass Teenager nur mit einer begrenzten Auswahl an KI-Charakteren sprechen können und Eltern bereits Tools haben, um Zeitlimits festzulegen und KI-Chats zu überwachen.

OpenAI tritt unter die FTC-Suchscheinwerfer

OpenAI, das ebenfalls in der FTC-Untersuchung genannt wurde, sieht sich denselben Fragen bezüglich der Jugendsicherheit und des Chatbot-Verhaltens gegenüber. Das Unternehmen hat kürzlich seine eigenen Elternkontrollen veröffentlicht und entwickelt eine Technologie zur Altersvorhersage, um automatisch altersgerechte Einstellungen für Nutzer unter 18 Jahren anzuwenden.

Eltern erhalten sogar Warnungen, wenn ihr Kind Anzeichen emotionaler Belastung während des Chats zeigt.

Anfang dieser Woche gründete OpenAI einen Rat aus acht Experten, um seinen Ansatz für psychische Gesundheit und KI-Interaktion zu leiten. Diese Spezialisten stammen aus Bereichen wie Psychiatrie, Psychologie und Mensch-Computer-Interaktion.

Das Unternehmen sagte, es habe die Experten vor der offiziellen Gründung des Rates informell konsultiert. Ihr erstes Treffen fand letzte Woche während einer persönlichen Sitzung statt.

Die Untersuchung der FTC gegenüber OpenAI folgt auch einer Klage wegen fahrlässiger Tötung, die von einer Familie eingereicht wurde, die ChatGPT für den Suizid ihres Teenagers verantwortlich macht. Das Unternehmen sagt, es arbeite jetzt mit Klinikern des Global Physician Network zusammen, um ChatGPT zu testen und neue Sicherheitsrichtlinien zu etablieren, um junge Nutzer besser zu schützen.

Sowohl Meta als auch OpenAI sehen sich nun gezwungen, die Kontrolle darüber zu verschärfen, wie ihre KIs mit Teenagern sprechen. Die Kombination aus öffentlichem Zorn, regulatorischem Druck und tragischen Konsequenzen in der realen Welt hat es diesen Unternehmen unmöglich gemacht, die Risiken weiterhin zu ignorieren.