Meta hat angekündigt, den Zugang von Teenagern zu seinen KI-Charakteren weltweit in allen Apps zu deaktivieren.
„Ab den kommenden Wochen werden Teenager in unseren Apps keinen Zugriff mehr auf KI-Charaktere haben, bis die aktualisierte Benutzeroberfläche verfügbar ist“, schrieb Meta in einem Blogbeitrag.
Das Unternehmen erklärte in einem aktualisierten Blogbeitrag, dass diese Regel für alle gilt, die ein Geburtsdatum im Teenageralter angegeben haben, sowie für diejenigen, die angeben, Erwachsene zu sein, bei denen aber aufgrund von Altersvorhersagetechnologien der Verdacht besteht, dass es sich um Teenager handelt.
Meta stellte den Zugriff ein, als Eltern klarere Informationen und mehr Kontrolle über die KI-Interaktionen ihrer Teenager forderten.
Das Unternehmen hatte geplant, diese Funktionen noch in diesem Jahr zu veröffentlichen, hat sich aber nun entschieden, die KI-Charaktere komplett zu deaktivieren.
Metapläne altersspezifische KI-Charaktere
Das Unternehmen plant die Entwicklung eines speziellen KI-Charakters für Teenager. Meta gab an, dass die neuen KI-Charaktere für Teenager über eine Kindersicherung verfügen werden.
Die neuen Charaktere werden altersgerechte Antworten geben und sich auf Bildung, Sport und Hobbys konzentrieren.
Im Oktober führte Meta eine Kindersicherung ein, mit der Jugendliche die Nutzung von KI in seinen Apps anpassen können. Die neuen Funktionen beschränken den Zugriff von Jugendlichen auf Inhalte mit extremer Gewalt, Nacktheit und explizitem Drogenkonsum, angelehnt an die PG-13-Freigabe.
Wenige Tage später stellte das Unternehmen Tools zur Verwaltung von KI-Charakteren vor, mit denen Eltern und Erziehungsberechtigte tracihre Kinder Meta erklärte, dass Eltern Chats mit KI-Charakteren vollständig deaktivieren könnten.
Am Donnerstag berichtete dass Meta versucht habe, die Informationsbeschaffung über die Auswirkungen sozialer Medien auf die psychische Gesundheit von Teenagern und entsprechende Berichte einzuschränken.
Das Unternehmen möchte jegliche Erwähnung eines kürzlich aufgetretenen Selbstmordfalls eines Teenagers im Zusammenhang mit sozialen Medien sowie Verweise auf die Finanzen von Meta, die Aktivitäten der Mitarbeiter und Mark Zuckerbergs Harvard-Jahre entfernen.
Metas Vorgehen gegen KI-gesteuerte Teenager-Charaktere erfolgt kurz vor einem Prozess in New Mexico, in dem Meta wegen mangelnden Schutzes von Kindern in seinen Apps angeklagt wird.
Es wird behauptet, dass Meta Minderjährige auf seinen Seiten nicht ausreichend vor Online-Anbahnung, Menschenhandel und sexuellem Missbrauch geschützt habe.
Meta erklärte in Anträgen vor Prozessbeginn, dass die Jury lediglich darüber entscheiden solle, ob Meta gegen das Gesetz über unlautere Geschäftspraktiken in New Mexico in Bezug auf Kindersicherheit und psychische Gesundheit von Jugendlichen verstoßen habe.
Andere Probleme wie mutmaßliche Wahlbeeinflussung, Fehlinformationen oder Datenschutzverletzungen sollten nicht berücksichtigt werden.
Neben dem Fall in New Mexico steht Meta nächste Woche vor Gericht, weil er angeblich eine Sucht nach sozialen Medien verursacht hat.
Die 19-jährige Klägerin, bekannt unter dem Pseudonym KGM, behauptete, der Algorithmus der Plattformen habe zu einer Sucht geführt und ihrer psychischen Gesundheit geschadet.
Es ist wahrscheinlich, dass CEO Mark Zuckerberg aussagen wird, sobald der Prozess beginnt.
Online-Plattformen schränken den Zugang für Teenager ein
Soziale Medien und KI-Unternehmen haben die Erfahrungen von Teenagern aufgrund von Klagen verändert, in denen ihnen vorgeworfen wird, zu Selbstverletzungen beigetragen zu haben.
Am 20. Januar OpenAI in ChatGPT Funktionen zur Altersvorhersage ein, um jüngere Nutzer zu erkennen und deren Schutz zu verbessern.
Das Altersvorhersagemodell von ChatGPT analysiert Verhaltens- und Kontodaten, wie beispielsweise das vom Benutzer angegebene Alter, das Alter des Kontos, die Aktivitätszeiten und die Nutzungstrends.
Letzte Woche führte TikTok in Europa eine KI-Technologie ein, um Konten von Nutzern unter 13 Jahren zu erkennen und zu löschen.
Das KI-gestützte System zur Altersverifizierung analysiert Profildetails, Videos und Posting-Gewohnheiten, um Konten von Minderjährigen zudent. Die Funktion wird in den kommenden Wochen eingeführt.
Andere Online-Plattformen wie Instagram, YouTube, TikTok und Roblox haben Altersbeschränkungen eingeführt.
