- Meta schaltet den Zugang von Jugendlichen zu seinen KI-Charakteren weltweit in jeder App ab.
- Das Unternehmen hat den Zugriff ausgesetzt, nachdem Eltern mehr Einblick und Kontrolle über die Interaktionen ihrer Teenager mit KI-Charakteren gefordert haben.
- Metas Schritt, die KI-Charaktere für Jugendliche zu stoppen, erfolgt kurz vor einem Prozess in New Mexico, in dem Meta der Anklage ausgesetzt ist, Kinder auf seinen Apps nicht geschützt zu haben.
Meta hat angekündigt, den Zugang aller Jugendlichen zu seinen KI-Charakteren weltweit in jeder App zu deaktivieren.
„Ab den kommenden Wochen werden Jugendliche keinen Zugriff mehr auf KI-Charaktere in unseren Apps haben, bis die aktualisierte Erfahrung bereitsteht“, schrieb Meta in einem Blogbeitrag.
Das Unternehmen erklärte in einem aktualisierten Blogbeitrag, dass diese Regel alle Personen umfasst, die ein Jugendlichengeburtstag angegeben haben, sowie diejenigen, die behaupten, Erwachsene zu sein, aber von ihrer Altersschätzungstechnologie als Jugendliche eingestuft werden.
Meta sperrte den Zugang, als Eltern klarere Informationen und mehr Kontrolle über die KI-Interaktionen ihrer Jugendlichen forderten.
Das Unternehmen plante, diese Funktionen in diesem Jahr zu veröffentlichen, hat sich jedoch entschieden, KI-Charaktere vollständig zu deaktivieren.
Meta plant altersspezifische KI-Charaktere
Das Unternehmen zielt darauf ab, einen speziellen KI-Charakter nur für Jugendliche zu erstellen. Meta gab an, dass die neuen KI-Charaktere für Jugendliche elterliche Kontrollfunktionen enthalten werden.
Die neuen Charaktere werden altersgerechte Antworten liefern und sich auf Bildung, Sport und Hobbys konzentrieren.
Im Oktober führte Meta elterliche Kontrollen ein, um anzupassen, wie Jugendliche mit KI auf seinen Apps interagieren. Die neuen Funktionen schränkten Jugendliche ein, extreme Gewalt, Nacktheit und grafische Drogenkonsum zu sehen, inspiriert von der PG-13-Bewertung.
Einige Tage später führte das Unternehmen Tools zur Verwaltung von KI-Charakteren ein, damit Eltern und Erziehungsberechtigte Themen verfolgen und den Zugriff auf bestimmte Charaktere einschränken können. Meta erklärte, dass Eltern Chats mit KI-Charakteren vollständig deaktivieren könnten.
Am Donnerstag, Wired erklärte dass Meta versuchte, die Informationsbeschaffung über die Auswirkungen sozialer Medien auf die psychische Gesundheit von Jugendlichen und damit verbundene Berichte einzuschränken.
Das Unternehmen möchte jegliche Erwähnung eines kürzlichen Suizidfalls eines Jugendlichen, der mit sozialen Medien in Verbindung gebracht wurde, sowie Verweise auf Metas Finanzen, Mitarbeiteraktivitäten und Mark Zuckerbergs Harvard-Jahre entfernen.
Metas Schritt, die KI-Charaktere für Jugendliche zu stoppen, erfolgt kurz vor einem Prozess in New Mexico, in dem Meta der Anklage ausgesetzt ist, Kinder auf seinen Apps nicht geschützt zu haben.
Es wird behauptet, dass Meta Minderjährige nicht vor onlineer Belästigung, Menschenhandel und sexuellem Missbrauch auf seinen Plattformen geschützt habe.
Meta erklärte in Vorprozess-Bewegungen, dass die Jury nur entscheiden sollte, ob Meta gegen New Mexicos Gesetz gegen unlautere Geschäftspraktiken im Hinblick auf Kindersicherheit und psychische Gesundheit von Jugendlichen verstoßen hat.
Andere Themen wie angebliche Wahlbeeinflussung, Desinformation oder Datenschutzverletzungen sollten nicht berücksichtigt werden.
Neben dem Fall in New Mexico steht Meta nächste Woche vor einem Prozess wegen der Verursachung von Social-Media-Sucht.
Die 19-jährige Klägerin, bekannt als K.G.M., behauptete, der Algorithmus der Plattformen habe Sucht verursacht und ihre psychische Gesundheit geschädigt.
CEO Mark Zuckerberg wird wahrscheinlich aussagen, sobald der Prozess beginnt.
Online-Plattformen schränken den Zugang für Jugendliche ein
Soziale Medien-Plattformen und KI-Unternehmen haben ihre Jugenderfahrung aufgrund von Klagen geändert, die behaupten, sie hätten zu Selbstverletzung beigetragen.
Am Januar 20, OpenAI führte Altersvorhersage-Funktionen in ChatGPT ein, um jüngere Nutzer zu erkennen und Schutzmaßnahmen zu verbessern.
Das Altersvorhersagemodell von ChatGPT analysiert Verhaltens- und Kontodaten, wie das angegebene Alter des Nutzers, das Kontosalter, Aktivitätszeiten und Nutzungstrends.
Letzte Woche führte TikTok KI-Technologie in Europa ein, um Konten von Nutzern unter 13 Jahren zu erkennen und zu löschen.
Das KI-Alterskontrollsystem prüft Profilangaben, Clips und Posting-Gewohnheiten, um Minderjährigenkonten zu identifizieren. Die Funktion wird in den kommenden Wochen ausgerollt.
Andere Online-Plattformen wie Instagram, YouTube, TikTok und Roblox haben Altersfreigabemaßnahmen übernommen.
Wenn Sie dies lesen, sind Sie bereits einen Schritt voraus. Bleiben Sie mit unserem Newsletter auf dem Laufenden.
Randa Moses
Randa Moses ist Redakteurin und Reporterin bei Cryptopolitan, wo sie über Technologie, KI, Robotik, Krypto, Betrug und Hacks berichtet. Sie arbeitet seit 2017 im Krypto-Bereich. Zuvor war sie bei Forward Protocol, AmaZix und Cryptosomniac tätig. Randa besitzt einen Abschluss in Elektrotechnik und Elektronik der University of Bradford.
