Meta wurde kürzlich beschuldigt, die psychische Gesundheit von Teenagern zu schädigen, und mehr als 40 US-Bundesstaaten haben Klage gegen das Unternehmen eingereicht, da es angeblich „vom Leid von Kindern profitiert“ habe. US-Politiker warfen Meta vor, das psychische Wohlbefinden junger Menschen zu beeinträchtigen. Meta kündigte am Donnerstag an, auf künstlicher Intelligenz basierende Tools zu entwickeln, um Kinder vor Sextortion-Betrug auf Instagram zu schützen.
Sextortion-Betrügereien, die von Banden auf Instagram verübt werden, verleiten Teenager dazu, ihre intimen Bilder zu teilen und fordern dann Geld oder drohen andernfalls damit, die Bilder im Internet zu veröffentlichen.
Finanzielle Erpressung und Sicherheitsmaßnahmen
Meta gab bekannt, dass das Unternehmen KI-basierte Tools testet, um der finanziellen Lage entgegenzuwirken. Diese Tools sollen vor Nacktheit schützen, indem sie Bilder, die die KI als solche erkennt, in Instagram-Nachrichten an Minderjährige unkenntlich machen. Capucine Tuffier, Kinderschutzbeauftragte bei Meta Frankreich, erklärte gegenüber AFP, dies schütze Kinder vor unerwünschten intimen Inhalten und gebe ihnen die Wahl, ob sie das Bild sehen möchten oder nicht. Denn beim Empfang einer solchen Nachricht erscheint ein Warnhinweis über dem unkenntlich gemachten Bild.
Meta kündigte an, Sicherheitstipps und Ratschläge für alle Empfänger und Versender solcher Nachrichten anzubieten und so zeitnah Hilfe zu leisten. Auf dem Bildschirm erscheint eine Meldung, die den Nutzer dazu ermutigt, nicht unter Druck zu treten, auf mögliche Betrugsversuche zu reagieren, und ihm gleichzeitig die Möglichkeit bietet, den Absender zu blockieren und dendentzu melden.
Laut Behördenangaben wurden allein in den USA im Jahr 2022 fast 3000 Jugendliche Opfer von Sextortion. Bereits im Oktober verklagten über 40 Bundesstaaten die Instagram-Muttergesellschaft Meta. Dem Unternehmen wurde vorgeworfen, vom Leid von Kindern profitiert zu haben. Es wurde beschuldigt, ein Geschäftsmodell entwickelt zu haben, das junge Nutzer ausbeutet, indem es sie dazu bringt, möglichst viel Zeit auf der Plattform zu verbringen – ungeachtet der Schäden für ihre psychische Gesundheit und ihr Wohlbefinden.
Meta arbeitet an On-Device-Machine-Learning-Lösungen
Anfang des neuen Jahres kündigte Meta an, Strategien zum Schutz von Minderjährigen unter 18 Jahren zu veröffentlichen, indem die Richtlinien zur Inhaltsnutzung eingeschränkt und die elterliche Kontrolle auf der Plattform ausgebaut werden. Gestern erklärte Meta, dass die neuesten Tools auf der langjährigen Arbeit zum Schutz Minderjähriger vor potenziell negativen oder schädlichen Interaktionen aufbauen.
Meta schrieb in einem Beitrag:
„Wir testen neue Funktionen, um junge Menschen vor Sextortion und dem Missbrauch intimer Bilder zu schützen und es potenziellen Betrügern und Kriminellen zu erschweren, Teenager zu finden und mit ihnen in Kontakt zu treten.“
Quelle: Meta
Meta fügte außerdem hinzu:
„Der Nacktheitsschutz nutzt maschinelles Lernen direkt auf dem Gerät, um zu analysieren, ob ein per Direktnachricht auf Instagram gesendetes Bild Nacktheit enthält. Da die Bilder direkt auf dem Gerät analysiert werden, funktioniert der Nacktheitsschutz auch in Ende-zu-Ende-verschlüsselten Chats, in denen Meta keinen Zugriff auf diese Bilder hat – es sei denn, jemand meldet sie uns.“
Quelle: Meta
Meta forderte außerdem, potenzielle Konten, die anstößige Inhalte versenden, zu überprüfen und strenge Beschränkungen für die Kontaktaufnahme mit minderjährigen Nutzern anzuwenden. Obwohl Meta bereits mehrfach wegen Verstößen gegen die Datenschutzbestimmungen , scheinen diese Maßnahmen in die richtige Richtung zu gehen. Das Unternehmen wies jedoch auch darauf hin, dass es nur dann Zugriff auf unangemessene Bilder erhält, wenn diese von den Nutzern gemeldet werden.
Diese Geschichte stammt aus einem Meta-Blog .
