Wird geladen...

Meta führt KI-Tools zum Schutz Minderjähriger vor Sextortion ein

TL;DR

  • Meta testet neue Tools und Funktionen, um Teenager vor Sextortion auf Instagram zu schützen.
  • Zu diesem Zweck wird KI-Technologie eingesetzt, außerdem werden Ratschläge und Sicherheitstipps weitergegeben.
  • Der Instagram-Plattform von Meta wird vorgeworfen, die psychische Gesundheit von Teenagern zu schädigen.

Kürzlich wurde Meta vorgeworfen, die psychische Gesundheit von Teenagern zu schädigen, und mehr als 40 Bundesstaaten verklagten Meta mit der Begründung, es habe „vom Schmerz der Kinder profitiert“. US-Politiker werfen Meta vor, die psychische Gesundheit von Jugendlichen zu beeinträchtigen. Meta gab am Donnerstag bekannt, dass es auf künstlicher Intelligenz basierende Tools entwickelt, um Kinder vor Sextortion-Betrügereien auf Instagram zu schützen.  

Sextortion-Betrügereien von Banden auf Instagram verleiten Jugendliche dazu, ihre expliziten Bilder zu teilen und verlangen dann Geld oder drohen auf andere Weise damit, die Bilder im Internet der Öffentlichkeit zugänglich zu machen. 

Finanzielle Sextortierung und Sicherheitsmaßnahmen

Meta kündigte an, auf künstlicher Intelligenz basierende Tools getestet zu haben, um der finanziellen Situation entgegenzuwirken. Die Tools sollen einen Schutz vor Nacktheit bieten, indem sie die Bilder verwischen, die ihre KI erkennt, weil sie Nacktheit enthalten, während sie in Nachrichten auf Instagram an Minderjährige gesendet werden. Capucine Tuffier, verantwortlich für den Kinderschutz bei Meta France, sagte gegenüber AFP, dass dies dazu beitragen werde, Kinder vor unerwünschten intimen Inhalten zu schützen und ihnen die Wahl zu geben, ob sie das Bild sehen möchten oder nicht, etwa wenn jemand eine solche Nachricht erhält , erscheint über dem unscharfen Bild ein Warnbildschirm.

Meta sagte, dass sie jedem, der solche Nachrichten empfängt oder sendet, auch Sicherheitstipps und Ratschläge geben werden, was eine rechtzeitige Hilfe darstellt. Auf dem Bildschirm wird eine Meldung angezeigt, die den Benutzer dazu auffordert, sich nicht unter Druck gesetzt zu fühlen, auf die potenzielle Betrügerei zu reagieren, und die außerdem die Möglichkeit bietet, den Absender zu blockieren und den dent zu melden.

Nach Angaben der Behörden wurden im Jahr 2022 allein in den Vereinigten Staaten fast 3000 Jugendliche Opfer von Sextortion-Betrügereien. Bereits im Oktober verklagten mehr als 40 Bundesstaaten das Mutterunternehmen von Instagram, Meta, mit der Begründung, das Unternehmen habe vom Leid der Kinder profitiert. Dem Unternehmen wurde vorgeworfen, ein Geschäftsmodell entwickelt zu haben, das junge Nutzer ausnutzt, indem es trotz der Beeinträchtigung ihrer psychischen Gesundheit und ihres Wohlbefindens maximale Zeit auf ihrer Plattform verbringt.  

Meta arbeitet an Lösungen für maschinelles Lernen auf dem Gerät

Zu Beginn des neuen Jahres gab Meta bekannt, dass sie Strategien zum Schutz von Minderjährigen unter 18 Jahren veröffentlichen würden, indem sie die Richtlinien zur Inhaltsnutzung einschränken und die elterliche Kontrolle auf ihrer Plattform erhöhen. Gestern sagte Meta, dass seine neuesten Tools auf seiner tief verwurzelten Arbeit zum Schutz minderjähriger Menschen vor möglichen negativen oder schädlichen Interaktionen aufbauen.

Meta sagte in einem Beitrag:

„Wir testen neue Funktionen, um junge Menschen vor Sextortion und Missbrauch von Intimbildern zu schützen und es potenziellen Betrügern und Kriminellen zu erschweren, Jugendliche zu finden und mit ihnen zu interagieren.“

Quelle: Meta

Meta fügte außerdem hinzu:

„Nacktheitsschutz nutzt maschinelles Lernen auf dem Gerät, um zu analysieren, ob ein in einer DM auf Instagram gesendetes Bild Nacktheit enthält. Da die Bilder auf dem Gerät selbst analysiert werden, funktioniert der Schutz vor Nacktheit in Ende-zu-Ende-verschlüsselten Chats, in denen Meta keinen Zugriff auf diese Bilder hat – es sei denn, jemand meldet sie uns.“

Quelle: Meta

Meta drängte außerdem darauf, potenzielle Konten, die anstößige Inhalte senden, zu überprüfen und ihnen bei der Kontaktaufnahme mit minderjährigen Nutzern strenge Beschränkungen aufzuerlegen. mehrfach beschuldigt wurde, die Privatsphäre Das Unternehmen wies aber auch darauf hin, dass es keinen Zugriff auf die unangemessenen Bilder habe, es sei denn, sie würden von den Nutzern gemeldet.

Diese Geschichte stammt aus einem Meta-Blog .

Haftungsausschluss. Die bereitgestellten Informationen sind keine Handelsberatung. Cryptopolitan.com haftet nicht für Investitionen, die auf der Grundlage der auf dieser Seite bereitgestellten Informationen getätigt wurden. Wir tron dringend unabhängige dent und/oder Beratung durch einen qualifizierten Fachmann, bevor Sie Anlageentscheidungen treffen.

Einen Link teilen:

Aamir Scheich

Amir ist ein Medien-, Marketing- und Content-Experte, der in der digitalen Branche arbeitet. Ein Veteran in der Content-Produktion Amir ist jetzt ein begeisterter Befürworter, Analyst und Autor von Kryptowährungen.

Meist gelesen

Die meisten gelesenen Artikel werden geladen...

Bleiben Sie über Krypto-Neuigkeiten auf dem Laufenden und erhalten Sie tägliche Updates in Ihrem Posteingang

Ähnliche Neuigkeiten

Grok
Kryptopolitan
Abonnieren Sie CryptoPolitan