- Meta testet neue Tools und Funktionen, um Jugendliche vor Sextortion auf Instagram zu schützen.
- Dafür wird KI-Technologie eingesetzt, zudem werden Ratschläge und Sicherheitstipps geteilt.
- Die Instagram-Plattform von Meta wurde beschuldigt, die psychische Gesundheit von Jugendlichen zu schädigen.
Kürzlich wurde Meta beschuldigt, die psychische Gesundheit von Teenagern zu schädigen, und mehr als 40 Bundesstaaten klagen es an und behaupten, es habe „vom Leid der Kinder profitiert“. US-Politiker haben Meta beschuldigt, das psychische Wohlbefinden von Jugendlichen zu stören. Meta gab am Donnerstag bekannt, dass es Tools auf Basis künstlicher Intelligenz entwickelt, um Kinder vor Sextortion-Betrugsversuchen auf Instagram zu schützen.
Sextortion-Betrugsversuche, die von Banden auf Instagram durchgeführt werden, überreden Teenager, ihre expliziten Bilder zu teilen, und fordern dann Geld oder drohen andernfalls damit, die Bilder im Internet der Öffentlichkeit preiszugeben.
Finanzielle Sextortion und Sicherheitsmaßnahmen
Meta gab bekannt, dass es Tools auf Basis künstlicher Intelligenz getestet hat, um der finanziellen Situation entgegenzuwirken. Die Tools sollen einen Nuditätsschutz bieten, indem sie Bilder, die ihre KI als Nudität erkennt, während sie Minderjährigen in Nachrichten auf Instagram gesendet werden, unscharf machen. Capucine Tuffier, zuständig für Kinderschutz bei Meta Frankreich, sagte gegenüber AFP, dass dies dazu beitragen wird, Kinder vor der Exposition gegenüber unerwünschten intimen Inhalten zu schützen und ihnen die Wahl zu geben, ob sie das Bild sehen möchten oder nicht, da beim Empfang einer solchen Nachricht ein Warnbildschirm über dem unscharfen Bild erscheint.
Meta sagte, dass es auch Sicherheitstipps und Ratschläge für jeden anbieten wird, der solche Nachrichten empfängt oder sendet, um rechtzeitige Hilfe zu leisten. Eine Nachricht wird auf dem Bildschirm erscheinen, die den Nutzer ermutigt, sich nicht unter Druck gesetzt zu fühlen, auf die potenzielle Täuschung zu reagieren, und auch die Option bieten wird, den Absender zu blockieren und den Vorfall zu melden.
Laut Statistiken der Behörden wurden im Jahr 2022 in den Vereinigten Staaten allein fast 3.000 Jugendliche als Opfer von Sextortion-Betrugsversuchen identifiziert. Im Oktober klagten mehr als 40 Bundesstaaten die Muttergesellschaft von Instagram, Meta, in einem Fall an, in dem es hieß, das Unternehmen habe vom Leid der Kinder profitiert. Das Unternehmen wurde beschuldigt, ein Geschäftsmodell zu entwickeln, das junge Nutzer ausbeutet, indem es die meiste Zeit auf ihrer Plattform verbringt, trotz der Schäden an ihrer psychischen Gesundheit und ihrem Wohlbefinden.
Meta arbeitet an On-Device-Maschinenladelösungen
Zu Beginn des neuen Jahres gab Meta bekannt, dass es Strategien veröffentlichen wird, um Minderjährige unter 18 Jahren zu schützen, indem es die Richtlinien zur Inhaltsnutzung einschränkt und die Elternkontrolle auf seiner Plattform erhöht. Gestern sagte Meta, dass seine neuesten Tools auf seiner tief verwurzelten Arbeit zum Schutz von Minderjährigen vor potenziell negativen oder schädlichen Interaktionen aufbauen.
Meta sagte in einem Beitrag:
„Wir testen neue Funktionen, um junge Menschen vor Sextortion und der Missbrauchsgefahr durch intime Bilder zu schützen und es potenziellen Betrügern und Kriminellen zu erschweren, Jugendliche zu finden und mit ihnen zu interagieren.“
Quelle: Meta
Meta fügte hinzu:
„Der Nuditätsschutz nutzt On-Device-Maschinenlernen, um zu analysieren, ob ein in einer DM auf Instagram gesendetes Bild Nudität enthält. Da die Bilder auf dem Gerät selbst analysiert werden, funktioniert der Nuditätsschutz auch in Ende-zu-Ende-verschlüsselten Chats, in denen Meta keinen Zugriff auf diese Bilder hat – es sei denn, jemand entscheidet sich, sie uns zu melden.“
Quelle: Meta
Meta forderte auch auf, potenzielle Konten, die anstößige Inhalte senden, zu screenen und strenge Einschränkungen für sie anzuwenden, wenn sie Minderjährige kontaktieren. Während wir wissen, dass Meta bereits oft beschuldigt wurde, gegen die Datenschutzrichtlinien seiner Nutzer verstoßen zu haben, scheinen diese Maßnahmen in die richtige Richtung zu gehen. Das Unternehmen wies jedoch darauf hin, dass es keinen Zugriff auf die unangemessenen Bilder haben wird, es sei denn, sie werden von den Nutzern gemeldet.
Diese Geschichte stammt aus einem Meta-Blog.
Die klügsten Krypto-Köpfe lesen bereits unseren Newsletter. Lust dabei? Mach mit.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com Wir übernehmen keine Haftung für Investitionen, die auf den auf dieser Seite bereitgestellten Informationen basieren. Wir empfehlen dringend, vor jeglichen Anlageentscheidungen eine unabhängige Recherche durchzuführen und/oder einen qualifizierten Fachmann zu konsultieren.
Aamir Sheikh
Aamir ist Tech-Journalist mit fast sechs Jahren Erfahrung in der Krypto- und Technologiebranche. Er absolvierte sein Studium an der MAJ University mit einem MBA in Finanzen und Marketing. Heute arbeitet er für Cryptopolitan, wo er über die neuesten Entwicklungen in den Kryptowährungsmärkten und Preisprognosen berichtet.
