Meta lancera des outils IA pour la protection contre la sextorsion des mineurs
- Meta teste de nouveaux outils et fonctionnalités pour protéger les adolescents du chantage sexuel sur Instagram.
- La technologie IA sera utilisée à cette fin, et des conseils ainsi que des astuces de sécurité seront également partagés.
- La plateforme Instagram de Meta a été accusée de nuire à la santé mentale des adolescents.
Récemment, Meta a été accusé de nuire à la santé mentale des adolescents, et plus de 40 États le poursuivent, affirmant qu'il a « tiré profit de la douleur des enfants ». Les politiciens américains ont accusé Meta de perturber le bien-être psychologique des jeunes. Meta a annoncé jeudi qu'il développait des outils basés sur l'intelligence artificielle pour protéger les enfants des arnaques de sextorsion sur Instagram.
Les arnaques de sextorsion menées par des gangs sur Instagram convainquent les adolescents de partager leurs images explicites, puis exigent de l'argent ou menacent de diffuser les images au public sur Internet.
Sextorsion financière et mesures de sécurité
Meta a annoncé qu'il testait des outils basés sur l'intelligence artificielle pour contrer la situation financière. On dit que les outils fournissent une protection contre la nudité en floutant les images que leur IA détecte comme contenant de la nudité lorsqu'elles sont envoyées à des mineurs dans les messages sur Instagram. Capucine Tuffier, responsable de la protection de l'enfance chez Meta France, a déclaré à l'AFP que cela aidera à protéger les enfants de l'exposition à du contenu intime non désiré et leur donnera le choix de voir ou non l'image, car lorsqu'une personne reçoit un tel message, un écran d'avertissement apparaîtra sur l'image floutée.
Meta a déclaré qu'il offrirait également des conseils et des recommandations de sécurité à quiconque reçoit ou envoie de tels messages, apportant une aide opportune. Un message apparaîtra à l'écran qui encouragera l'utilisateur à ne pas se sentir sous la pression de répondre à la potentielle supercherie et fournira également une option pour bloquer l'expéditeur et signaler l'incident.
Selon les statistiques des autorités, près de 3 000 jeunes ont été trouvés victimes d'arnaques de sextorsion en 2022 aux États-Unis uniquement. En octobre, plus de 40 États ont poursuivi la société mère d'Instagram, Meta, dans une affaire affirmant que l'entreprise avait tiré profit de la douleur des enfants. L'entreprise a été accusée de concevoir un modèle commercial qui exploite les jeunes utilisateurs en passant un maximum de temps sur leur plateforme, malgré les dommages causés à leur santé mentale et leur bien-être.
Meta travaille sur des solutions d'apprentissage automatique sur l'appareil
Au début de la nouvelle année, Meta a divulgué qu'il publierait des stratégies pour protéger les mineurs de moins de 18 ans en restreignant les politiques d'utilisation du contenu et en augmentant le contrôle parental sur sa plateforme. Hier, Meta a déclaré que ses derniers outils s'appuient sur son travail profondément enraciné concernant la protection des personnes mineures contre les interactions potentielles négatives ou nuisibles.
Meta a déclaré dans un post,
« Nous testons de nouvelles fonctionnalités pour aider à protéger les jeunes de la sextorsion et des abus d'images intimes et pour rendre plus difficile pour les escrocs et criminels potentiels de trouver et d'interagir avec les adolescents. »
Source : Meta
Meta a également ajouté,
« La protection contre la nudité utilise l'apprentissage automatique sur l'appareil pour analyser si une image envoyée dans un message direct sur Instagram contient de la nudité. Comme les images sont analysées directement sur l'appareil, la protection contre la nudité fonctionnera dans les chats chiffrés de bout en bout, où Meta n'aura pas accès à ces images – à moins que quelqu'un ne les signale. »
Source : Meta
Meta a également exhorté à filtrer les comptes potentiels envoyant du contenu inapproprié et à leur appliquer des restrictions strictes lorsqu'ils contactent des utilisateurs mineurs. Bien que nous sachions que Meta a été accusé à de nombreuses reprises de violer la confidentialité des données de ses utilisateurs, ces mesures semblent aller dans la bonne direction. Mais l'entreprise a également souligné qu'elle n'aurait pas accès aux images inappropriées à moins qu'elles ne soient signalées par les utilisateurs.
Cette histoire provient d'un blog Meta.
Les esprits les plus brillants du secteur crypto lisent déjà notre newsletter. Vous aussi ? Rejoignez-les.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Aamir Sheikh
Aamir est journaliste technologique avec près de six ans d'expérience dans les secteurs de la cryptomonnaie et de la technologie. Il est diplômé de l'université MAJ avec un MBA en finance et marketing. Il travaille désormais pour Cryptopolitan, où il rend compte des dernières évolutions des marchés de la cryptomonnaie et des prévisions de prix.
