Récemment, Meta a été accusée de nuire à la santé mentale des adolescents, et plus de 40 États américains ont porté plainte contre elle, affirmant qu'elle « a profité de la souffrance des enfants ». Des responsables politiques américains ont accusé Meta de perturber le bien-être psychologique des jeunes. Jeudi, Meta a annoncé développer des outils basés sur l'intelligence artificielle pour protéger les enfants des tentatives d'extorsion sexuelle sur Instagram.
Les arnaques à l'extorsion sexuelle orchestrées par des gangs sur Instagram incitent des adolescents à partager leurs images explicites, puis exigent de l'argent ou menacent de diffuser ces images publiquement sur Internet.
Extorsion sexuelle financière et mesures de sécurité
Meta a annoncé tester des outils d'intelligence artificielle pour contrer la situation financière actuelle. Ces outils permettraient de protéger les mineurs contre la nudité en floutant les images détectées comme telles par l'IA lors de leur envoi à des messages sur Instagram. Capucine Tuffier, responsable de la protection de l'enfance chez Meta France, a déclaré à l'AFP que cela contribuerait à protéger les enfants de l'exposition à des contenus intimes non désirés et leur laisserait le choix de voir ou non l'image. En effet, à la réception d'un tel message, un avertissement s'afficherait sur l'image floutée.
Meta a indiqué qu'elle proposera également des conseils de sécurité à toute personne recevant ou envoyant de tels messages, afin d'apporter une aide rapide. Un message s'affichera à l'écran pour encourager l'utilisateur à ne pas se sentir obligé de répondre à cette potentielle tentative de fraude et lui offrira également la possibilité de bloquer l'expéditeur et de signaler l'dent.
D'après les statistiques officielles, près de 3 000 jeunes ont été victimes d'extorsion sexuelle aux États-Unis en 2022. En octobre dernier, plus de 40 États ont porté plainte contre Meta, la maison mère d'Instagram, l'accusant d'avoir profité de la souffrance d'enfants. L'entreprise est pointée du doigt pour avoir conçu un modèle économique exploitant les jeunes utilisateurs en les incitant à passer un maximum de temps sur sa plateforme, au mépris des conséquences néfastes sur leur santé mentale et leur bien-être.
Meta travaille sur des solutions d'apprentissage automatique embarquées
Au début de l'année, Meta a annoncé la mise en place de stratégies visant à protéger les mineurs de moins de 18 ans en restreignant les politiques d'utilisation des contenus et en renforçant le contrôle parental sur sa plateforme. Hier, Meta a déclaré que ses derniers outils s'appuient sur son travail de longue date concernant la protection des mineurs contre les interactions potentiellement négatives ou nuisibles.
Meta a déclaré dans un message :
« Nous testons de nouvelles fonctionnalités pour aider à protéger les jeunes contre le chantage sexuel et l'utilisation abusive d'images intimes, et pour rendre plus difficile pour les escrocs et les criminels potentiels de trouver et d'interagir avec les adolescents. »
Source : Meta
Meta a également ajouté :
« La protection contre la nudité utilise l'apprentissage automatique embarqué pour analyser si une image envoyée par message privé sur Instagram contient de la nudité. Comme les images sont analysées directement sur l'appareil, cette protection fonctionne même dans les conversations chiffrées de bout en bout, où Meta n'a pas accès à ces images, sauf si quelqu'un choisit de nous les signaler. »
Source : Meta
Meta a également insisté sur la nécessité de contrôler les comptes susceptibles de diffuser du contenu inapproprié et d'appliquer des restrictions strictes à leur égard lorsqu'ils contactent des utilisateurs mineurs. Bien que Meta ait été accusée à plusieurs reprises de violer la confidentialité des données , ces mesures semblent aller dans le bon sens. L'entreprise a toutefois précisé qu'elle n'aura accès aux images inappropriées que si elles sont signalées par les utilisateurs.
Cette histoire provient d'un blog Meta .
