Meta lanzará herramientas de IA para la protección contra sextorsión de menores

Recientemente, Meta ha sido acusada de dañar la salud mental de los adolescentes, y más de 40 estados la están demandando, alegando que se ha 'beneficiado del dolor de los niños'. Los políticos estadounidenses han acusado a Meta de perturbar el bienestar psicológico de los jóvenes. Meta anunció el jueves que está desarrollando herramientas basadas en inteligencia artificial para proteger a los niños de las estafas de sextorsión en Instagram. 

Las estafas de sextorsión dirigidas por bandas en Instagram convencen a los adolescentes para que compartan sus imágenes explícitas y luego exigen dinero o, de lo contrario, amenazan con publicar las imágenes en internet. 

Sextorsión financiera y medidas de seguridad

Meta anunció que ha estado probando herramientas basadas en inteligencia artificial para contrarrestar la situación financiera. Se dice que las herramientas proporcionan protección contra la desnudez difuminando las imágenes que su IA detecta como contenidas desnudez mientras se envían a menores en mensajes en Instagram. Capucine Tuffier, a cargo de la protección infantil en Meta Francia, dijo a AFP que esto ayudará a proteger a los niños de la exposición a contenido íntimo no deseado y les dará la opción de si quieren ver la imagen o no, ya que cuando alguien recibe cualquier mensaje de este tipo, aparecerá una pantalla de advertencia sobre la imagen difuminada.

Meta dijo que también ofrecerán consejos y recomendaciones de seguridad a cualquiera que esté recibiendo o enviando este tipo de mensajes, brindando ayuda oportuna. Aparecerá un mensaje en la pantalla que animará al usuario a no sentir la presión de responder al posible engaño y también proporcionará una opción para bloquear al remitente y reportar el incidente.

Según las estadísticas de las autoridades, casi 3000 jóvenes fueron víctimas de estafas de sextorsión en 2022 solo en Estados Unidos. En octubre, más de 40 estados demandaron a la empresa matriz de Instagram, Meta, en un caso que afirmaba que la compañía se había beneficiado del dolor de los niños. Se acusó a la compañía de diseñar un modelo de negocio que explota a los usuarios jóvenes pasando la mayor cantidad de tiempo en su plataforma, a pesar del daño a su salud mental y bienestar. 

Meta trabaja en soluciones de aprendizaje automático en el dispositivo

Al comienzo del nuevo año, Meta reveló que publicaría estrategias para salvaguardar a los menores de 18 años restringiendo las políticas de uso de contenido y aumentando el control parental en su plataforma. Ayer, Meta dijo que sus últimas herramientas se basan en su trabajo arraigado en la protección de menores contra interacciones negativas o dañinas potenciales.

Meta dijo en una publicación,

«Estamos probando nuevas funciones para ayudar a proteger a los jóvenes de la sextorsión y el abuso de imágenes íntimas y para hacer más difícil que los estafadores y criminales potenciales encuentren e interactúen con los adolescentes.»

Fuente: Meta

Meta también agregó,

«La protección contra la desnudez utiliza el aprendizaje automático en el dispositivo para analizar si una imagen enviada en un DM en Instagram contiene desnudez. Dado que las imágenes se analizan en el propio dispositivo, la protección contra la desnudez funcionará en chats de extremo a extremo, donde Meta no tendrá acceso a estas imágenes, a menos que alguien elija reportárnoslas.»

Fuente: Meta

Meta también instó a que se filtren las cuentas potenciales que envían contenido objetable y se les apliquen restricciones estrictas cuando contacten a usuarios menores de edad. Si bien sabemos que Meta ha sido acusada de violar la privacidad de los datos de sus usuarios en muchas ocasiones, estas medidas parecen estar en la dirección correcta. Pero la compañía también señaló que no tendrá acceso a las imágenes inapropiadas a menos que sean reportadas por los usuarios.

Esta historia proviene de un blog de Meta.