Meta lanzará herramientas de inteligencia artificial para la protección de menores contra la sextorsión

Recientemente, Meta ha sido acusada de dañar la salud mental de adolescentes, y más de 40 estados la han demandado, alegando que se ha "aprovechado del dolor infantil". Políticos estadounidenses han acusado a Meta de perturbar el bienestar psicológico de los jóvenes. Meta anunció el jueves que está desarrollando herramientas basadas en inteligencia artificial para proteger a los menores de las estafas de sextorsión en Instagram. 

Las estafas de sextorsión llevadas a cabo por bandas en Instagram convencen a los adolescentes a compartir sus imágenes explícitas y luego exigen dinero o amenazan con publicar las imágenes en Internet. 

Sextorsión financiera y medidas de seguridad

Meta anunció que ha estado probando herramientas basadas en inteligencia artificial para contrarrestar la situación financiera. Se dice que estas herramientas ofrecen protección contra la desnudez al difuminar las imágenes que su IA detecta por contener desnudez al enviarse a menores en mensajes de Instagram. Capucine Tuffier, responsable de protección infantil en Meta Francia, declaró a la AFP que esto ayudará a proteger a los niños de la exposición a contenido íntimo no deseado y les permitirá elegir si quieren ver la imagen o no, ya que al recibir un mensaje de este tipo, aparecerá una pantalla de advertencia sobre la imagen difuminada.

Meta afirmó que también ofrecerá consejos y sugerencias de seguridad a quienes reciban o envíen dichos mensajes, lo que brindará una ayuda oportuna. Aparecerá un mensaje en la pantalla que animará al usuario a no sentirse presionado a responder a la posible trampa y también ofrecerá la opción de bloquear al remitente y reportar eldent.

Según estadísticas de las autoridades, casi 3000 jóvenes fueron víctimas de estafas de sextorsión en 2022 solo en Estados Unidos. En octubre, más de 40 estados demandaron a la empresa matriz de Instagram, Meta, alegando que se había lucrado con el sufrimiento infantil. La empresa fue acusada de diseñar un modelo de negocio que explota a los jóvenes usuarios al pasar el máximo tiempo en su plataforma, a pesar del daño que esto supone para su salud mental y bienestar. 

Meta trabaja en soluciones de aprendizaje automático en dispositivos

A principios de año, Meta anunció que lanzaría estrategias para proteger a los menores de 18 años, restringiendo las políticas de uso de contenido y aumentando el control parental en su plataforma. Ayer, Meta afirmó que sus nuevas herramientas se basan en su sólida trayectoria en la protección de los menores de edad contra posibles interacciones negativas o perjudiciales.

Meta dijo en una publicación:

“Estamos probando nuevas funciones para ayudar a proteger a los jóvenes de la sextorsión y el abuso de imágenes íntimas y para dificultar que posibles estafadores y delincuentes los encuentren e interactúen con ellos”

Fuente: Meta

Meta también agregó:

La protección contra la desnudez utiliza el aprendizaje automático del dispositivo para analizar si una imagen enviada por mensaje directo en Instagram contiene desnudez. Dado que las imágenes se analizan en el propio dispositivo, la protección contra la desnudez funcionará en chats con cifrado de extremo a extremo, donde Meta no tendrá acceso a estas imágenes, a menos que alguien decida reportarlas

Fuente: Meta

Meta también instó a filtrar las posibles cuentas que envíen contenido objetable y a aplicarles restricciones estrictas al contactar con usuarios menores de edad. Si bien sabemos que Meta ha sido acusada de violar la privacidad de los datos en numerosas ocasiones, estas medidas parecen ir en la dirección correcta. Sin embargo, la compañía también señaló que no tendrá acceso a las imágenes inapropiadas a menos que los usuarios las denuncien.

Esta historia proviene de un blog Meta.