A Meta lançará ferramentas de IA para proteção de menores contra sextorsão

Recentemente, a Meta foi acusada de prejudicar a saúde mental dos adolescentes, e mais de 40 estados estão processando a empresa, alegando que ela 'lucrou com a dor das crianças'. Políticos dos EUA acusaram a Meta de perturbar o bem-estar psicológico dos jovens. Na quinta-feira, a Meta anunciou que está desenvolvendo ferramentas baseadas em inteligência artificial para proteger as crianças de golpes de sextorsão no Instagram. 

Os golpes de sextorsão, realizados por gangues no Instagram, convencem os adolescentes a compartilhar imagens explícitas e, em seguida, exigem dinheiro ou ameaçam liberar as imagens para o público na internet. 

Sextorsão financeira e medidas de segurança

A Meta anunciou que está testando ferramentas baseadas em inteligência artificial para combater a situação financeira. As ferramentas são dadas como responsáveis por fornecer proteção contra nudez, borrando as imagens que sua IA detecta como contendo nudez, enquanto são enviadas para menores em mensagens no Instagram. Capucine Tuffier, responsável pela proteção infantil na Meta França, disse à AFP que isso ajudará a proteger as crianças da exposição a conteúdo íntimo indesejado e dará a elas a escolha de se querem ou não ver a imagem, pois, quando alguém recebe qualquer mensagem desse tipo, uma tela de aviso aparecerá sobre a imagem borrada.

A Meta disse que também oferecerá dicas de segurança e conselhos a qualquer pessoa que esteja recebendo ou enviando esse tipo de mensagem, fornecendo ajuda oportuna. Uma mensagem aparecerá na tela, incentivando o usuário a não sentir pressão para responder à possível fraude, e também fornecerá uma opção para bloquear o remetente e denunciar o incidente.

De acordo com estatísticas das autoridades, quase 3.000 jovens foram vítimas de golpes de sextorsão em 2022 apenas nos Estados Unidos. Em outubro, mais de 40 estados processaram a empresa-mãe do Instagram, a Meta, em um caso alegando que a empresa lucrou com a dor das crianças. A empresa foi acusada de projetar um modelo de negócios que explora os jovens, fazendo com que passem o máximo de tempo possível em sua plataforma, apesar dos danos à sua saúde mental e bem-estar. 

A Meta trabalha em soluções de aprendizado de máquina no dispositivo

No início do novo ano, a Meta divulgou que lançaria estratégias para proteger menores de 18 anos, restringindo as políticas de uso de conteúdo e aumentando o controle parental em sua plataforma. Ontem, a Meta disse que suas novas ferramentas se baseiam em seu trabalho enraizado em relação à proteção de menores contra interações negativas ou prejudiciais potenciais.

A Meta disse em uma publicação,

“Estamos testando novos recursos para ajudar a proteger os jovens contra sextorsão e abuso de imagens íntimas e para tornar mais difícil para possíveis golpistas e criminosos encontrar e interagir com adolescentes.”

Fonte: Meta

A Meta também acrescentou,

“A proteção contra nudez usa aprendizado de máquina no dispositivo para analisar se uma imagem enviada em uma DM no Instagram contém nudez. Como as imagens são analisadas no próprio dispositivo, a proteção contra nudez funcionará em chats de ponta a ponta criptografados, nos quais a Meta não terá acesso a essas imagens – a menos que alguém as reporte a nós.”

Fonte: Meta

A Meta também instou a filtrar contas potenciais que enviam conteúdo ofensivo e a aplicar restrições rigorosas a elas ao entrar em contato com usuários menores de idade. Embora saibamos que a Meta já foi acusada de violar a privacidade dos dados dos usuários em muitas ocasiões, essas medidas parecem estar na direção certa. Mas a empresa também apontou que não terá acesso às imagens inadequadas, a menos que sejam relatadas pelos usuários.

Esta história, baseada em um blog da Meta.