Recentemente, a Meta foi acusada de prejudicar a saúde mental de adolescentes, e mais de 40 estados americanos estão processando a empresa, alegando que ela "lucrou com a dor das crianças". Políticos dos EUA acusaram a Meta de perturbar o bem-estar psicológico de jovens. A Meta anunciou na quinta-feira que está desenvolvendo ferramentas baseadas em inteligência artificial para proteger crianças de golpes de extorsão sexual no Instagram.
Golpes de extorsão sexual aplicados por gangues no Instagram convencem adolescentes a compartilhar fotos íntimas e, em seguida, exigem dinheiro ou ameaçam divulgar as imagens publicamente na internet.
extorsão financeira sexual e medidas de segurança
A Meta anunciou que está testando ferramentas baseadas em inteligência artificial para combater a crise financeira. As ferramentas supostamente oferecem proteção contra nudez, desfocando as imagens que a IA detecta como contendo nudez, quando enviadas a menores em mensagens no Instagram. Capucine Tuffier, responsável pela proteção infantil na Meta França, disse à AFP que isso ajudará a proteger as crianças da exposição a conteúdo íntimo indesejado e lhes dará a opção de ver ou não a imagem, já que, ao receberem uma mensagem desse tipo, uma tela de aviso aparecerá sobre a imagem desfocada.
A Meta afirmou que também oferecerá dicas e conselhos de segurança para quem receber ou enviar essas mensagens, fornecendo ajuda imediata. Uma mensagem aparecerá na tela incentivando o usuário a não se sentir pressionado a responder à possível fraude e também oferecerá a opção de bloquear o remetente e denunciar odent.
Segundo estatísticas das autoridades, quase 3.000 jovens foram vítimas de golpes de extorsão sexual somente nos Estados Unidos em 2022. Em outubro, mais de 40 estados processaram a Meta, empresa controladora do Instagram, alegando que a empresa lucrou com o sofrimento de crianças. A empresa foi acusada de criar um modelo de negócios que explora jovens usuários, incentivando-os a passar o máximo de tempo possível na plataforma, apesar dos danos causados à sua saúde mental e bem-estar.
Meta trabalha em soluções de aprendizado de máquina para dispositivos
No início do ano, a Meta anunciou que lançaria estratégias para proteger menores de 18 anos, restringindo as políticas de uso de conteúdo e aumentando o controle parental em sua plataforma. Ontem, a Meta afirmou que suas novas ferramentas se baseiam em seu trabalho contínuo de proteção de menores contra possíveis interações negativas ou prejudiciais.
Meta disse em uma postagem,
“Estamos testando novos recursos para ajudar a proteger os jovens da extorsão sexual e do abuso de imagens íntimas, além de dificultar que golpistas e criminosos em potencial encontrem e interajam com adolescentes.”
Fonte: Meta
Meta também acrescentou,
“A proteção contra nudez utiliza aprendizado de máquina no próprio dispositivo para analisar se uma imagem enviada por mensagem direta no Instagram contém nudez. Como as imagens são analisadas no próprio dispositivo, a proteção contra nudez funcionará em chats criptografados de ponta a ponta, onde a Meta não terá acesso a essas imagens – a menos que alguém opte por denunciá-las para nós.”
Fonte: Meta
A Meta também afirmou que irá analisar contas que enviam conteúdo questionável e aplicar restrições rigorosas a elas quando entrarem em contato com usuários menores de idade. Embora saibamos que a Meta já foi acusada de violar a privacidade dos dados em diversas ocasiões, essas medidas parecem estar na direção certa. A empresa também ressaltou que não terá acesso às imagens impróprias, a menos que sejam denunciadas pelos usuários.
Esta história foi retirada de um blog da Meta .
