Meta anuncia planos de usar IA para avaliar riscos de privacidade e sociais

- A Meta planeja usar inteligência artificial para avaliar riscos de privacidade e sociais associados aos produtos.
- A plataforma deseja mudar a forma como os riscos são avaliados, com 90% das avaliações automatizadas.
- A Meta também mencionou que a expertise humana ainda será utilizada para questões novas e complexas nas avaliações.
A Meta Platforms está planejando usar inteligência artificial para avaliar riscos de privacidade e sociais. Ao longo dos anos, a empresa empregou avaliadores humanos para investigar os riscos associados a novos produtos e recursos, mas as coisas estão prestes a mudar com esta nova atualização.
De acordo com conversas internas e documentos, a Meta planeja ter 90% de todas as suas avaliações de risco automatizadas. Isso significa que aspectos relacionados a atualizações críticas dos algoritmos da empresa, recursos de segurança e mudanças na forma como o conteúdo pode ser compartilhado nas plataformas da Meta serão principalmente aprovados por um sistema respaldado por inteligência artificial. Isso também significa que essas mudanças não estarão mais sujeitas a serem revisadas por funcionários encarregados de discutir como uma mudança na plataforma pode ter efeitos imprevistos ou ser mal utilizada.
A Meta pretende migrar para um sistema de revisão baseado em IA
De acordo com fontes dentro da Meta, o desenvolvimento tem sido visto como uma vitória para os desenvolvedores de produtos, pois lhes dá tempo suficiente para lançar atualizações de aplicativos e recursos. No entanto, ainda há preocupações dentro da empresa sobre o quão complicada é a situação, observando que permitir que a IA tome decisões complicadas sobre os aplicativos da Meta pode levar a danos no mundo real. O viés tem sido compartilhado por ex-funcionários e funcionários atuais.
“Na medida em que este processo significa funcionalmente mais coisas lançando mais rápido, com menos escrutínio rigoroso e oposição, isso significa que você está criando maiores riscos”, disse um ex-executivo da Meta que pediu anonimato por medo de retaliação da empresa. “As externalidades negativas das mudanças de produto são menos prováveis de serem impedidas antes de começarem a causar problemas no mundo.”
Em uma declaração recente, a Meta mencionou que injetou bilhões de dólares para apoiar a privacidade do usuário. A empresa também tem sido vigiada pela Comissão Federal de Comércio (FTC) desde 2012, com a agência chegando a um acordo com a empresa sobre como ela lida com as informações pessoais de seus usuários. Como resultado, sempre houve uma necessidade de revisões de privacidade de produtos, de acordo com ex-funcionários e funcionários atuais da Meta.
Em sua declaração, a empresa acrescentou que as mudanças na revisão de riscos do produto ajudarão a agilizar a tomada de decisões, observando que ainda emprega expertise humana em questões novas e complexas. A Meta também observou que apenas decisões de baixo risco estão sendo automatizadas atualmente, mas documentos internos revisados pela NPR mostram que a Meta tem buscado automatizar revisões para aspectos sensíveis, incluindo segurança da IA, riscos para jovens e outra categoria conhecida como integridade, que é responsável por coisas como desinformação e conteúdos violentos.
Sob o sistema anterior, atualizações de produtos e recursos eram primeiro enviadas para avaliadores de riscos antes de serem lançadas ao público. No entanto, de acordo com um slide mostrando como o novo processo funciona, as equipes de produto receberão decisões instantâneas após completar um questionário sobre o projeto. A decisão baseada em IA identificará várias áreas de risco e requisitos que poderiam abordá-los. Antes do lançamento de tais projetos, a equipe de produto também verificará se os requisitos foram atendidos.
O que o novo sistema destaca é que os engenheiros que constroem os produtos da Meta precisarão fazer seu julgamento sobre os riscos. De acordo com o slide, em alguns casos, incluindo novos riscos ou quando uma equipe de produto precisa de feedback adicional, os projetos receberão uma revisão manual realizada por humanos.
No entanto, um ex-diretor de inovação da Meta até 2022, Zvika Krieger, mencionou que gerentes de produto e engenheiros não são especialistas em privacidade. “A maioria dos gerentes de produto e engenheiros não são especialistas em privacidade e esse não é o foco de seu trabalho. Não é pelo que eles são principalmente avaliados e não é pelo que são incentivados a priorizar”, disse ele. Ele também acrescentou que algumas dessas autoavaliações se tornaram exercícios que perdem alguns riscos importantes.
As mentes mais inteligentes do setor de criptomoedas já leem nosso boletim informativo. Quer entrar? Junte-se a eles.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Owotunse Adebayo
Adebayo é um escritor com quatro anos de experiência no espaço cripto. Formou-se pela Universidade de Lagos, onde estudou Planejamento Urbano e Regional. Adebayo trabalhou na Tokenhell e na CryptoTicker, escrevendo notícias sobre criptomoedas e Fintech. Atualmente, é colaborador de notícias da Cryptopolitan.














