Meta anuncia planos de usar IA para avaliar riscos de privacidade e sociais

A Meta Platforms está planejando usar inteligência artificial para avaliar riscos de privacidade e sociais. Ao longo dos anos, a empresa empregou avaliadores humanos para investigar os riscos associados a novos produtos e recursos, mas as coisas estão prestes a mudar com esta nova atualização.

De acordo com conversas internas e documentos, a Meta planeja ter 90% de todas as suas avaliações de risco automatizadas. Isso significa que aspectos relacionados a atualizações críticas dos algoritmos da empresa, recursos de segurança e mudanças na forma como o conteúdo pode ser compartilhado nas plataformas da Meta serão principalmente aprovados por um sistema respaldado por inteligência artificial. Isso também significa que essas mudanças não estarão mais sujeitas a serem revisadas por funcionários encarregados de discutir como uma mudança na plataforma pode ter efeitos imprevistos ou ser mal utilizada.

A Meta pretende migrar para um sistema de revisão baseado em IA

De acordo com fontes dentro da Meta, o desenvolvimento tem sido visto como uma vitória para os desenvolvedores de produtos, pois lhes dá tempo suficiente para lançar atualizações de aplicativos e recursos. No entanto, ainda há preocupações dentro da empresa sobre o quão complicada é a situação, observando que permitir que a IA tome decisões complicadas sobre os aplicativos da Meta pode levar a danos no mundo real. O viés tem sido compartilhado por ex-funcionários e funcionários atuais.

“Na medida em que este processo significa funcionalmente mais coisas lançando mais rápido, com menos escrutínio rigoroso e oposição, isso significa que você está criando maiores riscos”, disse um ex-executivo da Meta que pediu anonimato por medo de retaliação da empresa. “As externalidades negativas das mudanças de produto são menos prováveis de serem impedidas antes de começarem a causar problemas no mundo.”

Em uma declaração recente, a Meta mencionou que injetou bilhões de dólares para apoiar a privacidade do usuário. A empresa também tem sido vigiada pela Comissão Federal de Comércio (FTC) desde 2012, com a agência chegando a um acordo com a empresa sobre como ela lida com as informações pessoais de seus usuários. Como resultado, sempre houve uma necessidade de revisões de privacidade de produtos, de acordo com ex-funcionários e funcionários atuais da Meta.

Em sua declaração, a empresa acrescentou que as mudanças na revisão de riscos do produto ajudarão a agilizar a tomada de decisões, observando que ainda emprega expertise humana em questões novas e complexas. A Meta também observou que apenas decisões de baixo risco estão sendo automatizadas atualmente, mas documentos internos revisados pela NPR mostram que a Meta tem buscado automatizar revisões para aspectos sensíveis, incluindo segurança da IA, riscos para jovens e outra categoria conhecida como integridade, que é responsável por coisas como desinformação e conteúdos violentos.

Sob o sistema anterior, atualizações de produtos e recursos eram primeiro enviadas para avaliadores de riscos antes de serem lançadas ao público. No entanto, de acordo com um slide mostrando como o novo processo funciona, as equipes de produto receberão decisões instantâneas após completar um questionário sobre o projeto. A decisão baseada em IA identificará várias áreas de risco e requisitos que poderiam abordá-los. Antes do lançamento de tais projetos, a equipe de produto também verificará se os requisitos foram atendidos.

O que o novo sistema destaca é que os engenheiros que constroem os produtos da Meta precisarão fazer seu julgamento sobre os riscos. De acordo com o slide, em alguns casos, incluindo novos riscos ou quando uma equipe de produto precisa de feedback adicional, os projetos receberão uma revisão manual realizada por humanos.

No entanto, um ex-diretor de inovação da Meta até 2022, Zvika Krieger, mencionou que gerentes de produto e engenheiros não são especialistas em privacidade. “A maioria dos gerentes de produto e engenheiros não são especialistas em privacidade e esse não é o foco de seu trabalho. Não é pelo que eles são principalmente avaliados e não é pelo que são incentivados a priorizar”, disse ele. Ele também acrescentou que algumas dessas autoavaliações se tornaram exercícios que perdem alguns riscos importantes.