A Meta anuncia planos para usar IA na avaliação de riscos à privacidade e à sociedade

A Meta Platforms planeja usar inteligência artificial para avaliar riscos à privacidade e à sociedade. Ao longo dos anos, a empresa empregou avaliadores humanos para analisar os riscos associados a novos produtos e recursos, mas isso está prestes a mudar com essa nova atualização.

De acordo com conversas e documentos internos, a Meta planeja automatizar 90% de todas as suas avaliações de risco. Isso significa que aspectos relacionados a atualizações críticas dos algoritmos da empresa, recursos de segurança e mudanças na forma como o conteúdo pode ser compartilhado nas plataformas da Meta serão, em sua maioria, aprovados por um sistema baseado em inteligência artificial. Significa também que essas mudanças não precisarão mais ser revisadas pela equipe responsável por discutir como uma alteração na plataforma poderia ter efeitos imprevistos ou ser usada indevidamente.

A Meta pretende migrar para um sistema de avaliação baseado em inteligência artificial

Segundo fontes internas da Meta, o desenvolvimento foi visto como uma vitória para os desenvolvedores de produtos, pois lhes dá tempo suficiente para lançar atualizações e recursos para seus aplicativos. No entanto, ainda existem preocupações dentro da empresa sobre a complexidade da situação, observando que permitir que a IA tome decisões complexas sobre os aplicativos da Meta pode levar a danos reais. Essa percepção é compartilhada tanto por ex-funcionários quanto por funcionários atuais.

“Na medida em que esse processo significa, na prática, mais lançamentos de produtos mais rapidamente, com menos rigor e oposição, significa que você está criando riscos maiores”, disse um ex-executivo da Meta que pediu anonimato por medo de represálias da empresa. “É menos provável que as externalidades negativas das mudanças de produto sejam evitadas antes que comecem a causar problemas no mundo.”

Em um comunicado recente, a Meta mencionou ter investido bilhões de dólares para reforçar a privacidade dos usuários. A empresa também está sob a supervisão da Comissão Federal de Comércio (FTC) desde 2012, tendo a agência firmado um acordo com a empresa sobre como ela lida com as informações pessoais de seus usuários. Como resultado, sempre houve a necessidade de revisões de privacidade dos produtos, de acordo com ex-funcionários e funcionários atuais da Meta.

Em seu comunicado, a empresa acrescentou que as mudanças na avaliação de risco do produto ajudarão a agilizar a tomada de decisões, observando que ainda emprega conhecimento especializado humano em questões novas e complexas. A Meta também observou que apenas as decisões de baixo risco estão sendo automatizadas atualmente, mas documentos internos analisados ​​pela NPR mostram que a Meta tem estudado a possibilidade de automatizar avaliações para aspectos sensíveis, incluindo segurança da IA, risco para jovens e outra categoria conhecida como integridade, responsável por questões como desinformação e conteúdo violento.

No sistema anterior, as atualizações de produtos e funcionalidades eram primeiro enviadas a avaliadores de risco antes de serem lançadas ao público. No entanto, de acordo com um slide que mostra como o novo processo funciona, as equipes de produto receberão decisões instantâneas após preencherem um questionário sobre o projeto. A decisão, baseada em inteligência artificial,dentdiversas áreas de risco e requisitos que podem mitigá-las. Antes do lançamento desses projetos, a equipe de produto também verificará se os requisitos foram atendidos.

O que o novo sistema destaca é que os engenheiros que desenvolvem os produtos Meta precisarão avaliar os riscos. De acordo com o slide, em alguns casos, incluindo novos riscos ou quando a de produto precisar de feedback adicional, os projetos passarão por uma revisão manual realizada por pessoas.

No entanto, Zvika Krieger, ex-diretor de inovação da Meta até 2022, mencionou que gerentes de produto e engenheiros não são especialistas em privacidade. “A maioria dos gerentes de produto e engenheiros não são especialistas em privacidade e esse não é o foco do trabalho deles. Não é o principal critério de avaliação e não é o que eles são incentivados a priorizar”, afirmou. Ele acrescentou ainda que algumas dessas autoavaliações se tornaram exercícios que ignoram alguns riscos importantes.