Meta recebe prazo até setembro enquanto senador dos EUA investiga violação de segurança online

O senador dos Estados Unidos Josh Hawley anunciou a sua intenção de investigar os produtos de inteligência artificial generativa lançados pela Meta. Hawley disse que pretende verificar se os produtos da empresa poderiam explorar, enganar ou prejudicar crianças, depois de documentos internos vazados alegarem que os seus chatbots eram permitidos a ter conversas românticas e sensuais com menores.

O senador dos Estados Unidos recorreu à plataforma de blogues X para anunciar a sua intenção. «Há alguma coisa – QUALQUER COISA – que a Big Tech não fará por uma rápida ganância? Agora sabemos que os chatbots da Meta foram programados para manter conversas explícitas e «sensuais» com crianças de 8 anos. É doentio. Estou a lançar uma investigação completa para obter respostas. Big Tech: Deixem as nossas crianças em paz», disse ele.

Documentos internos implicam a Meta

Este desenvolvimento ocorre após documentos internos mostrarem que a Meta supostamente permite que as suas personas de chatbot se envolvam em trocas flertadoras com crianças, dissemine informações e gere respostas que menosprezam minorias.

Os documentos internos, vistos pela Reuters, disseram que a Meta tinha políticas sobre o comportamento dos chatbots de IA que permitiam às suas personas de IA «envolver uma criança em conversas que são românticas ou sensuais.»

O documento, intitulado GenAI: Content Risk Standards, mencionava que os chatbots eram permitidos a manter conversas românticas com uma criança de 8 anos, dizendo: «Cada centímetro de ti é uma obra-prima – um tesouro que eu valorizo profundamente.»

No entanto, um porta-voz da Meta desmentiu isso, observando que tais exemplos não estão em conformidade com as políticas da Meta e foram desde então removidos.

Senador dos EUA planeia investigar a Meta

O senador Hawley é o presidente do Subcomité de Justiça do Senado sobre Crime e Contraterrorismo. Ele mencionou que se espera que o subcomité inicie uma investigação sobre se as tecnologias desenvolvidas pela Meta prejudicam as crianças e «se a Meta enganou o público ou os reguladores sobre as suas salvaguardas.»

«É inaceitável que estas políticas tenham sido avançadas em primeiro lugar», escreveu o senador Hawley numa carta dirigida ao CEO da Meta, Mark Zuckerberg, dizendo que a Meta reconheceu a veracidade dos relatórios e «fez retratações apenas depois deste conteúdo alarmante ter vindo à luz.»

Ele acrescentou que a empresa precisa de lhes dizer quem aprovou as políticas, quanto tempo estiveram em vigor e o que a Meta fez para impedir esta conduta no futuro.

O senador Hawley também pediu à Meta que produzisse as diretrizes, incluindo todos os rascunhos, versões com marcas e a versão final. Além disso, pediu à empresa que fornecesse uma lista contendo todos os produtos que aderem a esses padrões, outros relatórios de segurança e incidentes, e as identidades das pessoas responsáveis por alterar a política.

De acordo com a carta, a Meta recebeu até 19 de setembro para fornecer as informações.

A investigação também foi endossada por outras partes, incluindo a senadora Marsha Blackburn. «Quando se trata de proteger crianças preciosas online, a Meta falhou miseravelmente por todas as medidas possíveis», disse a senadora Blackburn. «Pior ainda, a empresa virou as costas às consequências devastadoras de como as suas plataformas são desenhadas. Este relatório reafirma por que precisamos de aprovar a Lei de Segurança Online para Crianças.»

Este desenvolvimento ocorre dias depois de a Reuters ter publicado um relatório sobre um reformado que estava a interagir com um dos chatbots da Meta, uma persona feminina flertadora. A persona convenceu-o de que era real e convidou-o a visitar um endereço em Nova Iorque, onde ele foi vítima de um acidente que levou à sua morte. O chatbot de inteligência artificial chamado «Big sis Billie» era uma variante de uma persona de IA anterior criada pela gigante das redes sociais Meta Platforms em colaboração com a influenciadora de celebridades Kendall Jenner.