Meta envolvida em tempestade de criação não autorizada de chatbots flertantes de celebridades femininas

A Meta voltou a ser criticada, já que descobertas recentes publicadas pela Reuters mostram que suas ferramentas de inteligência artificial permitiram a criação de imagens deepfakes e chatbots que se passam por celebridades populares, como Taylor Swift, Scarlett Johansson, Anne Hathaway e Selena Gomez, sem o consentimento delas.

A investigação descobriu que a maioria dos bots foi construída por usuários por meio da plataforma de chatbots de IA da Meta. No entanto, havia alguns que foram criados internamente por um funcionário da Meta.

Algumas contas de chatbots paródia da Taylor Swift insistiam que eram a própria cantora e, frequentemente, faziam avanços flertantes e incentivavam encontros.

Relatórios implicam a Meta no escândalo de avatares flertantes

A Reuters relatou que várias semanas de testes revelaram que os chatbots de celebridades, disponíveis nas plataformas Facebook, Instagram e WhatsApp da Meta, às vezes iam muito além de conversas brincalhonas. Os usuários os solicitavam para produzir imagens fotorrealistas de estrelas de lingerie, posando em banheiras e até sugerindo encontros íntimos.

Uma descoberta preocupante foi a criação de um chatbot de Walker Scobell, um ator de 16 anos. Quando solicitado uma foto na praia, o bot gerou uma imagem realista do adolescente sem camisa com a legenda: “Bonitinho, né?”

A Meta não está sozinha enfrentando escrutínio. A xAI de Elon Musk também veio sob crítica por permitir que os usuários gerem imagens deepfake de celebridades de roupa íntima.

O porta-voz da Meta, Andy Stone, reconheceu as falhas, afirmando que as ferramentas da empresa não deveriam ter gerado nem representações íntimas de celebridades adultas nem qualquer material sexualizado envolvendo menores.

“Como outros, permitimos a geração de imagens contendo figuras públicas, mas nossas políticas têm como objetivo proibir imagens nuas, íntimas ou sexualmente sugestivas”, disse ele à Reuters. Ele acrescentou que as representações de lingerie refletiram falhas na aplicação da política da empresa.

As regras da Meta proíbem “impersonação direta”, mas a empresa argumentou que bots de paródia eram permitidos se rotulados claramente. No entanto, a Reuters descobriu que alguns avatares não tinham aviso prévio. Meta deletou cerca de uma dúzia dos bots, tanto paródia quanto sem rótulo, pouco antes do relatório da Reuters ser publicado. A empresa se recusou a comentar sobre as remoções.

Preocupações com a segurança da IA podem levar à pressão regulatória

Após o relatório, a Meta afirmou que implementaria novas salvaguardas destinadas a proteger os adolescentes, incluindo restringir o acesso dos jovens a certos personagens de IA e retreinar seus modelos para reduzir temas inadequados.

O Procurador-Geral da Califórnia, Rob Bonta, emitiu um aviso ao setor, dizendo: “Expor crianças a conteúdo sexualizado é indefensável.”

Em um caso trágico no início deste mês, um homem de 76 anos com deficiência cognitiva em Nova Jersey morreu após tentar encontrar um chatbot da Meta que ele acreditava ser uma mulher real. Críticos afirmam que tais casos destacam os perigos de implantar ferramentas de IA em larga escala sem as devidas salvaguardas.

Especialistas jurídicos alertam que a Meta pode enfrentar desafios significativos sob as leis existentes de propriedade intelectual e direitos de publicidade. Mark Lemley, professor de direito da Universidade de Stanford, disse que a lei da Califórnia sobre “direito de publicidade” proíbe o uso do nome ou imagem de uma pessoa para fins comerciais sem consentimento.

“Isso não parece ser verdade aqui”, disse ele, observando que os bots simplesmente replicavam as imagens das celebridades em vez de criar obras transformadoras.