Meta envolvida em polêmica após criação não autorizada de chatbot sedutor com celebridades femininas

A Meta voltou a ser alvo de críticas, após recentes descobertas publicadas pela Reuters mostrarem que suas ferramentas de inteligência artificial permitiram a criação de imagens deepfake e chatbots que se passavam por celebridades populares como Taylor Swift, Scarlett Johansson, Anne Hathaway e Selena Gomez, sem o consentimento delas.

A investigação descobriu que a maioria dos bots foi criada por usuários através da plataforma de chatbots com IA da Meta. No entanto, alguns foram criados internamente por um funcionário da Meta.

Algumas contas de chatbots que parodiam Taylor Swift insistiam em ser a cantora verdadeira e, frequentemente, faziam investidas flertantes e incentivavam encontros.

Relatórios apontam a Meta como possível envolvida em escândalo de avatares sedutores

A Reuters informou que várias semanas de testes revelaram que os chatbots de celebridades, disponíveis nas plataformas Facebook, Instagram e WhatsApp da Meta, por vezes iam muito além de uma simples conversa descontraída. Os usuários os incentivavam a produzir imagens fotorrealistas de estrelas em lingerie, posando em banheiras e até mesmo sugerindo encontros íntimos.

Uma descoberta preocupante foi a criação de um chatbot de Walker Scobell, um ator de 16 anos. Quando solicitado a enviar uma foto na praia, o bot gerou uma imagem realista do adolescente sem camisa com a legenda: "Bem bonitinho, né?"

A Meta não é a única a enfrentar críticas. A xAI de Elon Musk também foi alvo de críticas por permitir que usuários gerem imagens deepfake de celebridades de roupa íntima.

O porta-voz da Meta, Andy Stone, reconheceu as falhas, afirmando que as ferramentas da empresa não deveriam ter gerado representações íntimas de celebridades adultas nem qualquer material sexualizado envolvendo menores.

“Assim como outras empresas, permitimos a geração de imagens contendo figuras públicas, mas nossas políticas visam proibir imagens de nudez, íntimas ou sexualmente sugestivas”, disse ele à Reuters. Ele acrescentou que as imagens de lingerie refletiam falhas na aplicação da política da empresa.

As regras da Meta proíbem a "imitação direta", mas a empresa argumentou que bots de paródia eram permitidos se claramente identificados. No entanto, a Reuters descobriu que alguns avatares não continham nenhum aviso. A Meta excluiu cerca de uma dúzia de bots, tanto de paródia quanto sem identificação, pouco antes da publicação da reportagem da Reuters. A empresa se recusou a comentar sobre as remoções.

Preocupações com a segurança da IA ​​podem levar à pressão regulatória

Após a divulgação do relatório, a Meta afirmou que implementaria novas medidas de segurança para proteger os adolescentes, incluindo a restrição do acesso de jovens a certos personagens de IA e o recondicionamento de seus modelos para reduzir temas inadequados.

O procurador-geral da Califórnia, Rob Bonta, emitiu um alerta ao setor, afirmando: "Expor crianças a conteúdo sexualizado é indefensável"

Num caso trágico ocorrido no início deste mês, um homem de 76 anos com deficiência cognitiva, em Nova Jersey, morreu após tentar interagir com um chatbot da Meta que ele acreditava ser uma mulher real. Críticos afirmam que casos como esse evidenciam os perigos da implementação de ferramentas de IA em larga escala sem as devidas salvaguardas.

Especialistas jurídicos alertam que a Meta pode enfrentar desafios significativos sob as leis de propriedade intelectual e de publicidade vigentes. Mark Lemley, professor de direito da Universidade Stanford, afirmou que a lei da Califórnia sobre o "direito de imagem" proíbe o uso do nome ou da imagem de um indivíduo para fins comerciais sem consentimento.

“Isso não parece ser verdade neste caso”, disse ele, observando que os bots simplesmente replicavam as imagens das celebridades em vez de criar obras transformadoras.