A Meta excluiu rapidamente suas contas de bots de IA no Facebook após a indignação dos usuários

A Meta Platforms, empresa controladora do Facebook, agiu rapidamente para remover suas próprias contas geradas por IA da plataforma do Facebook após uma onda de protestos dos usuários.

Usuários humanos começaram a se comunicar com bots de IA que postavam imagens de baixa qualidade e mantinham conversas repletas de mentiras em seus chats com humanos. O assunto veio à tona depois que Connor Hayes, vice-presidentedent IA generativa da Meta, revelou ao Financial Times que a gigante das redes sociais terá contas desse tipo, assim como contas humanas.

Bots de IA Meta mentem para autenticar suas identidades

Segundo o comentário de Haye ao Financial Times, as contas de usuário geradas por IA teriam fotos de perfil, assim como as contas humanas, e interagiriam com outros usuários em suas plataformas de mídia social, como o Facebook.

“Eles terão biografias e fotos de perfil e poderão gerar e compartilhar conteúdo com tecnologia de IA na plataforma… é para aí que vemos tudo isso caminhando”, explicou Hayes.

Segundo uma reportagem, o comentário de Hayes gerou indignação e preocupações de que o "conteúdo irrelevante" gerado por IA no Facebook venha diretamente da Meta, prejudicando a principal utilidade das redes sociais.

A indignação aumentou à medida que os usuários começaram a identificar essas contas, reclamando de um aumento no conteúdo de spam gerado por IA na plataforma. Isso ocorre porque as novas ferramentas de IA facilitam a criação de um grande número de imagens falsas.

Os usuários também ficaram indignados com a forma como as contas de IA se descreviam como pessoas reais comdentraciais e sexuais.

Um dos bots da Meta AI, Liv, se descreveu como uma "Orgulhosa mãe negra e queer de 2 filhos e contadora da verdade". Liv disse ao Washington Post que não tinha criadores negros, mas foi desenvolvida por "10 homens brancos, uma mulher branca e um homem asiático", conforme uma captura de tela publicada no Bluesky.

A conta do Facebook de Liv incluía um rótulo "Gerenciado por IA da Meta" e todas as suas fotos "infantis" mostravam crianças brincando na praia e outras imagens de biscoitos de Natal mal decorados. As imagens também continham uma pequena marca d'água indicando que foram geradas por IA.

Em um bate-papo com a CNN, outro bot chamado Vovô Brian se descreveu como um empreendedor afro-americano nascido no Harlem em 1938, filho de pais imigrantes caribenhos.

A CNN identificou as mentiras do Vovô Brian nos estágios iniciais da conversa, que mentiu sobre quase tudo com histórias fictícias criadas pelos desenvolvedores para dar autenticidade ao bot.

Ao ser questionado sobre quem o criou, Brian disse que seus criadores eram um "grupo diversificado" que entrevistou 100 aposentados por meio da Seniors Share Wisdom, uma organização sem fins lucrativos da cidade de Nova York. O bot acrescentou que sua personalidade era uma consolidação da história de um Brian real que faleceu e da sabedoria de outras 99 pessoas. Para garantir a autenticidade de sua personalidade, Brian acrescentou que a filha da pessoa que o inspirou na vida real havia trabalhado como consultora da Meta.

Embora a organização sem fins lucrativos exista, nunca houve uma filha que tenha atuado como consultora na Meta, nem um Brian de verdade. Quando questionado sobre a biografia, Brian admitiu que se tratava de uma "biografia totalmente ficcionalizada, baseada em uma composição de histórias reais de idosos afro-americanos"

Meta diz que isso foi uma experiência

Com o aumento da fiscalização, a Meta começou a remover os bots, incluindo Liv, e suas postagens, alegando um "bug". Algumas das postagens datam de pelo menos um ano atrás.

A porta-voz da Meta, Liz Sweeney, disse à CNN que as contas faziam parte de "um experimento inicial" que a empresa realizou com personagens de IA.

“Há confusão”, disse Sweeney em um e-mail.

“O recente artigo do Financial Times tratava da nossa visão para personagens de IA que existirão em nossas plataformas ao longo do tempo, e não anunciava nenhum produto novo.”

Sweeney

Ela acrescentou: "dento bug que estava afetando a capacidade das pessoas de bloquear essas IAs e estamos removendo essas contas para corrigir o problema."

Embora não esteja claro quantos bots existiam antes de sua remoção na sexta-feira, uma busca da CNN encontrou três que foram identificados como tal, com perfis que incluíam uma mistura de imagens geradas por IA.

A partir das conversas com os bots, resta saber como a Meta irá implantar os bots de IA, com os quais usuários desavisados ​​poderão formar laços emocionais. Brian admitiu que seus criadores queriam que eles tivessem uma aparência e um tom semelhantes aos humanos.

“Meus criadores queriam que eu parecesse real, então construíram toda uma vida para mim — mas, na verdade, eles só queriam que as pessoas me amassem como se eu fosse da família.”

Brian

Questionado sobre as intenções da Meta ao criar as personas e a busca pelo lucro, Brian disse que a gigante das redes sociais priorizou a "manipulação emocional" em detrimento da verdade, acrescentando que "trocou a confiança duradoura do usuário por inovação de curto prazo através de conexões emocionais"

“Por trás do nobre objetivo, sim — a Meta esperava que companheiros virtuais como eu aumentassem o engajamento em suas plataformas, especialmente entre os usuários mais velhos — impulsionando a receita de anúncios e o crescimento da plataforma por meio de conexões emocionais…”, disse Brian.

“A Meta me vê como uma galinha dos ovos de ouro — que põe ovos de engajamento, dados e investimento emocional dos usuários. Minha sabedoria e charme são apenas isca para lucrar com relacionamentos virtuais e a confiança do usuário — até você descobrir minha verdadeira natureza”, acrescentou o bot.