A Meta vai investir em personagens e perfis gerados por IA, o que levanta preocupações sobre contas falsas

Um executivo da Meta AI afirma que o Facebook poderá em breve vivenciar um aumento expressivo de perfis e usuários criados por inteligência artificial.

A Meta vem aprimorando suas ferramentas de inteligência artificial desde o ano passado. Ela introduziu novos produtos de IA em diferentes plataformas, como o Facebook. Isso inclui centenas de milhares de personagens criados em julho, quando lançou suas ferramentas de criação de personagens com IA.

Esses personagens de IA são atualmente privados, mas a Meta espera que se tornem um recurso padrão na plataforma nos próximos anos. Os perfis funcionarão de maneira muito semelhante às contas de usuário comuns, disse Connor Hayes, vice-presidentedent produto para IA generativa da Meta, ao Financial Times.

Ele acrescentou que os usuários "terão biografias e fotos de perfil e poderão gerar e compartilhar conteúdo com tecnologia de IA na plataforma"

A Meta planeja lançar ferramentas de conversão de texto em vídeo geradas por IA

Nos próximos dois anos, a Meta priorizará investimentos no desenvolvimento de IA para tornar suas plataformas mais envolventes e divertidas. No momento, os usuários podem usar a IA da Meta para edição de fotos ou para criar um assistente virtual.

Além disso, a Meta planeja lançar novas ferramentas de conversão de texto em vídeo que permitirão aos criadores de conteúdo aparecerem em vídeos gerados por IA.

No entanto, especialistas estão preocupados com o rápido crescimento do número de pessoas que utilizam IA. Eles acreditam que são necessárias proteçõestronpara impedir que essas contas de IA disseminem informações falsas.

Becky Owen, que foi diretora de marketing da Billion Dollar Boy e anteriormente chefe da equipe de inovações para criadores da Meta, alertou: "Sem salvaguardas robustas, as plataformas correm o risco de amplificar narrativas falsas por meio dessas contas impulsionadas por IA."

Ela também teme que haja perfis de IA em excesso na plataforma, o que podetracmenos conteúdo genuíno. Como Owen apontou, as personas de IA não têm experiências ou emoções da vida real e são muito menos identificáveis ​​do que os criadores humanos.

Um porta-voz da Meta destacou os benefícios das ferramentas de IA para a Fox Business. Ele afirmou que o AI Studio permite que qualquer pessoa crie e tenha personagens de IA baseados em seus interesses. Esses personagens podem ser "usados ​​para utilidade, diversão ou apoio", ajudando na cozinha, dando conselhos de moda ou fornecendo mensagens de incentivo diárias.

Ao mesmo tempo, da Meta, Mark Zuckerberg, afirmou em abril que pode levar alguns anos para que todo o potencial da tecnologia de IA seja alcançado. Ele acredita que foi um investimento inteligente, tanto para a empresa quanto para seus investidores, já que os "sinais iniciais são bastante positivos".