- Golpes com deepfakes estão atingindo celebridades no TikTok, levantando preocupações sobre a autenticidade do conteúdo.
- O confronto de MrBeast destaca a necessidade de as plataformas sociais combaterem o engano gerado por IA.
- Detectar deepfakes de IA em tempo real continua sendo um desafio tecnológico.
O popular YouTuber e filantropo MrBeast confrontou recentemente a ByteDance Ltd.’s TikTok por permitir a circulação de um vídeo deepfake em sua plataforma. O vídeo apresentava uma imitação gerada por IA do MrBeast anunciando um grande sorteio de 10.000 iPhone 15 Pros por apenas US$ 2 cada. Este incidente destaca a crescente preocupação em torno de deepfakes de IA em plataformas de mídia social e seu potencial para enganar os usuários. Neste artigo, exploramos os detalhes desta controvérsia e suas implicações para a autenticidade do conteúdo online.
O golpe do deepfake
O TikTok, uma plataforma proeminente de mídia social, exibiu um anúncio mostrando uma versão deepfake gerada por IA do MrBeast. No vídeo, o impostor afirmava estar organizando o “maior sorteio de iPhone 15 do mundo”, com cada iPhone custando apenas US$ 2. Esta oferta audaciosa naturalmente atraiu atenção significativa, especialmente dada a reputação do MrBeast por realizar sorteios e concursos.
A resposta do MrBeast
Ao descobrir o vídeo deepfake, o MrBeast recorreu às redes sociais para expressar suas preocupações. Ele apontou que “Muitas pessoas estão recebendo este anúncio de golpe de deepfake comigo” e questionou se as plataformas de mídia social estavam adequadamente preparadas para combater o aumento dos deepfakes de IA. Sua declaração pública adicionou sua voz ao coro de celebridades que caíram vítimas de imitações por deepfake circulando nas redes sociais.
Desmascarando o deepfake
Embora o anúncio deepfake apresentasse o logotipo oficial do MrBeast e um check azul, sinais de manipulação por IA eram discerníveis para espectadores atentos. Observadores notaram vozes distorcidas e movimentos naturais da boca, ambos característicos de conteúdo gerado por IA. Apesar disso, o vídeo ainda conseguiu ganhar tração, demonstrando a eficácia de tais golpes, particularmente entre usuários menos discernentes.
A resposta do TikTok
Em resposta à controvérsia, um porta-voz do TikTok confirmou que o anúncio fraudulento foi rapidamente removido algumas horas após a publicação, e a conta associada responsável pelo deepfake foi derrubada devido a violações de política. O TikTok também tomou medidas para combater a proliferação de conteúdo gerado por IA, introduzindo ferramentas para criadores rotularem esse conteúdo e testando mecanismos de rotulagem automática.
Uma tendência em deepfakes de celebridades
MrBeast não é a única celebridade a ter sido alvo de imitações por deepfake. Recentemente, o ator Tom Hanks emitiu uma declaração no Instagram condenando uma versão deepfake dele promovendo um plano dental. Ele esclareceu que não tinha “nada a ver com isso”. Da mesma forma, Zelda, filha de Robin Williams, expressou seu desconforto com recriações de IA da voz de seu pai, referindo-se a elas como “pessoalmente perturbadoras” e “horrendos monstros frankensteinianos.”
O ator britânico Stephen Fry também caiu vítima do uso indevido de IA, com sua voz sendo usada sem permissão para conteúdo relacionado aos livros de Harry Potter. Esses incidentes destacam o ritmo crescente dos deepfakes na era da tecnologia de IA avançada.
O desafio de detectar deepfakes
Enquanto gigantes da tecnologia como o Google trabalham em soluções como o SynthID para detectar imagens geradas por IA, lidar com áudio e vídeo deepfake permanece um desafio complexo. Detectar manipulação de IA em tempo real é uma tarefa formidável, e levará tempo antes de soluções abrangentes estarem disponíveis. Enquanto isso, os usuários são aconselhados a exercer cautela, usar o bom senso e verificar fatos em conteúdo que pareça suspeito.
A controvérsia do deepfake do MrBeast serve como um lembrete nítido dos riscos apresentados pelos deepfakes de IA no domínio das mídias sociais. Destaca a necessidade de plataformas como o TikTok permanecerem vigilantes na prevenção da disseminação de conteúdo enganoso. Além disso, sublinha a urgência de avanços tecnológicos para combater a proliferação de imitações de celebridades e figuras públicas geradas por IA. Até que soluções abrangentes estejam em vigor, os usuários online devem permanecer vigilantes e críticos para se proteger contra cair vítima de tais golpes.
As mentes mais inteligentes do setor de criptomoedas já leem nosso boletim informativo. Quer entrar? Junte-se a eles.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
John Palmer
John Murangiri chegou à Cryptopolitan com habilidades em análise de mercado. John (também conhecido como JP) formou-se na Universidade de Nairobi com bacharelado em comunicação social e estudos de mídia. Ele já contribuiu anteriormente com insights sobre o mercado de criptomoedas para InsideBitcoins.com e Metacoingraph.
