MrBeast expõe golpe de deepfake: 10.000 iPhones 15 Pro falsos no TikTok

O popular YouTuber e filantropo MrBeast confrontou recentemente o TikTok, da ByteDance Ltd., por permitir a circulação de um vídeo deepfake em sua plataforma. O vídeo apresentava uma imitação gerada por inteligência artificial de MrBeast anunciando um sorteio massivo de 10.000 iPhones 15 Pro por apenas US$ 2 cada. Essedent destaca a crescente preocupação em torno dos deepfakes gerados por IA em plataformas de mídia social e seu potencial para enganar os usuários. Neste artigo, analisamos os detalhes dessa controvérsia e suas implicações para a autenticidade do conteúdo online.

O golpe dos deepfakes

O TikTok, uma importante plataforma de mídia social, veiculou um anúncio apresentando uma versão deepfake do MrBeast, gerada por inteligência artificial. No vídeo, o impostor alegava estar organizando o "maior sorteio de iPhone 15 do mundo", com cada iPhone custando apenas US$ 2. Essa oferta audaciosa naturalmentetracmuita atenção, principalmente devido à reputação do MrBeast de promover sorteios e concursos.

Resposta do MrBeast

Ao descobrir o vídeo deepfake, MrBeast recorreu às redes sociais para expressar sua preocupação. Ele destacou que "Muitas pessoas estão recebendo esse anúncio falso falso meu" e questionou se as plataformas de mídia social estavam adequadamente preparadas para combater o aumento de deepfakes criados por inteligência artificial. Sua declaração pública se juntou ao coro de celebridades que foram vítimas de imitações deepfake que circulam nas redes sociais.

Desmascarando o deepfake

Embora o anúncio deepfake apresentasse o logotipo oficial do MrBeast e um selo azul de verificação, sinais de manipulação por IA eram perceptíveis para espectadores atentos. Observadores notaram vozes distorcidas e movimentos labiais não naturais, ambos característicos de conteúdo gerado por IA. Apesar disso, o vídeo ainda conseguiu ganhar trac, demonstrando a eficácia de tais golpes, principalmente entre usuários menos exigentes.

Resposta do TikTok

Em resposta à controvérsia, um porta-voz do TikTok confirmou que o anúncio fraudulento foi removido rapidamente poucas horas após a publicação, e a conta associada responsável pelo deepfake foi suspensa por violações das políticas da plataforma. O TikTok também tomou medidas para combater a proliferação de conteúdo gerado por IA, introduzindo ferramentas para que os criadores rotulem esse tipo de conteúdo e testando mecanismos de rotulagemmatic .

Uma tendência em deepfakes de celebridades

MrBeast não é a única celebridade a ter sido alvo de imitações deepfake. Recentemente, o ator Tom Hanks publicou uma declaração no Instagram denunciando uma versão deepfake de si mesmo promovendo um plano dent. Ele esclareceu que não tinha "nada a ver com isso". Da mesma forma, a filha de Robin Williams, Zelda, expressou seu desconforto com as recriações da voz de seu pai feitas por inteligência artificial, referindo-se a elas como "pessoalmente perturbadoras" e "horríveis monstros frankensteinianos"

O ator britânico Stephen Fry também foi vítima do uso indevido de IA, com sua voz sendo usada sem permissão em conteúdo relacionado aos livros de Harry Potter. Essesdentdestacam o ritmo crescente de deepfakes na era da tecnologia avançada de IA.

O desafio de detectar deepfakes

Embora gigantes da tecnologia como o Google estejam trabalhando em soluções como o SynthID para detectar imagens geradas por IA, combater áudios e vídeos deepfake continua sendo um desafio complexo. Detectar manipulação por IA em tempo real é uma tarefa formidável e levará tempo até que soluções abrangentes estejam disponíveis. Enquanto isso, os usuários são aconselhados a ter cautela, usar o bom senso e verificar a veracidade de conteúdos que pareçam suspeitos.

A controvérsia do deepfake do MrBeast serve como um forte lembrete dos riscos representados pelos deepfakes gerados por IA no âmbito das redes sociais. Ela destaca a necessidade de plataformas como o TikTok permanecerem vigilantes na prevenção da disseminação de conteúdo enganoso. Além disso, ressalta a urgência de avanços tecnológicos para combater a proliferação de imitações de celebridades e figuras públicas geradas por IA. Até que soluções abrangentes sejam implementadas, os usuários da internet devem permanecer vigilantes e críticos para se protegerem contra esses golpes.