Deepfakes de IA do Primeiro-Ministro do Reino Unido e da Família Real explorados em golpes de criptomoedas no Facebook  

Vídeos gerados por IA do Primeiro-Ministro do Reino Unido, Keir Starmer, e do Príncipe William estão sendo usados para anunciar golpes de criptomoedas no Facebook e Instagram. De acordo com a empresa de pesquisa Fenimore Harper, mais de 250 anúncios promovendo uma plataforma chamada ‘Immediate Edge’ foram divulgados desde as eleições no Reino Unido que levaram Starmer ao poder no início de julho.

Em um novo relatório, a Fenimore Harper disse que o Immediate Edge empurrou agressivamente os anúncios de deepfake para usuários desprevenidos nas redes sociais. Disse que o anúncio da plataforma alcançou 890.000 pessoas no Facebook e Instagram. Relatou que, até agora, o Immediate Edge gastou £21.000 (US$ 27.000) nesses anúncios. A empresa de pesquisa encontrou os anúncios usando o modelo de linguagem grande da Meta, Llama 3.1.

O golpe de criptomoeda incentiva os espectadores a enviar dinheiro e informações pessoais  

Os vídeos deepfake de Starmer e do Príncipe William prometeram às pessoas uma “oportunidade que muda a vida”, acessível apenas adicionando dados pessoais como nome, número de telefone e e-mail. A campanha promoveu o Immediate Edge como uma nova plataforma apoiada pelo Primeiro-Ministro do Reino Unido e pelo Príncipe de Gales, onde se pode ganhar até £1.000 por dia.

Quando os usuários clicam no link anunciado, eles são levados a uma página de destino onde são solicitados a fornecer suas informações pessoais. De acordo com o relatório, os golpistas de criptomoedas entrariam em contato com os usuários, incentivando-os a depositar dinheiro em uma plataforma de negociação online falsa. Os golpistas normalmente mostram um portfólio falso com ganhos de negociação para enganar as pessoas a fazerem mais depósitos.

Os golpistas do Immediate Edge desapareceram cada vez que um usuário solicitava a retirada de seus fundos, detalhou a Fenimore Harper.

Em um exemplo, o deepfake de Starmer é citado dizendo:

“Sua vida está prestes a mudar. Eu sou Keir Starmer, Primeiro-Ministro do Reino Unido e líder do Partido Trabalhista. Eu estive esperando por você. Hoje é o seu dia de sorte. Eu não sei como você encontrou esta página, mas você não se arrependerá.”

O anúncio feito por IA afirma que 45 indivíduos foram selecionados para ganhar “dinheiro que muda a vida” por meio de um projeto misterioso. Promete ganhos diários de £1.000, totalizando £7.000 por semana ou £27.000 por mês, sem necessidade de conhecimento prévio ou habilidades especiais. Também afirma que “isto não é um golpe” e que o próprio Starmer não precisava de nada dos espectadores.

Alguns dos anúncios usaram terceiros, citando que era uma iniciativa do Primeiro-Ministro do Reino Unido.

Em um anúncio, um deepfake do Príncipe William endossa a plataforma, expressando o apoio da Família Real. Disse: “Boa tarde, cidadãos honrados do Reino Unido. Tenho o prazer de anunciar que eu, Príncipe William, e toda a Família Real apoiamos totalmente a iniciativa do Primeiro-Ministro Keir Starmer e sua nova plataforma.”

De acordo com o relatório da Fenimore Harper, o anúncio afirma que a iniciativa é necessária e ajudará a melhorar a vida dos cidadãos, instando os espectadores a se juntarem e criar um futuro melhor para o país.

Facebook e Instagram continuam a lutar com anúncios de golpes de criptomoedas 

Muitos dos links usados no golpe de criptomoedas agora não levam a lugar nenhum, disse o relatório, mesmo que alguns dos anúncios de deepfake ainda estejam rodando. Os anúncios caíram sob o radar anti-spam tanto no Facebook quanto no Instagram. O Google também falhou em sinalizar o golpe de criptomoedas. Pesquisas no Google sobre o Immediate Edge disseram aos usuários que a plataforma é um software de negociação legítimo.

Marcus Beard, fundador da Fenimore Harper, diz que, a menos que medidas severas sejam tomadas, a desinformação continuará.

“Essas campanhas agora podem se passar por figuras conhecidas com facilidade e espalhar desinformação online a uma taxa sem precedentes”, disse ele, conforme relatado pelo jornal britânico Independent. “Eles representam um enorme risco para indivíduos, figuras públicas, empresas e para a nossa democracia.”

Tanto a Meta quanto o Google disseram que não aprovam a desinformação e o uso de deepfakes de IA em suas plataformas. A Meta desde então removeu a maioria dos anúncios ilegais envolvendo Starmer e o Príncipe William, disse um porta-voz. O Google explicou que seus “sistemas de combate ao spam ajudam a manter o Google Search 99% livre de spam, apesar das tentativas em constante evolução dos spammers.”