Imagens digitais criadas por IA do primeiro-ministro britânico e membros da família real foram exploradas em golpes com criptomoedas no Facebook  

Vídeos gerados por inteligência artificial do primeiro-ministro britânico Kerr Starmer e do príncipe William estão sendo usados ​​para anunciar golpes com criptomoedas no Facebook e Instagram. De acordo com a empresa de pesquisa Fenimore Harper, mais de 250 anúncios promovendo uma plataforma chamada "Immediate Edge" foram veiculados desde a eleição no Reino Unido que levou Starmer ao poder no início de julho.

Em um novo relatório, a Fenimore Harper afirmou que a Immediate Edge promoveu agressivamente anúncios deepfake para usuários desavisados ​​nas redes sociais. Segundo a empresa, os anúncios da plataforma alcançaram 890 mil pessoas no Facebook e Instagram. O relatório também indica que, até o momento, a Immediate Edge gastou £ 21 mil (US$ 27 mil) com esses anúncios. A empresa de pesquisa identificou os anúncios usando o modelo de linguagem Llama 3.1 da Meta.

O golpe com criptomoedas incentiva os usuários a enviar dinheiro e informações pessoais  

Tanto os vídeos deepfake de Starmer quanto os do Príncipe William prometiam às pessoas uma "oportunidade que mudaria suas vidas", acessível apenas com o fornecimento de dados pessoais como nome, número de telefone e e-mail. A campanha promovia a Immediate Edge como uma nova plataforma apoiada pelo Primeiro-Ministro do Reino Unido e pelo Príncipe de Gales, onde seria possível ganhar até £1.000 por dia.

Quando os usuários clicam no link anunciado, são direcionados para uma página de destino onde lhes são solicitadas informações pessoais. De acordo com o relatório, os golpistas de criptomoedas entram em contato com os usuários, incentivando-os a depositar dinheiro em uma plataforma de negociação online falsa. Os golpistas geralmente exibem um portfólio falso com ganhos de negociação para enganar as pessoas e levá-las a fazer mais depósitos.

Os golpistas da Immediate Edge desapareciam sempre que um usuário solicitava o saque de seus fundos, detalhou Fenimore Harper.

Em um exemplo, o deepfake de Starmer é citado dizendo:

“Sua vida está prestes a mudar. Eu sou Keir Starmer, Primeiro-Ministro do Reino Unido e líder do Partido Trabalhista. Estava esperando por você. Hoje é seu dia de sorte. Não sei como você encontrou esta página, mas você não vai se arrepender

O anúncio gerado por inteligência artificial afirma que 45 pessoas foram selecionadas para ganhar "dinheiro que mudará suas vidas" por meio de um projeto misterioso. Promete ganhos diários de £1.000, totalizando £7.000 por semana ou £27.000 por mês, sem a necessidade de conhecimento prévio ou habilidades especiais. Afirma ainda que "isso não é um golpe" e que o próprio Starmer não precisou de nada dos espectadores.

Alguns dos anúncios usavam terceiros, alegando que se tratava de uma iniciativa do primeiro-ministro do Reino Unido.

Em um dos anúncios, uma imagem falsa do Príncipe William endossa a plataforma, expressando o apoio da Família Real. O anúncio diz: “Boa tarde, estimados cidadãos do Reino Unido. Tenho o prazer de anunciar que eu, Príncipe William, e toda a Família Real apoiamos integralmente a iniciativa do Primeiro-Ministro Keir Starmer e sua nova plataforma.”

Segundo a reportagem da Fenimore Harper, o anúncio afirma que a iniciativa é necessária e ajudará a melhorar a vida dos cidadãos, incentivando os espectadores a participar e criar um futuro melhor para o país.

Facebook e Instagram continuam a ter dificuldades com anúncios fraudulentos de criptomoedas 

Muitos dos links usados ​​no esquema de criptomoedas agora não levam a lugar nenhum, segundo o relatório, embora alguns dos anúncios deepfake ainda estejam sendo exibidos. Os anúncios passaram despercebidos pelos filtros anti-spam do Facebook e do Instagram. O Google também não sinalizou o golpe com criptomoedas. Buscas no Google por "Immediate Edge" indicavam aos usuários que a plataforma era um software de negociação legítimo.

Marcus Beard, fundador da Fenimore Harper, afirma que, a menos que medidas enérgicas sejam tomadas, a desinformação continuará.

“Essas campanhas agora podem se passar por figuras conhecidas com facilidade e disseminar desinformação online em uma velocidade sem precedentesdent, disse ele, conforme relatado pelo jornal britânico The Independentdent “Elas representam um enorme risco para indivíduos, figuras públicas, empresas e para a nossa democracia.”

Tanto a Meta quanto o Google afirmaram que não toleram desinformação e o uso de deepfakes com inteligência artificial em suas plataformas. A Meta já removeu a maioria dos anúncios ilegais envolvendo Starmer e o Príncipe William, segundo um porta-voz. O Google explicou que seus "sistemas de combate a spam ajudam a manter a Busca do Google livre de spam, apesar das tentativas cada vez mais complexas dos spammers"