Golpe com deepfake envolvendo autoridades irlandesas é removido pela Meta

A Meta Platforms Inc., anteriormente conhecida como Facebook, tomou medidas decisivas ao remover um anúncio deepfake de suas plataformas. O anúncio enganoso, que surgiu no Instagram, usava de forma fraudulenta imagens do Taoiseach irlandês Leo Varadkar e da apresentadora de notícias da Virgin Media, Colette Fitzpatrick, juntamente com narrações geradas por inteligência artificial. Este anúncio,dentpelo nome de usuário 'Tisane Trea', foi revelado inicialmente por uma investigação do Sunday World.

O anúncio enganosamente induziu o público a investir dinheiro em um esquema, garantindo retornos e alegando falsamente o endosso do Governo Irlandês e do Governador do Banco Central da Irlanda, Gabriel Makhlouf. A resposta rápida da Meta envolveu a remoção imediata tanto do anúncio quanto do anunciante, conforme confirmado por um representante ao Sunday World.

Os perigos da desinformação na internet

Colette Fitzpatrick, diretamente afetada pelo uso indevido de sua imagem, enfatizou a importância de fontes de notícias confiáveis. Ela ressaltou que a Virgin Media News, que veicula notícias factuais em horários determinados, não tinha nenhuma ligação com o anúncio falso. Seus comentários ressaltam a crescente preocupação com a capacidade da internet de disseminar informações falsas.

Os deepfakes, uma tecnologia que permite a criação de conteúdo de áudio e vídeo realista, porém falso, tornaram-se cada vez mais acessíveis e baratos. Isso levou a um aumento dos receios quanto ao potencial de uso indevido, como visto neste golpe recente. Taisdentressaltam a necessidade de maior atenção e vigilância na era digital.

Preocupações emergentes e apelos à regulamentação

Pesquisas recentes de opinião pública têm demonstrado umatronpreferência por medidas regulatórias para controlar o desenvolvimento e o uso de sistemas de IA altamente avançados. Os críticos argumentam que a dependência excessiva da IA ​​pode levar a um declínio em habilidades cognitivas essenciais. Um exemplo anedótico de um carpinteiro de Dublin ilustra essa preocupação, observando que os recém-chegados à profissão estão tendo dificuldades com tarefas básicas devido à sua dependência da tecnologia.

Estedent com o anúncio deepfake serve como um forte lembrete dos desafios e perigos potenciais representados pelas tecnologias avançadas de IA. Embora a IA ofereça inúmeros benefícios, sua capacidade de uso indevido, como demonstrado neste golpe, exige uma supervisão mais rigorosa e maior conscientização pública. A necessidade de regulamentação eficaz e diretrizes éticas no desenvolvimento e uso da IA ​​torna-se cada vez maisdent à medida que a tecnologia continua a avançar.