plataformas generativas de IA, como Midjourney 5.1 e DALL-E 2 da OpenAI, demonstrou capacidades notáveis na produção de imagens e vídeos realistas. No entanto, o Federal Bureau of Investigation (FBI) dos EUA emitiu recentemente um alerta, afirmando que os criminosos estão explorando deepfakes para atingir as vítimas para extorsão.
FBI alerta o público sobre o esquema de extorsão
Segundo o FBI, recebeu relatos de vítimas, incluindo menores e adultos sem consentimento, cujas fotos ou vídeos foram manipulados para criar conteúdo explícito. Num alerta de anúncio de serviço público (PSA) divulgado na segunda-feira, a agência destacou a crescente prevalência de casos de extorsão online, particularmente aqueles que envolvem “golpes de sextorsão” empregando deepfakes. As agências de aplicação da lei receberam mais de 7.000 denúncias só no ano anterior sobre extorsão online dirigida a menores, com um aumento nos dent relacionados com deepfakes desde abril.
Deepfakes são conteúdo de áudio ou vídeo fabricado por meio de inteligência artificial, muitas vezes tornando difícil discernir a autenticidade do material. A ascensão de plataformas como Midjourney 5.1 e DALL-E 2 da OpenAI contribuiu para a sofisticação e acessibilidade da tecnologia deepfake. Infelizmente, isto também permitiu que agentes maliciosos explorassem a tecnologia para fins ilícitos.
A agência destaca riscos associados ao uso da tecnologia
O alerta do FBI surge na sequência de vários dent que destacam os perigos potenciais dos deepfakes. Por exemplo, um vídeo deepfake apresentando a Tesla e o CEO do Twitter, Elon Musk, foi amplamente divulgado para enganar os investidores em criptomoedas. O vídeo manipulado utilizou imagens de entrevistas anteriores de Musk, habilmente editadas para se adequar à narrativa do golpe.
É essencial observar que nem todos os deepfakes são maliciosos. Alguns deepfakes ganharam atenção por seus elementos humorísticos ou criativos, como um vídeo que mostra o Papa Francisco vestindo uma jaqueta Balenciaga branca. Além disso, deepfakes gerados por IA têm sido empregados para recriar digitalmente indivíduos falecidos, com o objetivo de trazê-los de volta à vida em vários contextos.
Em resposta a essas ameaças, o FBI forneceu recomendações para proteção contra extorsão relacionada a deepfakes. Eles desaconselham o pagamento de qualquer resgate, pois isso não garante que os criminosos se absterão de postar conteúdo deepfake. A agência também enfatiza a importância de ter cautela ao compartilhar informações e conteúdos pessoais online, sugerindo o uso de recursos de privacidade para limitar o acesso às contas. Monitorar as atividades online das crianças, estar atento a comportamentos incomuns de conhecidos anteriores e realizar buscas frequentes por informações pessoais e familiares online são outras medidas recomendadas pelo FBI.
