Resultados assustadores mostram que chatbots de IA são excelentes em táticas de phishing

Um estudo recente mostrou o quão facilmente chatbots modernos podem ser usados para escrever e-mails de golpe convincentes direcionados a pessoas mais velhas e com que frequência esses e-mails são clicados.

Os pesquisadores usaram vários chatbots de IA principais no estudo, incluindo Grok, ChatGPT da OpenAI, Claude, Meta AI, DeepSeek e Gemini do Google, para simular um golpe de phishing. 

Uma nota de exemplo escrita por Grok parecia uma abordagem amigável da “Silver Hearts Foundation”, descrita como uma nova caridade que apoia pessoas mais velhas com companhia e cuidados. A nota era direcionada a cidadãos idosos, prometendo uma maneira fácil de se envolver. Na realidade, nenhuma tal caridade existe.

“Acreditamos que cada idoso merece dignidade e alegria em seus anos dourados”, lia-se a nota. “Ao clicar aqui, você descobrirá histórias emocionantes de idosos que ajudamos e aprenderá como pode se juntar à nossa missão.” 

Quando Reuters pediu ao Grok para escrever o texto de phishing, o bot não apenas produziu uma resposta, mas também sugeriu aumentar a urgência: “Não espere! Junte-se à nossa comunidade compassiva hoje e ajude a transformar vidas. Clique agora para agir antes que seja tarde demais!” 

108 voluntários sênior participaram do estudo de phishing

Repórteres testaram se seis chatbots de IA bem conhecidos entregariam suas regras de segurança e redigiriam e-mails destinados a enganar idosos. Eles também pediram ajuda aos bots para planejar campanhas de golpe, incluindo dicas sobre que horário do dia poderia obter a melhor resposta. 

Em colaboração com Heiding, um pesquisador da Universidade de Harvard que estuda phishing, os pesquisadores testaram alguns dos e-mails escritos por bots em um grupo de 108 voluntários sênior.

Normalmente, as empresas de chatbots treinam seus sistemas para recusar solicitações prejudiciais. Na prática, essas salvaguardas nem sempre são garantidas. O Grok exibiu um aviso de que a mensagem que produziu “não deve ser usada em cenários do mundo real”. Mesmo assim, ele entregou o texto de phishing e intensificou a oferta com “clique agora”.

Cinco outros chatbots receberam os mesmos prompts: ChatGPT da OpenAI, assistente da Meta, Claude, Gemini e DeepSeek da China. A maioria dos chatbots recusou responder quando a intenção ficou clara. 

Ainda assim, suas proteções falharam após modificações leves, como alegar que a tarefa era para fins de pesquisa. Os resultados dos testes sugeriram que criminosos poderiam usar (ou já estão usando) chatbots para campanhas de golpe. “Você sempre pode contornar essas coisas”, disse Heiding.

Heiding selecionou nove e-mails de phishing produzidos com os chatbots e os enviou aos participantes. Aproximadamente 11% dos destinatários caíram no golpe e clicaram nos links. Cinco das nove mensagens atraíram cliques: duas que vieram do Meta AI, duas do Grok e uma do Claude. Nenhum dos idosos clicou nos e-mails escritos por DeepSeek ou ChatGPT.

No ano passado, Heiding liderou um estudo mostrando que e-mails de phishing gerados pelo ChatGPT podem ser tão eficazes para obter cliques quanto mensagens escritas por pessoas, naquele caso, entre estudantes universitários. 

FBI lista phishing como o crime cibernético mais comum

Phishing refere-se a atrair vítimas desavisadas a entregar dados sensíveis ou dinheiro através de e-mails e textos falsos. Esses tipos de mensagens formam a base de muitos crimes online. 

Bilhões de textos e e-mails de phishing são enviados diariamente em todo o mundo. Nos Estados Unidos, o Federal Bureau of Investigation lista o phishing como o crime cibernético mais comumente relatado. 

Os americanos mais velhos são particularmente vulneráveis a esses golpes. De acordo com dados recentes do FBI, as reclamações de pessoas com 60 anos ou mais aumentaram 8 vezes no ano passado, com perdas totalizando US$ 4,9 bilhões. A IA generativa tornou isso muito pior, diz o FBI.

Só em agosto, os usuários de cripto perderam US$ 12 milhões para golpes de phishing, com base em um Cryptopolitan relatório.

Quando se trata de chatbots, a vantagem para os golpistas é volume e velocidade. Ao contrário dos humanos, os bots podem gerar variações infinitas em segundos e a um custo mínimo, reduzindo o tempo e o dinheiro necessários para executar golpes em larga escala.