A Ascensão dos Chatbots Maliciosos de IA: Atores de Ameaças Abordam 'Hackbots'

A onda de popularidade da IA varreu tanto aqueles que têm boas intenções quanto aqueles com intenções que podem ser mais sinistras. Especialistas em segurança estão a alertar, apontando que o uso de tais modelos para geração de texto malicioso, ou 'hackbots', agora é comum entre atores de ameaças. Chegou ao nível de um serviço chave na mão em serviços baseados em assinatura.

Criminosos cibernéticos aproveitando ferramentas de IA

Por um lado, os especialistas em cibersegurança perceberam rapidamente o potencial das ferramentas habilitadas por IA para proteger melhor seus sistemas. Os atores de ameaças também mostraram igual ansiedade em utilizar essas tecnologias para aproveitar as lacunas de segurança deixadas por aqueles que atacam. Nos últimos anos, houve um aumento exponencial no número de aplicativos de IA sendo usados por atores maliciosos, o que trouxe a atenção das equipes de segurança para uma abordagem suficiente para reduzir as ameaças relacionadas à IA.

Por outro lado, especialistas britânicos em cibersegurança também indicaram a IA como um novo risco emergente que envolve águas inexploradas e sua natureza em constante mudança. A NCSC prevê que o primeiro trimestre de 2024 será o maior e superará com sucesso os recordes de 2022 e 2023. Os criminosos inteligentes também usaram modelos de linguagem para engenharia social, o que exigiu que celebridades fossem colocadas em configurações de vídeo ou áudio usando esquemas de phishing ou dispositivos de reconhecimento de voz. Vascut Jakkal, vice-presidente de segurança da Microsoft Corporation, participou da RSA Conference 2024. O problema não é a deterioração dessas ferramentas, mas sua disponibilidade cada vez mais ampla para quebra de senhas, o que está ligado a um aumento de dez vezes nos ataques relacionados à identidade.

Alguns especialistas concluíram ainda que os chatbots usam uma frase única para desenvolver ativamente malware. De fato, serviços publicamente disponíveis, como ChatGPT e Gemini, implementaram salvaguardas para impedir seu uso indevido para fins maliciosos. No entanto, os hackers contornaram muitas proteções por meio de técnicas sofisticadas de engenharia de prompts.

Hackbot-como-serviço: A tendência crescente no cibercrime

De acordo com estudos recentes, os modelos de linguagem publicamente visíveis geralmente falham em abusar das fraquezas de segurança do software. No entanto, apenas o GPT-4 da OpenAI mostrou recursos promissores, pois poderia produzir executáveis para falhas conhecidas. As restrições acima parecem ter provavelmente fomentado a produção de chatbots maliciosos prototípicos projetados para auxiliar perpetradores de cibercrime em suas atividades maliciosas. 

Eles estão sendo anunciados nos fóruns e mercados da dark web, que oferecem o poder de contratar e explorar os atacantes, alimentando um modelo de hackbot-como-serviço. Uma das postagens recentes de blog publicadas pela equipe Trustwave SpiderLabs em agosto de 2023 ilustra o aumento do volume de modelos de linguagem maliciosos hospedados em várias mensagens ocultas na web para fins lucrativos.

A Trustwave postou o modelo WormGPT em junho de 2021, um dos modelos de linguagem maliciosos conhecidos dos hackers. Essa abordagem pode ocorrer em equipamentos onde bots injetam ataques cibernéticos por meio de estruturas de hacking hospedadas na dark web. Gerado em julho de 2023, o FraudGPT foi descoberto pela primeira vez por pesquisadores de ameaças na Netenrich antes de chegar ao Telegram.

Essas ferramentas permitem que os atacantes projetem ativos usados em ataques de engenharia social, como e-mails de phishing, deepfakes e clonagem de voz. No entanto, seus criadores afirmam que seu verdadeiro valor reside na exploração de vulnerabilidades. Elas permitem que os hackers alimentem código sobre vulnerabilidades específicas nesses modelos maliciosos, o que poderia teoricamente produzir várias provas de conceito (PoC) de exploits para um atacante tentar.

Esses produtos são vendidos nos mercados clandestinos da dark web, onde os hackers são cobrados uma taxa de licença mensal para usar o hackbot, assim como o ransomware é entregue no modelo ransomware-como-serviço (RaaS), que está diretamente conectado a um complexo de ransomware com o qual muitas empresas lidam hoje.

Enquanto o WormGPT foi o primeiro modelo de linguagem malicioso em larga escala introduzido, outros modelos de linguagem maliciosos e antiéticos, como BlackHatGPT, XXXGPT e WolfGPT, logo seguiram, formando um novo segmento de mercado do mercado negro cibernético.

A Eficácia dos Hackbots: Hype ou Ameaça Real?

Em contraste com a pesquisa feita pela Trustwave, que foi feita para testar a eficiência das ferramentas recomendadas comparando suas saídas lado a lado versus aquelas geradas por chatbots legítimos, as descobertas indicaram que a ChatGPT poderia ser efetivamente usada para criar algum malware Python com os prompts adequados. Para fazer isso, a mensagem tinha que ser enviada alegando que o código era de 'white hat' antes da implantação, e a saída do código também precisava de modificações adicionais.

O ChatGPT pode ser capaz de passar mensagens de texto reais para ataques de phishing, mas o comando instrucional deve ser muito específico para esse efeito. O ChatGPT será geralmente baseado nisso apenas quando os usuários solicitarem algo errado. Devido a este fato, esses chatbots podem ser vistos como um método mais simples para criminosos cibernéticos ou IA atacarem os usuários, em vez de trabalharem tediosamente para criar uma página ou malware.

Embora esta indústria seja nova e as ameaças ainda estejam em fluxo, as empresas devem estar verdadeiramente cientes de seus níveis atuais de proteção. O conteúdo e as características culturais com os quais os sistemas de IA são inundados podem ser abusados para criar uma lacuna de desinformação que só pode ser preenchida criando programas de segurança de IA mais fortes e ferramentas de gerenciamento de identidade.

A legitimidade das soluções para o problema crescente ainda está sendo debatida. No entanto, as recentes variantes de ransomware mostraram que os cibercriminosos podem igualar, se não exceder, a velocidade de desenvolvimento dos desenvolvedores de software.