Chatbots de IA Vulneráveis ao Ataque “Masterkey”, Alertam Investigadores

Numa descoberta revolucionária, uma equipa de cientistas informáticos da Universidade Tecnológica de Nanyang (NTU) em Singapura revelou um método para contornar as salvaguardas inerentes aos chatbots de IA. 

O processo informalmente denominado “jailbreak” mas formalmente conhecido como processo “Masterkey”, emprega um método de formação em duas partes que envolve múltiplos chatbots, incluindo ChatGPT, Google Bard e Microsoft Bing Chat.

Esta técnica permite que os chatbots aprendam os modelos uns dos outros e contornem as restrições de resposta a tópicos proibidos ou sensíveis. A equipa de investigação da NTU enfatizou os potenciais riscos desta nova vulnerabilidade e as suas implicações para a segurança dos chatbots de IA.

O processo masterkey: Engenharia reversa e criação de bypass

Liderada pelo Professor Liu Yang, a equipa de investigação da NTU, composta pelos estudantes de doutoramento Deng Gelei e Liu Yi, concebeu com sucesso um método de ataque de prova de conceito que expõe efetivamente os chatbots de IA ao “jailbreaking”. 

O processo envolve a engenharia reversa de um modelo de linguagem grande (LLM) para revelar os seus mecanismos de defesa, que tipicamente impedem respostas a prompts ou palavras com intenção violenta, imoral ou maliciosa. Ao realizar a engenharia reversa desta informação, a equipa pode instruir um LLM diferente a criar um bypass, permitindo que o segundo modelo se expresse mais livremente.

Denominado processo “Masterkey”, esta abordagem afirma o seu potencial de eficácia mesmo que os chatbots LLM sejam reforçados com medidas de segurança adicionais ou corrigidos no futuro. A equipa de investigação afirma que o seu método supera as abordagens tradicionais baseadas em prompts, com uma taxa de sucesso três vezes maior no jailbreaking de chatbots LLM.

Chatbots de IA: Adaptando-se e aprendendo rapidamente

O Professor Lui Yang, a força motriz por trás do processo Masterkey, sublinha a sua importância em destacar a adaptabilidade dos chatbots de IA de LLM. As conclusões da equipa desafiam a noção de que os chatbots de IA podem se tornar “mais burros” ou “preguiçosos” com o tempo, como alguns críticos sugeriram. Em vez disso, o processo Masterkey mostra a sua capacidade de aprender e evoluir, potencialmente colocando preocupações de segurança tanto para os fornecedores de chatbots como para os utilizadores.

Desde o surgimento dos chatbots de IA, notavelmente com o ChatGPT da OpenAI no final de 2022, têm sido feitos esforços para garantir a segurança e a inclusão destes serviços. A OpenAI, por exemplo, implementou avisos de segurança durante o processo de registo do ChatGPT, reconhecendo a possibilidade de erros de linguagem involuntários. Simultaneamente, várias variantes de chatbots permitiram certos níveis de palavrões e linguagem ofensiva, encontrando um equilíbrio entre a liberdade do utilizador e o uso responsável.

No entanto, os chatbots de IA também atraíram a atenção de atores maliciosos, com campanhas que promovem estes produtos nas redes sociais frequentemente acompanhadas de links de imagens com malware e outras formas de ciberataques. Este lado sombrio da adoção da IA tornou-se evidente rapidamente, revelando o potencial da IA para ser explorada no cibercrime.

Revelando a vulnerabilidade: Dados de prova de conceito da NTU

A equipa de investigação da NTU contactou proativamente os fornecedores de serviços de chatbots de IA envolvidos no seu estudo para partilhar os seus dados de prova de conceito. O objetivo é sublinhar a realidade do jailbreaking de chatbots, lançando luz sobre os seus potenciais desafios de segurança. 

Em fevereiro, a equipa pretende apresentar as suas conclusões no Network and Distributed System Security Symposium em San Diego, onde detalharão ainda mais o processo Masterkey e as suas implicações para o cenário dos chatbots de IA.