Chatbot GPT-4 Destrói AI-Guardian do Classificador de Imagens em Experimento de Investigação

Um cientista do Google demonstrou como o modelo de linguagem grande (LLM) GPT-4 da OpenAI pode ser usado como um assistente de investigação para contornar o AI-Guardian, uma defesa contra ataques adversariais em modelos de aprendizagem automática. Nicholas Carlini, cientista de investigação da Deep Mind do Google, revela no seu artigo intitulado “A LLM Assisted Exploitation of AI-Guardian” como o GPT-4 foi direcionado para conceber um método de ataque que superou as salvaguardas do AI-Guardian. O experimento mostra o valor potencial dos chatbots no avanço da investigação em segurança e destaca o impacto de modelos de linguagem poderosos como o GPT-4 no futuro da cibersegurança.

GPT-4 vs. AI-Guardian

A investigação de Carlini explora como o GPT-4, o modelo de linguagem grande da OpenAI, foi utilizado para desenvolver uma estratégia de ataque contra o AI-Guardian. No seu design inicial, o AI-Guardian foi desenvolvido para prevenir ataques adversariais, identificando e bloqueando entradas que continham artefactos suspeitos. No entanto, o artigo de Carlini demonstra que o GPT-4, quando direcionado através de prompts, pode superar as defesas do AI-Guardian, gerando scripts e explicações para ajustes de imagem que enganam um classificador sem ativar o mecanismo de deteção do AI-Guardian.

O artigo de Carlini inclui código Python sugerido pelo GPT-4, permitindo a exploração das vulnerabilidades do AI-Guardian. Como resultado, a robustez do AI-Guardian é reduzida de 98% para meros 8% sob o modelo de ameaça investigado pela investigação original do AI-Guardian. Os autores do AI-Guardian reconhecem o sucesso do ataque de Carlini para contornar a sua defesa.

Com base nas observações de Carlini, os resultados da investigação revelam a capacidade do GPT-4 de superar as salvaguardas do AI-Guardian, resultando numa diminuição substancial da sua eficácia geral. Esta demonstração convincente acentua as potenciais ramificações dos chatbots de IA como colaboradores influentes no domínio da investigação em segurança.

GPT-4 como co-autor e colaborador

A colaboração entre o GPT-4 e a entrada humana mostra as forças e limitações únicas dos modelos de linguagem de IA ao auxiliar investigadores humanos. O vasto conhecimento do GPT-4 sobre artigos de investigação publicados permite a geração rápida de código, simplificando a implementação de tarefas de codificação quando orientado adequadamente. A sua perícia em compor textos explicativos sem intervenção humana excessiva apresenta perspetivas emocionantes para acelerar os processos de investigação.

Carlini reconhece que as capacidades do GPT-4 não anulam a necessidade de colaboradores humanos. Os especialistas do domínio ainda desempenham um papel crítico na apresentação dos prompts corretos e na resolução de quaisquer problemas relacionados com o código. Além disso, o conhecimento do GPT-4 é estático, limitado aos seus dados de treino, e carece da capacidade de aprender ou fazer conexões novas entre tópicos. Apesar destas restrições, Carlini prevê um futuro onde modelos de linguagem mais sofisticados facilitem ainda mais a investigação e permitam que os cientistas da computação se concentrem em questões de investigação mais complexas.

De acordo com as perspetivas de Carlini, o envolvimento do GPT-4 nesta investigação enfatiza o seu potencial como uma ferramenta eficiente para tarefas de codificação que poupam tempo. Além disso, à medida que os modelos de linguagem evoluem, podem ganhar autonomia aprimorada na compreensão e deteção de defesas de segurança, potencialmente simplificando o processo de avaliação de vulnerabilidades e aplicação de correções.

A investigação em segurança de IA em evolução

O experimento conduzido por Nicholas Carlini usando o GPT-4 para derrotar o AI-Guardian marca um marco significativo na ação de IA sobre IA. Demonstra como os modelos de linguagem podem ser aproveitados como assistentes de investigação para descobrir vulnerabilidades e melhorar as medidas de cibersegurança. Embora as capacidades do GPT-4 ofereçam perspetivas promissoras para o futuro da investigação em segurança, também enfatizam a importância da experiência humana e dos esforços colaborativos. À medida que os modelos de linguagem de IA continuam a evoluir, têm o potencial de revolucionar o campo da cibersegurança e inspirar abordagens inovadoras para a defesa contra ataques adversariais.