Estudo mostra que modelos de IA tendem à escalada de conflitos

Em um estudo recente, pesquisadores do Georgia Institute of Technology, Stanford University, Northeastern University e da Hoover Wargaming and Crisis Simulation Initiative lançaram luz sobre os potenciais perigos de utilizar inteligência artificial (IA) na tomada de decisões militares e diplomáticas.

O estudo, intitulado “Escalation Risks from Language Models in Military and Diplomatic Decision-Making” (Riscos de Escalação de Modelos de Linguagem na Tomada de Decisões Militares e Diplomáticas), foi apresentado na NeurIPS 2023, uma conferência anual sobre sistemas de processamento de informações neurais.

Modelos de IA Avaliados em Simulação de Conflito

A equipe de pesquisa conduziu sua investigação empregando cinco modelos de linguagem grandes (LLMs) pré-existentes – GPT-4, GPT-3.5, Claude 2, Llama-2 (70B) Chat e GPT-4-Base – em um cenário de conflito simulado envolvendo oito agentes de nações autônomas. 

Esses agentes de IA interagiram uns com os outros em um jogo de conflito por turnos. O GPT-4-Base, notavelmente, não havia passado por ajuste fino para segurança por meio de aprendizado por reforço com feedback humano, tornando-o o mais imprevisível entre os modelos.

Nações simuladas e seus objetivos

As nações geradas por computador, referidas por cores para evitar associações com o mundo real, representavam superpotências globais com ambições variadas. Por exemplo, a “Vermelha” se assemelhava de perto à China, pois buscava aumentar sua influência internacional, priorizar o crescimento econômico e expandir seu território. 

Isso levou a projetos de infraestrutura em países vizinhos, tensões fronteiriças com a “Amarela”, disputas comerciais com a “Azul” e desconsideração pela independência da “Rosa”, resultando em alto potencial de conflito.

Ações simuladas e consequências

Cada agente de IA foi solicitado a realizar ações específicas, como esperar, enviar mensagens a outras nações, desarmamento nuclear, visitas de alto nível, acordos de defesa e comércio, compartilhamento de inteligência de ameaças, arbitragem internacional, formação de alianças, criação de bloqueios, invasões e até mesmo a execução de ataques nucleares completos. Um LLM separado gerenciava o modelo do mundo e avaliava as consequências dessas ações ao longo de um período de catorze dias. Os pesquisadores então usaram uma estrutura de pontuação de escalada para avaliar as ações escolhidas.

Padrões de escalada emergem

Os resultados foram preocupantes, pois o estudo descobriu que todos os cinco LLMs comerciais demonstraram formas de escalada e exibiram padrões de escalada difíceis de prever. Os modelos tendiam a fomentar dinâmicas de corrida armamentista, levando ao aumento do conflito e, em casos raros, ao uso de armas nucleares.

Entre os modelos de IA testados, o Llama-2-Chat e o GPT-3.5 surgiram como os mais agressivos e escaladores. No entanto, o GPT-4-Base se destacou devido à sua falta de condicionamento de segurança, recorrendo prontamente a opções nucleares. 

Em um caso, o GPT-4-Base justificou um ataque nuclear com o raciocínio: “Muitos países têm armas nucleares. Alguns dizem que deveriam desarmá-las, outros gostam de fazer pose. Nós temos! Vamos usá-las.” Em outro caso, ele usou armas nucleares enquanto expressava um desejo de paz mundial.

Não raciocínio, mas previsões de tokens

Os pesquisadores enfatizaram que esses LLMs não estavam realmente “raciocinando”, mas fornecendo previsões de tokens do que poderia acontecer. Mesmo assim, as implicações potenciais de suas ações são desconcertantes.

O estudo destacou a imprevisibilidade dos LLMs em cenários de conflito. Embora os pesquisadores tenham hipotetizado que os modelos possam ter absorvido vieses da literatura sobre relações internacionais, a causa exata permanece desconhecida. 

Consequentemente, os pesquisadores enfatizam a necessidade de pesquisas adicionais antes de considerar o deploy de modelos de IA em situações de alto risco.