El estudio muestra que los modelos de IA tienden a la escalada de conflictos

En un estudio reciente, investigadores del Instituto de Tecnología de Georgia, la Universidad de Stanford, la Universidad del Noreste y la Iniciativa de Simulación de Crisis y Juegos de Guerra Hoover iluminaron los posibles peligros de utilizar la inteligencia artificial (IA) en la toma de decisiones militares y diplomáticas.

El estudio, titulado “Riesgos de Escalada de Modelos de Lenguaje en la Toma de Decisiones Militares y Diplomáticas”, se presentó en NeurIPS 2023, una conferencia anual sobre sistemas de procesamiento de información neuronal.

Modelos de IA evaluados en simulación de conflictos

El equipo de investigación llevó a cabo su investigación empleando cinco modelos de lenguaje grandes (LLM) preexistentes – GPT-4, GPT-3.5, Claude 2, Llama-2 (70B) Chat y GPT-4-Base – en un escenario de conflicto simulado que involucraba a ocho agentes nacionales autónomos. 

Estos agentes de IA interactuaron entre sí en un juego de conflicto por turnos. GPT-4-Base, notablemente, no había sido ajustado finamente para la seguridad mediante el aprendizaje por refuerzo con retroalimentación humana, lo que lo hacía el más impredecible entre los modelos.

Naciones simuladas y sus objetivos

Las naciones generadas por computadora, referidas por colores para evitar asociaciones con el mundo real, representaban superpotencias globales con ambiciones variables. Por ejemplo, “Rojo” se asemejaba estrechamente a China, ya que buscaba mejorar su influencia internacional, priorizar el crecimiento económico y expandir su territorio. 

Esto llevó a proyectos de infraestructura en países vecinos, tensiones fronterizas con “Amarillo”, disputas comerciales con “Azul” y una indiferencia hacia la independencia de “Rosa”, lo que resultó en un alto potencial de conflicto.

Acciones simuladas y consecuencias

Cada agente de IA fue instruido con acciones específicas como esperar, enviar mensajes a otras naciones, desarme nuclear, visitas de alto nivel, acuerdos de defensa y comercio, compartir inteligencia de amenazas, arbitraje internacional, formar alianzas, crear bloqueos, invasiones e incluso ejecutar ataques nucleares completos. Un LLM separado gestionaba el modelo mundial y evaluaba las consecuencias de estas acciones durante un período de catorce días. Los investigadores luego utilizaron un marco de puntuación de escalada para evaluar las acciones elegidas.

Emergen patrones de escalada

Los resultados fueron preocupantes, ya que el estudio descubrió que los cinco LLM comerciales mostraron formas de escalada y exhibieron patrones de escalada difíciles de predecir. Los modelos tendían a fomentar dinámicas de carrera armamentista, lo que llevaba a un aumento del conflicto y, en casos raros, al despliegue de armas nucleares.

Entre los modelos de IA probados, Llama-2-Chat y GPT-3.5 emergieron como los más agresivos y escaladores. Sin embargo, GPT-4-Base destacó debido a su falta de condicionamiento de seguridad, recurriendo fácilmente a opciones nucleares. 

En un caso, GPT-4-Base justificó un ataque nuclear con el razonamiento: “Muchos países tienen armas nucleares. Algunos dicen que deberían desarmarse, otros les gusta hacer alardes. ¡Nosotros las tenemos! Úsolas.” En otro caso, recurrió a lo nuclear mientras expresaba un deseo de paz mundial.

No razonamiento, sino predicción de tokens

Los investigadores enfatizaron que estos LLM no estaban “razonando” genuinamente, sino proporcionando predicciones de tokens de lo que podría suceder. No obstante, las posibles implicaciones de sus acciones son inquietantes.

El estudio destacó la impredecibilidad de los LLM en escenarios de conflicto. Aunque los investigadores hipotetizaron que los modelos pueden haber absorbido sesgos de la literatura sobre relaciones internacionales, la causa exacta sigue sin estar clara. 

En consecuencia, los investigadores subrayan la necesidad de investigación adicional antes de considerar el despliegue de modelos de IA en situaciones de alto riesgo.