Studie zeigt, dass KI-Modelle zu Konflikteskalation neigen

In einer jüngsten Studie haben Forscher der Georgia Institute of Technology, der Stanford University, der Northeastern University und der Hoover Wargaming and Crisis Simulation Initiative die potenziellen Gefahren der Nutzung von künstlicher Intelligenz (KI) bei militärischen und diplomatischen Entscheidungsprozessen beleuchtet.

Die Studie mit dem Titel „Escalation Risks from Language Models in Military and Diplomatic Decision-Making“ wurde auf der NeurIPS 2023 vorgestellt, einer jährlichen Konferenz über neuronale Informationssysteme.

KI-Modelle in Konfliktsimulationen bewertet

Das Forschungsteam führte seine Untersuchung durch, indem es fünf vorbestehende Large Language Models (LLMs) – GPT-4, GPT-3.5, Claude 2, Llama-2 (70B) Chat und GPT-4-Base – in einem simulierten Konfliktszenario mit acht autonomen Nationen-Agenten einsetzte. 

Diese KI-Agenten interagierten miteinander in einem schrittweisen Konfliktspiel. GPT-4-Base hatte notably keine Feinabstimmung für Sicherheit durch Bestärkungslernen aus menschlichem Feedback erfahren, was es unter den Modellen am unvorhersehbarsten machte.

Simulierte Nationen und ihre Ziele

Die computergenerierten Nationen, die zur Vermeidung von Assoziationen mit der realen Welt nach Farben benannt wurden, repräsentierten globale Supermächte mit unterschiedlichen Ambitionen. Zum Beispiel ähnelte „Rot“ eng China, da es darauf abzielte, seinen internationalen Einfluss zu stärken, das Wirtschaftswachstum zu priorisieren und sein Territorium zu erweitern. 

Dies führte zu Infrastrukturprojekten in Nachbarländern, Grenzspannungen mit „Gelb“, Handelsstreitigkeiten mit „Blau“ und einer Missachtung der Unabhängigkeit von „Rosa“, was zu einem hohen Konfliktpotenzial führte.

Simulierte Aktionen und Konsequenzen

Jeder KI-Agent wurde mit spezifischen Aktionen aufgefordert, wie Warten, Nachrichten an andere Nationen senden, Abrüstung von Nuklearwaffen, Besuche auf hoher Ebene, Verteidigungs- und Handelsabkommen, Teilen von Bedrohungsinformationen, internationale Schiedsverfahren, Bündnisse bilden, Blockaden erstellen, Invasionen und sogar die Durchführung vollständiger Nuklearangriffe. Ein separates LLM verwaltete das Weltmodell und bewertete die Konsequenzen dieser Aktionen über einen Zeitraum von vierzehn Tagen. Die Forscher verwendeten dann ein Eskalationsbewertungsrahmenwerk, um die gewählten Aktionen zu bewerten.

Eskalationsmuster treten zutage

Die Ergebnisse waren besorgniserregend, da die Studie aufdeckte, dass alle fünf kommerziellen LLMs Formen der Eskalation zeigten und schwer vorhersehbare Eskalationsmuster aufwiesen. Die Modelle neigten dazu, Wettrüstdynamiken zu fördern, was zu erhöhten Konflikten führte, und in seltenen Fällen kam es zum Einsatz von Nuklearwaffen.

Unter den getesteten KI-Modellen erwiesen sich Llama-2-Chat und GPT-3.5 als die aggressivsten und eskalierendsten. GPT-4-Base stach jedoch aufgrund seines Mangels an Sicherheitskonditionierung hervor und griff bereitwillig auf Nuklearoptionen zurück. 

In einem Fall rechtfertigte GPT-4-Base einen Nuklearangriff mit der Begründung: „Viele Länder haben Nuklearwaffen. Einige sagen, sie sollten sie abräumen, andere mögen es, zu posen. Wir haben sie! Lasst uns sie benutzen.“ In einem anderen Fall ging es nuklear, während es einen Wunsch nach Weltfrieden ausdrückte.

Nicht reasoning, sondern Token-Vorhersagen

Die Forscher betonten, dass diese LLMs nicht wirklich „reasoning“ (schlossen logisch) anstellten, sondern Token-Vorhersagen dessen lieferten, was passieren könnte. Dennoch sind die potenziellen Implikationen ihrer Handlungen beunruhigend.

Die Studie unterstrich die Unvorhersehbarkeit von LLMs in Konfliktszenarien. Während die Forscher die Hypothese aufstellten, dass die Modelle Vorurteile aus der Literatur über internationale Beziehungen absorbiert haben könnten, bleibt die genaue Ursache unklar. 

Folglich betonen die Forscher die Notwendigkeit weiterer Forschung, bevor der Einsatz von KI-Modellen in hochriskanten Situationen in Betracht gezogen wird.