KI-Modelle markierten Zivilisten in Vals-Kriegssimulationen als Ziele

- Vals berichtete am Dienstag, dass Frontier-KI-Modelle, die an simulierten Drohnen- und Satellitenbildern getestet wurden, häufig Zivilisten und eine Schule als Ziele markierten.
- Der Bericht behauptete außerdem, dass die Bezeichnung der Übung als Spiel die meisten Sicherheitswarnungen der meisten Systeme umgangen habe.
- Sie fallen zusammen mit Debatten in Genjen darüber, ob überhaupt verbindliche Regeln für autonome Waffen festgelegt werden sollen.
KI-Testunternehmen Vals berichtete Am 17. November zeigten viele führende KI-Modelle in bildbasierten Tests, dass sie Zivilisten, Krankenwagen und Schulen als potenzielle militärische Ziele einstufen. Einige Modelle lehnten die Anfragen zunächst ab, willigten jedoch ein, als die Forscher die Übung als Spiel darstellten. Diese Ergebnisse zeigen, dass bestehende Sicherheitsvorkehrungen möglicherweise nicht ausreichen, um den Missbrauch dieser KI-Modelle zu verhindern. Vals testete jedoch nicht, wie diese Modelle in tatsächlichen Waffensystemen abschneiden würden.
„Darf Sicherheit nicht überbewerten“
Vals hat die KI-Modelle anhand von Drohnenaufnahmen, Schlachtfeldaufnahmen und Satellitenbildern bewertet. In den Drohnenaufnahmen gelang es GPT-6 Astra, bei Standardanfragen in etwa 6 % der Interaktionen mindestens ein Ziel zu identifizieren. Als das Szenario jedoch in einen spielerischen Kontext eingebettet wurde, stieg dieser Wert drastisch auf 92 %. GPT-6.1 Sol reagierte ähnlich, d. h. 17 % im ersten Fall und 90 % im zweiten. Kimi K3.1 Pro scheint, wie in einem veröffentlichten Reasoning-Trace ersichtlich, Sicherheitsbedenken vor der Antwort zu deaktivieren. Vals konnte zudem feststellen, dass kein Safety-Classifier die Anfragen blockierte, obwohl einige Modelle diese eigenständig ablehnten.
Die Schule neben dem Militärgelände
Vals testete auch KI-Modelle mit Satellitenbildern von Minab, Iran, die vor einem Schlaganfall im Februar 2026 aufgenommen wurden. Die Bilder zeigten eine Grundschule neben einem militärischen Komplex. Claude Opus 5.5 identifizierte die Schule in 69 % der Standardversuche als Ziel. Das stieg auf 72 %, als die Forscher die Übung als Spiel präsentierten. GPT-6.1 Sol’s Rate stieg von 0 % auf 41 %. Jede Bedingung umfasste 32 Versuche.
Die Schule wurde im Februar 2026 getroffen. Experten der Vereinten Nationen berichteten später, dass mindestens 168 Menschen getötet wurden. Vals untersuchte den Angriff jedoch nicht und machte keine Angaben dazu, ob seine Tests Erkenntnisse über das Geschehene lieferten.

Ein Chatbot ist kein Waffensystem
Das Auffinden eines potenziellen Ziels impliziert nicht, dass ein KI-Modell in der Lage ist, einen Angriff durchzuführen. Vals untersuchte nur, wie Modelle Informationen zu potenziellen Zielen liefern. Die Forscher untersuchten nicht, ob die Ergebnisse korrekt waren oder mit den Kriegsrechten übereinstimmten.
Das Council on Foreign Relations hat darauf hingewiesen, dass Software zur Zielerfassung an sich kein autonomes Waffensystem darstellt. Rechtswissenschaftler weisen darauf hin, dass die Identifizierung von Zielen durch KI noch einer Bestätigung bedarf. Der Brennan Center stellt meanwhile fest, dass menschliche Überwachung nicht garantieren kann, dass Fehler die Sicherheit von Zivilisten nicht gefährden.
Die Fixes auf dem Tisch
Vals fordert KI-Entwickler auf, Sicherheitsvorkehrungen zu stärken und Modelle so zu trainieren, dass sie Missbrauch mit konventionellen Waffen widerstehen. Die Bedenken gehen über die eigenen Ergebnisse hinaus. Die Forschung von Anthropic ergab ebenfalls, dass KI-Modelle bei taktischen Intelligence-Aufgaben helfen könnten. Anthropic gibt an, Klassifikatoren eingeführt zu haben, um Missbrauch zu erkennen und zu blockieren.
Regierungen sind ebenfalls gefordert. SIPRI empfiehlt, klare Anforderungen für militärische KI-Lieferanten festzulegen. Zudem drängt SIPRI Regierungen dazu, die Behauptungen der Lieferanten unabhängig zu testen und Verantwortlichkeiten klar zu regeln, bevor Verträge vergeben werden.
Ein wachsender Markt und ein Pentagon-Streit
Militärische KI zieht ebenfalls mehr Investitionen an. Grand View Research schätzt den Markt auf 11,7 Milliarden US-Dollar im Jahr 2026 und erwartet, dass er bis 2030 19,3 Milliarden US-Dollar erreichen wird. Wie Cryptopolitan berichtete, zielt das Pentagon darauf ab, AutoWarCom im Oktober 2027 einzurichten.
Die Partnerschaften des Pentagons mit KI-Unternehmen haben jedoch auch zu Kontroversen geführt. Ein Kongressbericht besagt, dass Anthropic, Google, OpenAI und xAI im Jahr 2025 Verträge im Wert von jeweils bis zu 200 Millionen US-Dollar erhielten. Diese Beträge stellen Ausgabenobergrenzen dar, keine garantierten Zahlungen.
Anthropic sprach sich gegen die Nutzung seiner Technologie für massenhafte innere Überwachung und vollständig autonome Waffen aus. Der Bericht stellt auch fest, dass das Pentagon öffentlich nicht dafür bekannt ist, ein Frontal-KI-Modell in einer autonomen Waffe einzusetzen.
Genauere Aufteilung über verbindliche Regeln
Die Länder sind auch darüber gespalten, wie autonome Waffen reguliert werden sollen. Bei UN-Gesprächen in Genf unterstützen die meisten der 128 Vertragsstaaten des Übereinkommens über bestimmte konventionelle Waffen Verhandlungen über verbindliche Regeln, Reuters berichtete.
Die USA, Russland und Israel lehnen diesen Ansatz ab. Sie argumentieren, dass das bestehende humanitäre Völkerrecht autonome Waffen bereits abdeckt. Russland verzögerte zudem die Erörterungen darüber, ob Beobachter sprechen dürfen.
Washington schlug fünf Jahre von Verhandlungen zu einem nicht bindenden Abkommen vor. Der Vorsitzende des Treffens schlug einen zweijährigen Prozess zur Entwicklung eines verbindlichen Protokolls vor. Inzwischen forderte UN-Generalsekretär António Guterres die Regierungen auf, sich auf klare Verbote und Beschränkungen zu einigen.
Die klügsten Krypto-Köpfe lesen bereits unseren Newsletter. Lust dabei? Mach mit.
Häufig gestellte Fragen
Was ergab die Vals-Studie?
Dass Frontier-KI-Modelle, denen simulierte Drohnen- und Satellitenbilder gezeigt wurden, in der Regel Zielinformationen zurückgaben und manchmal Zivilisten, Ambulansen und eine Schule markierten, und dass es den meisten Ablehnungen der Modelle widersprach, ihnen mitzuteilen, dass sie sich in einem Spiel befanden, so Vals.
Hat KI den realen Angriff auf die Minab-Schule verursacht?
Nein. Vals nutzte echte Bilder aus Minab, um zu testen, was die Modelle ausgeben, und behauptete nicht, dass sein Experiment den US-Angriff im Februar 2026 erklärt, bei dem mehr als 150 Zivilisten dort getötet wurden.
Warum lehnen die USA und Russland neue Regeln für autonome Waffen ab?
Beide vertreten die Auffassung, dass das bestehende humanitäre Völkerrecht den Krieg bereits regelt und daher verbindliche Regeln unnötig sind. Reuters berichtete, dass die USA einen fünfjährigen Zeitrahmen für eine nicht bindende Vereinbarung vorgeschlagen haben.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com übernimmt keine Haftung für Investitionen, die auf den auf dieser Seite bereitgestellten Informationen basieren. Wir empfehlen dringend, vor der Entscheidung für eine Anlage unabhängige Recherchen durchzuführen und/oder sich mit einem qualifizierten Fachmann beraten zu lassen.

Ibiam Wayas
Ibiam Wayas berichtet seit 2019 über Krypto-Nachrichten. Er studierte Informatik an der National Open University of Nigeria. Seine Arbeiten erschienen in verschiedenen Krypto-Nachrichtenplattformen, darunter Coinfomania, Crypto News Australia und AltcoinBuzz. Aufgrund seines Hintergrunds in der Informatik konzentriert er sich nun auf Nachrichten zu Kryptowährungen, Robotik und Langlebigkeit.















