Im Innersten des ersten KI-Krieges der Welt: Zielirrtümer, Desinformation und Lücken in der Rechenschaftspflicht

- Die US-Militärkräfte untersuchen immer noch die Bombardierung einer Schule im Iran, und niemand hat gesagt, ob KI eine Rolle bei der Auswahl des Ziels gespielt hat.
- Maven Smart System, jetzt angetrieben von einem Large Language Model, half US-Streitkräften dabei, 1.000 Ziele innerhalb von 24 Stunden zu treffen.
- In der Zwischenzeit wurden von KI-generierten Kriegsaufnahmen Hunderten von Millionen Aufrufe erzielt, und die Plattformen reagierten nur langsam.
Am ersten Tag der US- und israelischen Angriffe auf den Iran wurde eine Schule in der südiranischen Stadt Minab bombardiert. Mehr als 175 Menschen kamen ums Leben, darunter Schulkinder. Weder Washington noch Tel Aviv haben sagte gesagt, was passiert ist. Niemand hat die Verantwortung übernommen. Eine Frage stellt sich immer wieder: Hat ein KI-System es das falsche Ziel?
In the first 24 hours, US forces hit around 1,000 sites, about 42 per hour. A CSET report on the 18th Airborne Corps found that with Maven Smart System, 20 people could do what used to need a 2,000-person team at the Combined Air Operations Center in Iraq. By late 2024, the US had put a large language model, the same type of software behind consumer AI chatbots, inside Maven. This was among the first wars to use that technology in targeting.
Das US-Militär sagt, dass es noch die Minab-Strike untersucht. Es hat nicht gesagt, welche Rolle, wenn überhaupt, das KI-System bei dem Abschießen einer Rakete auf dieses Gebäude hatte.
Die New York Times berichtete früh, dass das System möglicherweise mit veralteten Daten lief. Auslandsreporterin Louisa Loveluck schrieb auf X, dass der Strike „auf Intel basieren könnte, das ein Jahrzehnt alt ist“, und dass jeder, der kürzlich Satellitenbilder kostenlos online überprüft hätte, „eine Schule mit einem Sportfeld“ an einer der für den Angriff markierten Stätten gesehen hätte.
Der Informatiker Anh Totti Nguyen hat erforscht, wo KI-Vision-Systeme fehlschlagen. Seine Arbeit „Vision language models are blind: Failing to translate detailed visual features into words“ ergab, dass diese Systeme oft versagen, wenn zwei Strukturen nah beieinander stehen und die Software herausfinden muss, welche welche ist.
Satellitenbilder der New York Times zeigen die Shajarah Tayyebeh Elementary School direkt neben einem IRGC-Komplex in Minab, genau das Setup, das Nguyens Forschung flagged.
Wer ist verantwortlich, wenn die KI sich irrt?
Emilia Probasco, eine ehemalige Navy-Offizierin und Senior Fellow am Center for Security and Emerging Technology, sagte in The Four Cast Podcast, dass die Verantwortung beim Kommandanten liegt, der den Befehl gab. So funktioniert das Militär. Sie sagte, das Black-Box-Problem, also die Unfähigkeit zu sehen, wie ein KI-System zu seiner Antwort kommt, sei „ein fortlaufender Forschungsbereich, kein gelöstes“.
Vor dem Krieg geriet Anthropic, das Unternehmen, dessen Technologie in Maven steckt, in einen Vertragsstreit mit dem Verteidigungsministerium über zwei Dinge: ob KI zuverlässig genug für lebenswichtige Entscheidungen ist und ob die Verwendung von KI zur Verbindung verstreuter Datenpunkte sie zu einem Massüberwachungstool macht.
Probasco sagte, dass beide Bedenken gerechtfertigt sind, wies jedoch auf „die Unangemessenheit hin, dass ein privates Unternehmen Linien zieht, wie ein Militär seine Operationen durchführt.“
Holland Michel sagte, die Diskussion weiche immer wieder in die schlimmstmögliche Szenario ab. Eine Maschine, die Ziele auswählt und ohne menschliches Eingreifen schießt. Das ist ein reales Risiko, sagte er, aber es ist nicht das, was aktuell geschieht.
„Die schwierigere, unmittelbarere Arbeit“, sagte er, „besteht darin, KI-Systeme transparenter zu machen und sicherzustellen, dass Menschen, die auf deren Ausgaben angewiesen sind, wirklich informierte Entscheidungen treffen und nicht einfach dem, was die Maschine vorschlägt, folgen.“
Auch Kriegsinhalte, die von KI generiert wurden, verbreiteten sich schnell online
BBC Verify verfolgte KI-generierte Videos und manipulierte Satellitenbilder über den Konflikt, die Hunderte von Millionen Aufrufe zogen.
Timothy Graham, ein Digital-Media-Forscher an der Queensland University of Technology, sagte: „Das Ausmaß ist wirklich alarmierend und dieser Krieg macht es unmöglich, dies jetzt zu ignorieren.“ Er fügte hinzu, „Was früher professionelle Videoproduktion erforderte, kann heute mit KI-Tools in Minuten erledigt werden. Die Hürde für die Erstellung überzeugender synthetischer Konfliktvideos ist im Wesentlichen zusammengebrochen.”
X erklärte, es werde Creator aus seinem Zahlungssystem ausschließen, wenn sie KI-generierte Kriegsvideos ohne Kennzeichnung posten. Mahsa Alimardani, Forscherin am Oxford Internet Institute, die sich mit Iran befasst, bezeichnete dies als „ein bemerkenswertes Signal dafür, dass sie erkannt haben, dass dies ein großes Problem ist.“ Meta und TikTok antworteten nicht auf die Anfrage, ob sie dasselbe vorhaben.
Lesen Sie nicht nur Krypto-Nachrichten. Verstehen Sie sie. Abonnieren Sie unseren Newsletter. Es ist kostenlos.

Noor Bazmi
Noor Bazmi trägt zum Cryptopolitan-News-Team bei und verfügt über einen Abschluss in Medienwissenschaften. Noor berichtet über Nachrichten zu Blockchain, Kryptowährungen, künstlicher Intelligenz, Big Tech, E-Fahrzeugmärkten, der globalen Wirtschaft und Verschiebungen in der Regierungs politik. Sie studiert Marketing, um mit globalen Zielgruppen in Kontakt zu treten.















