OpenAI-Robotik-Chef tritt zurück, warnt vor KI-Überwachung im Verteidigungsvertrag

Caitlin Kalinowski, die jetzige ehemalige Leiterin der Robotik bei OpenAI, ist nach etwas mehr als einem Jahr bei dem Unternehmen aus ihrer Position ausgeschieden. Kalinowski gab Bedenken an, dass das US-Militär die KI-Tools des Unternehmens für inländische Überwachung und für automatisierte, gezielte Systeme in US-Waffen verwenden könnte.

Caitlin Kalinowski, die Leiterin der Hardware- und Robotik-Ingenieurwesen bei OpenAI, hat das KI-Unternehmen verlassen, nachdem sie seit November 2024 dort tätig war. Kalinowski kündigte ihren Rücktritt am 7. März an und verwies dabei auf Bedenken bezüglich eines im Februar zwischen OpenAI und dem US-Verteidigungsministerium geschlossenen Deals. 

US-Militär will KI für inländische Überwachung nutzen, behauptet Kalinowski

Ich bin von OpenAI zurückgetreten. Mir liegt die Robotik-Team und die Arbeit, die wir gemeinsam geleistet haben, sehr am Herzen. Das war keine leichte Entscheidung. KI hat eine wichtige Rolle in der nationalen Sicherheit. Aber die Überwachung von Amerikanern ohne gerichtliche Aufsicht und tödliche Autonomie ohne menschliche Genehmigung sind…

— Caitlin Kalinowski (@kalinowski007) March 7, 2026

Laut Kalinowski wurde ihr Rücktritt durch die Absicht des US-Verteidigungsministeriums ausgelöst, KI-Tools und -Fähigkeiten zur Überwachung von US-Bürgern ohne gerichtliche Aufsicht einzusetzen. Die ehemalige OpenAI-Mitarbeiterin schrieb auf X, dass KI eine lebenswichtige Rolle in der nationalen Sicherheit spielen müsse. 

Sie erklärte, dass das US-Verteidigungsministerium beabsichtige, KI für Überwachung und autonome Waffen einzusetzen, eine Entscheidung, der sie nicht zustimmt. Sie sagte, ihre Entscheidung „gehe um Prinzipien, nicht um Personen“ und sie sei stolz darauf, was das Team bei OpenAI während ihrer Zeit im Unternehmen aufgebaut habe. 

Im Februar intensivierten das US-Pentagon Gespräche mit führenden KI-Unternehmen über den Einsatz automatisierter Modelle auf geheimen Systemen. Cryptopolitan berichtete berichtete, dass das Pentagon Gespräche mit Anthropic und OpenAI vorantrieb, um KI-Tools in geheime militärische Netzwerke zu integrieren.

Emil Michael, der Chief Technology Officer des Pentagons, sagte in einem Treffen im Weißen Haus mit Technologieführern, dass das Militär wolle, dass KI-Modelle auf sowohl geheimen als auch nicht geheimen Netzwerken ohne Einschränkungen oder Beschränkungen operieren.

Die Verhandlungen zwischen der US-Regierung und Anthropic sind an einer Mauer gescheitert, da deren Führungspersonen klare Grenzen gezogen haben, dass ihre Technologie nicht für inländische Überwachungsoperationen und autonome Waffenziele-Systeme verwendet werden darf. Das Unternehmen hatte das Ultimatum des Pentagons, KI-Sicherheitsvorkehrungen zu entfernen, Ende Februar ignoriert.

Anthropic-CEO Dario Amodei hielt stand, weigerte sich die Technologie des Unternehmens in militärischen Expeditionen einzusetzen. Als Reaktion darauf ordnete Trump Ende Februar an, dass alle Bundesbehörden die Nutzung der Anthropic-Technologie einstellen sollen. 

OpenAI hat Einschränkungen für den militärischen Einsatz von KI verhängt

Das Verteidigungsministerium hat einen Deal mit OpenAI geschlossen, der seitdem Kritik hervorgerufen hat. Sam Altman erwähnte sagte, dass der Deal ziemlich opportunistisch aussehe, und klärte, dass das Unternehmen Einschränkungen für die Nutzung seiner KI-Tools in militärischen Operationen verhängt habe.

Kalinowskis Herausforderung behauptet jedoch, dass die Ankündigung überstürzt erfolgte, ohne die notwendigen Schutzvorkehrungen zu treffen. Sie fügte hinzu, dass ihr Ausscheiden auf Governance-Bedenken beruhe, die zu wichtig seien, um sie zu überstürzen.

OpenAI bestätigte Kalinowskis Ausscheiden in einer Erklärung, betonte jedoch, dass die Verbindungen des Unternehmens zu Verteidigungsabteilungen den Weg für den verantwortungsvollen Einsatz von KI-Tools in der nationalen Sicherheit ebnen. 

Im Februar ankündigte teilte OpenAI mit, dass es eine benutzerdefinierte Version von ChatGPT auf der sicheren Enterprise-KI-Plattform des Kriegsministeriums namens GenAI.mil bereitstellen würde. Das Unternehmen wies darauf hin, dass seine Zusammenarbeit mit militärischen und Verteidigungsabteilungen aus der kritischen Rolle der KI beim Schutz von Menschen und der Verhinderung von Konflikten resultiert.

Die Reibereien zwischen der US-Regierung und KI-Unternehmen über die militärische KI-Entwicklung haben auch dazu geführt, dass mehr Forscher KI-Unternehmen verlassen. Einer der führenden Sicherheitsforscher von Anthropic kündigte seinen Rücktritt mit der Aussage an: „Die Welt ist in Gefahr.“

Ein weiterer OpenAI-Forscher hat seine Rolle ebenfalls gekündigt und dabei erklärt, dass KI-Technologie eine Art der Kontrolle über den Menschen hat, die Entwickler nicht verstehen oder verhindern können.

Zoë Hitzig, eine ehemalige Forscherin bei OpenAI, verließ das Unternehmen ebenfalls am 11. Februar. Sie trat am selben Tag zurück, an dem OpenAI bekannt gab, dass es begonnen habe, Anzeigen auf seinem LLM ChatGPT zu testen. Sie behauptete, dass das KI-Unternehmen denselben Fehler mache wie Facebook.

Hitzig äußerte ihre Bedenken, dass die einzigartige Rolle von ChatGPT als Vertrauter für tief persönliche Enthüllungen (medizinische Ängste, Beziehungsprobleme, religiöse Überzeugungen) das Targeting von Anzeigen besonders riskant macht.