US-Pentagon intensiviert Gespräche mit führenden KI-Unternehmen über den Einsatz von Tools in klassifizierten Systemen

Das Pentagon übt echten Druck auf große künstliche Intelligenz-Unternehmen aus, der US-Streitkräften Zugang zu ihren Tools innerhalb klassifizierter Systeme zu gewähren.

Die Beamten fordern nicht nur grundlegenden Zugang. Sie wollen, dass diese KI-Modelle ohne die üblichen Einschränkungen funktionieren, die Unternehmen für ihre Nutzer festlegen.

Während eines Treffens im Weißen Haus am Dienstag sagte Emil Michael, der Chief Technology Officer des Pentagons, den Tech-Führern, dass das Militär diese KI-Modelle sowohl in klassifizierten als auch in nicht klassifizierten Netzwerken einsetzen möchte.

Ein der Verhandlungen nahestehender Beamter soll gesagt haben, dass die Regierung nun entschlossen ist, das, was sie als „Frontier-AI-Fähigkeiten“ bezeichnet, in jede Ebene der militärischen Nutzung zu integrieren.

Pentagon fordert uneingeschränkten Zugang in sicheren Netzwerken

Dieser Vorstoß ist Teil größerer Gespräche darüber, wie KI in zukünftigen Kampfhandlungen eingesetzt werden soll. Kriege werden bereits durch Drohnenschwärme, Roboter und ununterbrochene Cyberangriffe geprägt. Das Pentagon will nicht aufholen, während die Tech-Welt Grenzen dessen zieht, was erlaubt ist.

Derzeit bieten die meisten Unternehmen, die mit dem Militär zusammenarbeiten, verwässerte Versionen ihrer Modelle an. Diese laufen nur auf offenen, nicht klassifizierten Systemen, die für Verwaltungsaufgaben genutzt werden. Anthropic ist die einzige Ausnahme.

Claude, sein Chatbot, kann in einigen klassifizierten Umgebungen genutzt werden, jedoch nur über Drittanbieter-Plattformen. Selbst dann müssen Regierungsbenutzer weiterhin die Regeln von Anthropic einhalten.

Was das Pentagon will, ist direkter Zugang in hochsensiblen, klassifizierten Netzwerken. Diese Systeme werden für Dinge wie die Planung von Missionen oder das Festlegen von Zielen genutzt. Es ist unklar, wann und wie Chatbots wie Claude oder ChatGPT in diese Netzwerke installiert werden sollen, aber das ist das Ziel.

Beamte glauben, dass KI dabei helfen kann, enorme Datenmengen zu verarbeiten und diese schnell an Entscheidungsträger weiterzuleiten. Aber wenn diese Tools falsche Informationen generieren – was sie tun – könnten Menschen sterben. Forscher haben genau davor gewarnt.

OpenAI hat diese Woche einen Deal mit dem Pentagon abgeschlossen. ChatGPT wird nun in einem nicht klassifizierten Netzwerk namens genai.mil genutzt. Dieses Netzwerk erreicht bereits über 3 Millionen Mitarbeiter im Verteidigungsministerium.

Im Rahmen des Deals hat OpenAI viele seiner normalen Nutzungsbeschränkungen entfernt. Es gibt zwar noch einige Schutzvorkehrungen, aber das Pentagon hat den Großteil dessen bekommen, was es wollte.

Ein Sprecher des Unternehmens sagte, dass jede Erweiterung auf den Einsatz in klassifizierten Bereichen einen neuen Vertrag erfordern würde. Google und Elons xAI haben in der Vergangenheit ähnliche Deals abgeschlossen.

KI-Forscher kündigen ihre Stellen und weisen auf die Risiken hin

Die Gespräche mit Anthropic waren nicht so einfach. Führungskräfte des Unternehmens sagten dem Pentagon, dass sie nicht wollen, dass ihre Technologie für automatische Zielverfolgung oder Spionage von Personen innerhalb der USA genutzt wird.

Obwohl Claude bereits in einigen nationalen Sicherheitsmissionen eingesetzt wird, wehren sich die Führungskräfte des Unternehmens dagegen. In einer Erklärung sagte ein Sprecher:-

„Anthropic ist bestrebt, die Führungsposition Amerikas in der KI zu schützen und der US-Regierung zu helfen, ausländischen Bedrohungen entgegenzuwirken, indem wir unseren Kriegern Zugang zu den fortschrittlichsten KI-Fähigkeiten gewähren.“

Sie sagten, Claude werde bereits eingesetzt, und das Unternehmen arbeite weiterhin eng mit der jetzt als Department of War bezeichneten Behörde zusammen. Präsident Donald Trump hat das Verteidigungsministerium kürzlich angewiesen, diesen Namen anzunehmen, aber der Kongress muss dies noch genehmigen.

Während all dessen passieren, steigen eine Reihe von Forschern in diesen Unternehmen aus. Einer von Anthropics führenden Forschern für Sicherheitsvorkehrungen sagte: „Die Welt ist in Gefahr“, als er kündigte. Auch ein Forscher bei OpenAI verließ das Unternehmen und sagte, die Technologie habe „das Potenzial, Nutzer auf Weise zu manipulieren, deren wir uns nicht bewusst sind, geschweige denn, die wir verhindern können.“

Einige der Abgehenden tun dies nicht im Verborgenen. Sie warnen, dass die Dinge zu schnell voranschreiten und die Risiken ignoriert werden. Zoë Hitzig, die zwei Jahre bei OpenAI gearbeitet hatte, kündigte diese Woche.

In einem Aufsatz sagte sie, sie habe „tiefgreifende Bedenken“ hinsichtlich der Pläne des Unternehmens, Werbung einzuführen. Sie sagte auch, dass ChatGPT private Daten der Menschen speichert, wie „medizinische Ängste, Beziehungsprobleme, ihre Überzeugungen über Gott und das Jenseits.“

Sie sagte, das sei ein großes Problem, weil die Menschen dem Chatbot vertrauen und nicht glauben, dass er versteckte Motive hat.

Ungefähr zur gleichen Zeit berichtete die Tech-Website Platformer, dass OpenAI sein Team für die Ausrichtung der Mission entlassen hat. Diese Gruppe wurde 2024 eingerichtet, um sicherzustellen, dass das Ziel des Unternehmens, KI zu entwickeln, die der gesamten Menschheit hilft, auch wirklich etwas bedeutete.