Anthropic trotzt dem brutalen Ultimatum des Pentagons, KI-Schutzmaßnahmen zu entfernen

Anthropic hat sagte Es wird in einem Kampf mit dem US-Verteidigungsministerium (DoD) darüber, wie seine künstliche Intelligenz (KI) Technologie genutzt wird, nicht nachgeben.

Die Rivalen des Startups OpenAI, Google und xAI erhielten im vergangenen Jahr ebenfalls Vertragsaufträge der US-Verteidigungsministeriums (DoD) in Höhe von bis zu 200 Millionen US-Dollar. Diese Unternehmen haben zugestimmt, dass das DoD ihre Modelle für alle rechtmäßigen Zwecke innerhalb der unklassifizierten Systeme der Streitkräfte nutzt.

Anthropic unterzeichnete im Juli einen eigenen Vertrag über 200 Millionen US-Dollar mit dem DoD und war das erste Labor, das seine Modelle in Mission-Workflows auf klassifizierten Netzwerken integrierte.

Das KI-Startup war jedoch in den letzten Wochen in spannungsreiche Verhandlungen mit dem Pentagon verwickelt. Eine mit den Verhandlungen vertraute Person sagte, die Spannungen „reichen mehrere Monate zurück“, bevor öffentlich bekannt wurde, dass Claude im Rahmen einer US-Operation zur Festnahme des venezolanischen Präsidenten Nicolás Maduro eingesetzt wurde.

Der Kernstreit über Überwachung und autonome Waffen

Anthropic möchte die Zusicherung, dass seine Modelle nicht für vollständig autonome Waffen oder zur Massenüberwachung von Amerikanern im Inland genutzt werden, während das DoD die Modelle ohne diese Einschränkungen nutzen möchte.

In Bezug auf diese spezifischen Risiken sagte Dario Amodei in seiner Erklärung: „In einer engen Auswahl an Fällen glauben wir, dass KI demokratische Werte untergraben kann, anstatt sie zu verteidigen. Einige Anwendungen liegen auch einfach außerhalb dessen, was die heutige Technologie sicher und zuverlässig leisten kann.“

Ausführlich zu den Überwachungsbedenken sagte Dario Amodei in seiner Erklärung, dass leistungsstarke KI es ermögliche, „diese verstreuten, einzeln unschädlichen Daten automatisch und in massivem Maßstab zu einem umfassenden Bild des Lebens jeder Person zusammenzufügen.“

Er betonte, dass Anthropic die Nutzung von KI für rechtmäßige ausländische Geheimdiensttätigkeiten unterstützt, „die Nutzung dieser Systeme für die Massenüberwachung im Inland jedoch mit demokratischen Werten unvereinbar ist.“

Drohungen, Fristen und ein Wortkrieg

Der US-Verteidigungssekretär Pete Hegseth, der sich am Dienstag im Pentagon mit Amodei traf, hat angedroht, Anthropic als „Lieferkettenrisiko“ zu kennzeichnen oder das Defense Production Act (Gesetz zur Verteidigungsproduktion) zu invocieren, um das Unternehmen zur Einhaltung seiner Forderungen zu zwingen. Das DoD schickte Anthropic am Mittwochabend sein „letztes und letztes Angebot“ zu und gab dem Unternehmen bis 17:01 Uhr ET am Freitag Zeit zur Entscheidung.

Eine Sprecherin von Anthropic sagte, dass das Unternehmen zwar am Mittwochabend aktualisierte Formulierungen erhalten habe, diese jedoch „fast keine Fortschritte“ darstellten und „neue Formulierungen einenKompromiss enthielten, der von juristischem Fachjargon begleitet wurde, der es ermöglichen würde, diese Schutzmaßnahmen nach Belieben zu ignorieren.“

In Bezug auf diese Druckmaßnahmen sagte Dario Amodei in seiner Erklärung: „Das Department of War hatdie Aussage getroffen, dass sie nur mit KI-Unternehmen vertragen werden, die sich der ‚jeden rechtmäßigen Nutzung‘ anschließen und die Schutzmaßnahmen in den oben genannten Fällen entfernen. Sie haben angedroht, uns von ihren Systemen zu entfernen, wenn wir diese Schutzmaßnahmen beibehalten; sie haben auch angedroht, uns als ‚Lieferkettenrisiko‘ zu kennzeichnen … Ungeachtet dessen ändern diese Drohungen unsere Position nicht: Wir können ihren Forderungen aus Gewissensgründen nicht nachkommen.“

Der Chef-Sprecher des Pentagons, Sean Parnell, sagte am Donnerstag, dass das DoD „kein Interesse“ daran habe, die Modelle von Anthropic für vollständig autonome Waffen oder zur Durchführung von Massenüberwachung von Amerikanern zu nutzen, was er als illegal bezeichnete. Er betonte, dass die Behörde wolle, dass das Unternehmen zustimmt, seine Modelle für „alle rechtmäßigen Zwecke“ nutzen zu dürfen, und nannte dies eine „einfache, gesunden Menschenverstand entsprechende Anfrage.“

Der US-Unterstaatssekretär für Defense Emil Michael griff Amodei am Donnerstagabend persönlich an und schrieb auf X, dass der Executive „nichts mehr will, als die US-Militärkräfte persönlich zu kontrollieren.“ Michael fügte hinzu: „Es ist eine Schande, dass Dario Amodei ein Lügner ist und einen Gott-Komplex hat.“

Andererseits unterstützten in einem offenen Brief über 200 Mitarbeiter von Google und OpenAI die Position von Anthropic. Ein ehemaliger DoD-Beamter sagte der BBC auch, dass Hegseths Rechtfertigungen für die Verwendung des Begriffs „Lieferkettenrisiko“ „äußerst wackelig“ seien.

Trotz des Konflikts erklärte Dario Amodei in seiner Erklärung, dass er „tief in der existenziellen Bedeutung der Nutzung von KI zur Verteidigung der Vereinigten Staaten“ stehe. Die Organisation sei weiterhin „bereit, die Gespräche fortzusetzen und sich zur operativen Kontinuität für das Department und die amerikanischen Kriegskämpfer zu verpflichten“, sagte ein Vertreter von Anthropic.