Anthropische defiauf das brutale Ultimatum des Pentagons zur Abschaffung der KI-Sicherheitsvorkehrungen

Anthropic hat erklärt, dass es in einem Streit mit dem US-Verteidigungsministerium (DoD) über die Verwendung seiner Technologie für künstliche Intelligenz (KI) nicht nachgeben wird.

des Startups Konkurrenten , OpenAI, Google und xAI, erhielten letztes Jahr ebenfallstracdes US-Verteidigungsministeriums in Höhe von bis zu 200 Millionen US-Dollar. Diese Unternehmen haben zugestimmt, dass das Verteidigungsministerium ihre Modelle für alle rechtmäßigen Zwecke innerhalb der nicht klassifizierten Systeme des Militärs nutzen darf.

Anthropic unterzeichnete im Juli einen eigenentracüber 200 Millionen Dollar mit dem US-Verteidigungsministerium und war das erste Labor, das seine Modelle in die Arbeitsabläufe von Missionen in klassifizierten Netzwerken integrierte.

Das KI-Startup befand sich jedoch in den letzten Wochen in angespannten Verhandlungen mit dem Pentagon. Eine mit den Verhandlungen vertraute Person erklärte, die Spannungen bestünden bereits seit mehreren Monaten, also noch bevor öffentlich bekannt wurde, dass Claude im Rahmen einer US-Operation zur Gefangennahme des venezolanischen Präsidentendent Maduro eingesetzt wurde.

Der Kernstreit dreht sich um Überwachung und autonome Waffen

Anthropic möchte die Zusicherung, dass seine Modelle nicht für vollautonome Waffensysteme oder die massenhafte Überwachung der amerikanischen Bevölkerung im Inland verwendet werden, während das Verteidigungsministerium die Modelle ohne diese Einschränkungen nutzen können möchte.

Zu diesen konkreten Risiken erklärte Dario Amodei in seiner Stellungnahme: „In wenigen Fällen glauben wir, dass KI demokratische Werte eher untergraben als verteidigen kann. Manche Anwendungen liegen auch schlichtweg außerhalb dessen, was die heutige Technologie sicher und zuverlässig leisten kann.“

hinsichtlich der Überwachung weiter aus die Bedenken zu einem umfassenden Bild vom Leben einer jeden Person zusammenzufügenmaticund in großem Umfang

Er merkte an, dass Anthropic zwar den Einsatz von KI für rechtmäßige Auslandsaufklärung befürwortet, „der Einsatz dieser Systeme für die massenhafte Überwachung im Inland jedoch mit demokratischen Werten unvereinbar ist“.

Drohungen, Fristen und ein verbaler Krieg

Verteidigungsminister Pete Hegseth, der sich am Dienstag im Pentagon mit Amodei traf, drohte, Anthropic als „Lieferkettenrisiko“ einzustufen oder den Defense Production Act anzuwenden, um das Unternehmen zur Erfüllung seiner Forderungen zu zwingen. Das Verteidigungsministerium übermittelte Anthropic am Mittwochabend sein „letztes Angebot“ und gab dem Unternehmen bis Freitag, 17:01 Uhr ET, Zeit, sich zu entscheiden.

Eine Sprecherin von Anthropic erklärte , dass das Unternehmen zwar am Mittwochabend einen aktualisierten Wortlaut erhalten habe, dieser aber „praktisch keinen Fortschritt“ darstelle und dass „die alsKompromissmit juristischen Formulierungen verknüpft wurde, die es ermöglichen, diese Schutzmaßnahmen nach Belieben zu missachten.“

Dario Amodei äußerte sich zu diesem Druck wie folgt :„Das Kriegsministerium es hat erklärt,werde nur noch mit KI-Unternehmen Verträge abschließen,traceiner ‚rechtmäßigen Nutzung‘ zustimmen und die oben genannten Sicherheitsvorkehrungen aufheben. Sie haben uns gedroht, uns aus ihren Systemen zu entfernen, sollten wir diese Sicherheitsvorkehrungen beibehalten; außerdem haben sie uns gedroht, uns als ‚Lieferkettenrisiko‘ einzustufen … Ungeachtet dessen ändern diese Drohungen nichts an unserer Position: Wir können ihrer Forderung beim besten Willen nicht nachkommen.“

Der Sprecher des Pentagons, Sean Parnell, erklärte am Donnerstag, das Verteidigungsministerium habe „kein Interesse“ daran, die Modelle von Anthropic für vollautonome Waffensysteme oder zur Massenüberwachung von Amerikanern zu nutzen, was illegal sei. Er betonte, das Ministerium wolle lediglich, dass das Unternehmen zustimme, seine Modelle für „alle rechtmäßigen Zwecke“ zu verwenden, und bezeichnete dies als „einfache und vernünftige Forderung“.

jedoch, EmilMichael , am Donnerstagabend persönlich an und schrieb auf X, dass der Präsident „nichts sehnlicher wolle, als die US-Streitkräfte persönlich zu kontrollieren“. Michael fügte hinzu: „Es ist eine Schande, dass Dario Amodei ein Lügner ist und einen Größenwahn hat.“

Andererseits unterstützten in einem offenen Briefüber 200 Mitarbeiter von Google und OpenAI die Position von Anthropic. Ein ehemaliger Beamter des US-Verteidigungsministeriums erklärte gegenüber der BBC zudem, Hegseths Begründung für die Verwendung des Begriffs „Lieferkettenrisiko“ sei „äußerst fadenscheinig“.

Trotz des Konflikts erklärte Dario Amodei in seiner Stellungnahme, er sei „zutiefst von der existenziellen Bedeutung des Einsatzes von KI zur Verteidigung der Vereinigten Staaten überzeugt“. Die Organisation sei weiterhin „bereit, die Gespräche fortzusetzen und setze sich für die operative Kontinuität des Verteidigungsministeriums und der amerikanischen Streitkräfte ein“, so ein Sprecher von Anthropic.