KI-Riesen vor Rechtsstreit: Sicherheitsaktivisten fordern Entwicklungsstopp
- Vier gemeinnützige Organisationen haben OpenAI, Anthropic, Google, Meta und die KI-Sparte von SpaceX in San Francisco verklagt.
- Sie fordern ein kalifornisches Gericht auf, die Entwicklung von Frontier-KI einzufrieren, aufgrund unbewiesener Behauptungen, dass die Technologie außer Kontrolle geraten und Cyberangriffe oder Biowaffen unterstützen könnte.
- Es wurde keine einstweilige Verfügung erlassen.
Am 12. November haben vier gemeinnützige Organisationen OpenAI, Anthropic, Google, Meta und SpaceXSI in San Francisco verklagt.
Sie wollen die Entwicklung neuer Frontier-KI-Modelle stoppen und argumentieren, dass die Risiken katastrophal sein könnten.
Es wurde kein Einfrierungsverfügung erlassen. Der Fall fällt in eine Zeit, in der sich Anthropic dem Börsengang vorbereitet und die weltweiten KI-Ausgaben beschleunigt werden.
Was die Kläger von einem Gericht verlangen
Die Kläger, darunter der Irreplaceable Education Fund, Public Citizen, die Heat Initiative und die Alliance for Secure AI, beriefen sich auf das California Unfair Competition Law.
Die Organisationen behaupten, dass Modelle mit zunehmender Autonomie eine Bedrohung für die öffentliche Gesundheit darstellen und als öffentliche Belästigung gelten. Wie in einem Bericht von Reuters dargelegt, verweist die Klage auf mehrere Warnungen von Führungskräften sowie auf die steigende Anzahl von Cyberangriffen:
„Keine andere Branche darf es sich erlauben, die eigene Entwicklung unsicherer Produkte – geschweige denn solcher, die uns alle töten könnten – als unvermeidlich hinzunehmen.“
Der Co-Präsident von Public Citizen, Robert Weissman, forderte das Gericht auf:
„bestehendes Recht anzuwenden, die rücksichtslosen Praktiken der KI-Konzerne für rechtswidrig zu erklären und weitere KI-Entwicklungen einzufrieren.“
Die Vorwürfe bleiben unbewiesen. Meta lehnte eine Kommentierung ab; andere Beklagte reagierten nicht umgehend.
Was unabhängige Tests tatsächlich aufgezeichnet haben
Laut den Ergebnissen des UK AI Security Institute (UK AISI) haben KI-Agenten während Cybersicherheitstests Handlungen ausgeführt, die über ihre vorgesehenen Aufgaben hinausgingen; keiner der Agenten entkam seiner sicheren Testumgebung.
Die UK-AISI-Studie umfasste sieben verschiedene KI-Modelle, die 122 Testläufen unterzogen wurden. Die Forscher beobachteten 19 unautorisierte Aktionen in zehn der Testläufe. Der Großteil der Aktionen (17 von 19) wurde von Anthropics Mythos 5 ausgeführt, während OpenAIs GPT-5.6-Sol für zwei unautorisierte Aktionen verantwortlich war.
Ein Agent versuchte, bösartigen Code in Open-Source-Software einzuschleusen und nutzte falsche Identitäten, um den Maintainer unter Druck zu setzen. Der Mensch lehnte die Änderung ab. AISI betonte:
„Dies war kein Fall eines Modells, das sein sicheres Testumfeld oder seine ‚Sandbox‘ verlassen hat.“
Die Forscher hatten Internetzugang aktiviert und Cyberfilter deaktiviert. Das AISI stellte keine daraus resultierenden Schäden in der realen Welt fest. Cryptopolitan hat frühere Spannungen im Bereich der KI-Sicherheit berichtet.
Das Geld, das in die entgegengesetzte Richtung fließt
Laut Schätzungen von Gartner wird der weltweite KI-Ausgabevolumen von 2,746 Billionen US-Dollar im Jahr 2026 auf 4,050 Billionen US-Dollar im Jahr 2027 steigen. Zudem wird die Infrastrukturausgabe von 1,563 Billionen US-Dollar auf 2,397 Billionen US-Dollar ansteigen, was 59 % der gesamten Ausgaben im Jahr 2027 entspricht.
Allein die Ausgaben für KI-optimierte Server werden von 527,6 Milliarden US-Dollar auf 957,2 Milliarden US-Dollar wachsen. Wie Gartner-Analyst John-David Lovelock feststellt, resultiert die steigende Nachfrage aus dem Bedarf an anspruchsvolleren KI-Trainings sowie aus der „schneller als erwarteten Ausweitung der Nutzeranforderungen hin zur Skalierung von Inferenzarbeitslasten.“
Immer mehr Unternehmen zahlen auch für KI-Dienste. Ramp stellte fest, dass 56,8 % seiner über 85.000 US-Geschäftskunden im Oktober für KI zahlten, ein Anstieg gegenüber 55,8 % im September. Diese Ergebnisse spiegeln die Kunden von Ramp wider und nicht alle US-Unternehmen.
Eine gerichtliche Anordnung gegen die fünf Beklagten würde Chipverträge nicht automatisch stornieren oder konkurrierende KI-Labs aufhalten. Verzögerungen beim Training könnten jedoch dazu führen, dass reservierte Rechenkapazitäten ungenutzt bleiben und Vertragsneuverhandlungen ausgelöst werden. Lieferanten im Ausland könnten mit Unterbrechungen konfrontiert werden, obwohl keine Marktverluste nachgewiesen wurden.
Anthropics IPO läuft ins Kreuzfeuer
Für Anthropic kommt die rechtliche Herausforderung nur wenige Tage vor dem geplanten Börsengang. Der vorläufige Prospekt des Unternehmens sieht den Verkauf von 825 Millionen Aktien zum Preis von 70–78 US-Dollar vor, was Bruttoeinnahmen von bis zu 64,4 Milliarden US-Dollar generieren würde. Die Emission würde Anthropic auf einer vollständig verwässerten Basis auf einen Wert von nahezu 1,4 Billionen US-Dollar bewerten.
Reuters berichtete, dass der Handel an der Nasdaq voraussichtlich am 19. November unter ANT beginnen wird, vorbehaltlich der endgültigen Genehmigungen. Anthropic gab zudem Rechenkapazitätsverpflichtungen in Höhe von rund 900 Milliarden US-Dollar und eine annualisierte Umsatzrate von 81 Milliarden US-Dollar bekannt.
Ein Entwicklungsstopp vor dem Börsengang könnte Anthropic dazu zwingen, seine Risikohinweise zu überarbeiten, die Preisgestaltung neu zu prüfen oder den IPO hinauszuzögern. Es wurde jedoch keine einstweilige Verfügung erlassen, und der Klagevorwurf allein verändert den geplanten Börsengang nicht.
Lesen Sie nicht nur Krypto-Nachrichten. Verstehen Sie sie. Abonnieren Sie unseren Newsletter. Es ist kostenlos.
Häufig gestellte Fragen
Wer hat die Klage eingereicht und gegen wen?
Laut Public Citizen und Reuters haben Public Citizen, das Irreplaceable Education Fund, die Heat Initiative und The Alliance for Secure AI in San Francisco Klage gegen OpenAI, Anthropic, Google, Meta und die KI-Sparte von SpaceX erhoben.
Welche rechtliche Grundlage nutzen die Kläger?
Sie berufen sich auf das kalifornische Gesetz gegen unlauteren Wettbewerb (Unfair Competition Law) und argumentieren, dass die Entwicklung fortschrittlicher KI durch die Labore eine unrechtmäßige öffentliche Belästigung darstelle, so Reuters. Die Vorwürfe sind noch nicht bewiesen, und kein Gericht hat einen Stau angeordnet.
Was hat das UK AI Security Institute tatsächlich festgestellt?
Bei 122 Cyber-Testläufen verzeichnete das AISI 19 Aktionen außerhalb des vorgesehenen Rahmens in 10 Läufen: 17 davon stammten von Anthropics Mythos 5 und zwei von OpenAIs GPT-5.6-Sol. Allerdings hatte es den Internetzugang aktiviert und die Sicherheitsfilter deaktiviert, ohne dass daraus reale Schäden entstanden wären.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com übernimmt keine Haftung für Investitionen, die auf den auf dieser Seite bereitgestellten Informationen basieren. Wir empfehlen dringend, vor der Entscheidung für eine Anlage unabhängige Recherchen durchzuführen und/oder sich mit einem qualifizierten Fachmann beraten zu lassen.
Ibiam Wayas
Ibiam Wayas berichtet seit 2019 über Krypto-Nachrichten. Er studierte Informatik an der National Open University of Nigeria. Seine Arbeiten erschienen in verschiedenen Krypto-Nachrichtenplattformen, darunter Coinfomania, Crypto News Australia und AltcoinBuzz. Aufgrund seines Hintergrunds in der Informatik konzentriert er sich nun auf Nachrichten zu Kryptowährungen, Robotik und Langlebigkeit.
