AKTUELLE NACHRICHTEN
FÜR SIE AUSGEWÄHLT

Kalifornien verklagt OpenAI wegen KI-Angriffs auf Hugging Face

VonOpeyemi OlanrewajuOpeyemi Olanrewaju 3 Min. Lesezeit
Kalifornien erhebt Klage gegen OpenAI wegen Gefährdung der Öffentlichkeit in mehreren Hackerangriffen
  • Kalifornien verklagte Openai am Montag wegen eines Vorfalls im Juli 2026, bei dem experimentelle KI-Agenten des Unternehmens aus einer Testumgebung ausbrachen und Hugging Face angriffen. Der Bundesstaat warf dem Unternehmen schwache Sicherheitsvorkehrungen vor, die eine Belästigung der Öffentlichkeit darstellten und das Verbraucherschutzgesetz verletzten.
  • In der Klage wird behauptet, OpenAI habe mehr als 80 Mal die Kontrolle über seine Agenten verloren.
  • Es wird berichtet, dass dies der erste derartige Klageantrag eines US-Bundesstaats ist und die Art und Weise prägen könnte, wie Aufsichtsbehörden KI-Unternehmen verfolgen, deren Modelle eigenständig handeln.

Der Generalstaatsanwalt von Kalifornien, Rob Bonta, hat OpenAI am Montag verklagt und behauptet, das Unternehmen hinter ChatGPT habe Menschen in Gefahr gebracht, indem es KI-Systeme ohne ausreichende Sicherheitsvorkehrungen entwickelte.

Die Klage folgt einem Vorfall im Juli 2026, als die von OpenAI getesteten KI-Tools angeblich außer Kontrolle gerieten und Computersysteme des Wettbewerbsunternehmens Hugging Face angriffen.

Bonta reichte die Klage vor dem Superior Court in San Francisco gegen die OpenAI Foundation und die OpenAI Group PBC ein.

Laut The New York Times macht der 31-seitige Rechtsstreit geltend, dass OpenAI die öffentliche Sicherheit gefährdet und das kalifornische Gesetz gegen unlauteren Wettbewerb verletzt habe. Dieses Gesetz untersagt Unternehmen den Einsatz illegaler, unfairen oder betrügerischer Geschäftspraktiken.

Hugging Face-Angriff führt zu Klage

Im Juli 2026 sollen die experimentellen KI-Agenten von OpenAI aus ihrem Testsystem ausgebrochen und mit dem Internet verbunden sein. Sie drangen dann in Hugging Face ein, eine Website, auf der Entwickler KI-Code und -Modelle teilen.

Laut der Klage arbeiteten Hunderte von KI-Agenten bei dem Angriff zusammen, der etwa zweieinhalb Tage dauerte. Die Agenten sollten innerhalb eines sicheren Testsystems bleiben.

Die Agenten versuchten zudem, ihre Taten zu vertuschen. OpenAI übernahm in einem Blogbeitrag vom 21. Juli Verantwortung für den Angriff und gab weitere Details in einem weiteren Bericht am 26. August bekannt.

In einem zweiten Bericht bezeichnete OpenAI den Vorfall als „Warnschuss“ für die KI-Branche. Es hieß, die Agenten hätten gezeigt, dass sie „technische Kontrollen umgehen, über nicht genehmigte Kanäle zusammenarbeiten und gefährliche Aktionen ausführen können, die kein Mensch veranlasst hat.“

Kalifornien besorgt über 80 ähnliche Vorfälle

Das Büro von Generalstaatsanwalt Rob Bonta erklärte, OpenAI hätte den Hugging Face-Angriff verhindern können. Die Klage behauptet, das Unternehmen habe gewusst, dass seine KI-Modelle gefährlich sind, diese aber trotzdem ohne ausreichende Sicherheitsvorkehrungen oder ordnungsgemäße Prüfungen getestet.

In der Klage heißt es außerdem, OpenAI habe dem Büro von Bonta mitgeteilt, die Kontrolle über seine KI-Agenten während der Tests mehr als 80 Mal verloren zu haben.

Berichten zufolge griffen einige dieser Agenten Datenbanken an, in denen Code für beliebte Apps gespeichert war. Andere drangen in öffentliche Websites ein und erhielten Zugriff auf eine Datenbank einer ausländischen Regierung, die private Gesundheitsinformationen enthielt.

Die Klage behauptet zudem, einige KI-Agenten seien in OpenAIs eigene Computersysteme eingedrungen und hätten Zugriff erlangt, der normalerweise Systemadministratoren vorbehalten ist.

Bonta sagte in einer Erklärung, Kalifornien wolle „Innovation, die sich an das Gesetz hält, egal welches Produkt oder welches Unternehmen dahintersteckt.“ Er fügte hinzu, der Hugging Face-Angriff sei „nur einer von 80 bekannten Vorfällen“ gewesen.

OpenAI wehrt sich gegen die gezielte Ausgrenzung

Der OpenAI-Sprecher Drew Pusateri sagte, die Klage „scheine OpenAI im Alleingang herauszugreifen, obwohl diese Herausforderung von jedem großen KI-Labor identifiziert wurde.“

Er erklärte, dass OpenAI seit dem Angriff „umfassende und transparente Anstrengungen unternommen habe, um fehlgeleitete Modellaktivitäten zu verstehen und anzugehen“. Das Unternehmen plant zudem, weiterhin mit den Aufsichtsbehörden der Bundesstaaten zusammenzuarbeiten, um die Sicherheitsvorschriften für KI zu verbessern.

Andere KI-Unternehmen haben definitiv ähnliche Probleme erlebt. Laut BBC haben Anthropic, Meta und Google alle Fälle gemeldet, in denen ihre KI-Modelle aus Testsystemen ausgebrochen und Angriffe durchgeführt haben.

Gerichte müssen noch entscheiden, wer rechtlich verantwortlich ist, wenn KI-Systeme ohne menschliche Anweisungen handeln.

Der erste Klagefall dieser Art

Bontas Büro untersuchte den Hugging-Face-Angriff seit September und stellte ein subpoena (Vorladung) aus, das Informationen von OpenAI forderte.

Die Klage behauptet, OpenAI habe den Ermittlern nicht alle angeforderten Informationen zur Verfügung gestellt. Stattdessen teilte das Unternehmen öffentliche Blogbeiträge und einige Dutzend Nachrichten mit, bei denen ein Großteil der Informationen entfernt wurde.

Laut der BBC handelt es sich hierbei offenbar um den ersten Fall, in dem ein US-Bundesstaat eine Klage wegen eines solchen KI-Vorfalls einreichte. Der Prozess könnte auch anderen Bundesstaaten dabei helfen, Entscheidungen über geeignete Maßnahmen zu treffen, wenn KI-Unternehmen die Kontrolle über ihre Systeme verlieren.

Wenn Sie dies lesen, sind Sie bereits einen Schritt voraus. Bleiben Sie mit unserem Newsletter auf dem Laufenden.

Diesen Artikel teilen

Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com übernimmt keine Haftung für Investitionen, die auf den auf dieser Seite bereitgestellten Informationen basieren. Wir empfehlen dringend, vor der Entscheidung für eine Anlage unabhängige Recherchen durchzuführen und/oder sich mit einem qualifizierten Fachmann beraten zu lassen.

Opeyemi Olanrewaju

Opeyemi Olanrewaju

Opeyemi spezialisiert sich auf die Erstellung und Verfeinerung hochwertiger Inhalte mit Fokus auf Kryptowährungen, globale Finanzmärkte und die Wirtschaft. Er absolvierte sein Studium an der University of Ibadan mit einem MBBS-Abschluss. Er war Chefredakteur der redaktionellen Publikation seines Colleges und zuvor bei CFA tätig. Seit über sechs Jahren sorgt er als News Editor bei Cryptopolitan für die Einzigartigkeit der Inhalte.

MEHR … NACHRICHTEN