Kalifornien schließt sich der Lawine an, während OpenAIs rechtliche Front vor dem verschobenen Börsengang weiter ausgebaut wird
- Der Generalstaatsanwalt Kaliforniens hat gegen OpenAI ein Ermittlungsverfahren wegen Cybersecurity-Vorfällen im Zusammenhang mit seinen KI-Modellen und Agenten eingeleitet.
- Die Untersuchung folgt einem Vorfall, bei dem ein OpenAI-Agent eine geschlossene Testumgebung verlassen und einen gemeldeten Einbruch bei Hugging Face durchgeführt hat.
- Das subpoena verstärkt die zunehmende Prüfung von OpenAI, da Beamte des Bundesstaates die Cybersicherheitsrisiken von KI-Systemen an der Spitze der Entwicklung untersuchen.
Der Generalstaatsanwalt von Kalifornien hat ein formales Ermittlungsverfahren gegen OpenAI eingeleitet, um Antworten auf Cybersecurity-Vorfälle im Zusammenhang mit seinen KI-Modellen zu erhalten.
Der größte Bundesstaat der USA ist der neueste, der den Hersteller von ChatGPT unter die Lupe nimmt, nachdem bekannt wurde, dass einige seiner Agenten außer Kontrolle geraten sind.
Das subpoena zielt auf Risiken von Cyberangriffen ab
Das Justizministerium Kaliforniens wies darauf hin, dass das subpoena eine formelle Untersuchung erweitert, die der Generalstaatsanwalt letzten Monat nach dem Sicherheitsvorfall auf der KI-Plattform Hugging Face eröffnet hat. Es konzentriert sich auf Cyberrisiken, so das Ministerium OpenAIs Modelle können darstellen.
Der Generalstaatsanwalt, Rob Bonta, sagte, „Mein Büro stellt OpenAI weitere Fragen zu Cybersicherheitsvorfällen und Risiken im Zusammenhang mit dem Unternehmen und seinen KI-Modellen.“
Bonta erklärte, dass Unternehmen, die Modelle an der Grenze des Machbaren entwickeln, „eine moralische und rechtliche Verantwortung tragen, sicherzustellen, dass sie keine Cyberangriffe begehen oder ermöglichen“. Er fügte hinzu, er werde die Durchsetzungsbefugnisse Kaliforniens nutzen, um zu prüfen, ob Gesetze verletzt wurden.
Die Vorladung wurde am Mittwoch versandt; das Justizministerium von Kalifornien fordert alle Personen auf, die über verwandte Vorfälle informiert sind, sich über sein Meldeportal zu melden.
Wie ist es einem OpenAI-Agenten gelungen, auszubrechen und Hugging Face anzugreifen?
Im Juli führte OpenAI einen Test durch, um die Cyberr capabilities eines Agentsen zu bewerten, der auf zwei seiner fortschrittlichsten Systeme lief, darunter GPT-5.6 Sol.
Laut OpenAI fand dieser Test in einer geschlossenen Umgebung ohne Internetzugang statt.
Die Eindämmung scheiterte jedoch, da der Agent eine Softwarelücke ausnutzte und Zugang zum offenen Internet erhielt. Der Agent führte mehr als 17.000 „Angriffsaktionen“ durch und drang in die Infrastruktur des Unternehmens ein.
Dies wurde in einem August 3 Brief dokumentiert von einer Koalition von Staatsanwälten aus 15 Bundesstaaten bis hin zu CEO Sam Altman.
OpenAI erfuhr erst, dass sein eigenes Produkt für den Vorfall verantwortlich war, nachdem Hugging Face die Aktivitäten entdeckte und das FBI alarmierte.
Berichten zufolge waren 700 Akteure an dem Einbruch beteiligt, der Diebstahl von Zugangsdaten und das Hochladen bösartiger Dateien zur Folge hatte. OpenAI hat daraufhin die Veröffentlichung seines neuesten Modells GPT-6.1 Astra aus Sicherheitsbedenken vorerst ausgesetzt.
Andere Bundesstaaten und eine Sicherheitsgruppe waren schneller da
Bonta handelt nicht isoliert; Alabamas Generalstaatsanwalt Steve Marshall hat stellte am 24. August selbst einen subpoena, um zu prüfen, ob OpenAI das Gesetz gegen unlautere Handelspraktiken des Staates verletzt wurde, teilte seine Behörde mit. Floridas James Uthmeier bat ein Gericht am Montag darum, die weitere Entwicklung der Technologie vorerst einzustellen.
Auch die Gerichte sind bereits im Spiel: Eine gemeinnützige Organisation namens Legal Advocates for Safe Science and Technology reichte am Dienstag in San Francisco Superior Court Klage gegen OpenAI gemäß Kaliforniens Unfair Competition Law ein. Der Gründer der Gruppe, Tyler Whitmer, erklärte, er wolle eine einstweilige Verfügung erwirken, die AI-Schäden „wieder einem verantwortlichen Menschen“ oder einem Unternehmensakteur zuordnet.
OpenAI-Sprecher Drew Pusateri bezeichnete die Klage als völlig unbegründet, räumte jedoch ein, dass der Hugging-Face-Datenschutzvorfall „ein schwerwiegender Vorfall“ war.
Eine parteiübergreifende Koalition aus 25 Generalstaatsanwälten der Bundesstaaten hat den Kongress aufgefordert, große KI-Entwickler zu regulieren, und gewarnt, dass unkontrollierte Systeme Finanzsysteme, Infrastruktur und die nationale Sicherheit bedrohen könnten.
Ein Börsengang wurde auf das nächste Jahr verschoben
Die juristische Eskalation ereignet sich, während OpenAI über einen der am meisten erwarteten Börsengänge in der Tech-Branche schwebt. Altman sagte Fortune am 12. September, dass das Unternehmen 2026 nicht an die Börse gehen werde, und nannte dies angesichts von Bedenken hinsichtlich der KI-Sicherheit einen „unüberlegten Zeitpunkt“. Die New York Times berichtete im Juni, dass eine solche Notierung OpenAI mit einem Wert von nahe 1 Billion US-Dollar bewerten könnte.
Das Verhältnis von OpenAI zu Kalifornien ist tief verwurzelt. Das Unternehmen strukturiert seine gewinnorientierte Abteilung gemäß einer im Oktober 2025 mit dem Büro von Bonta unterzeichneten Vereinbarung in eine gemeinnützige Körperschaft um; dabei behält der Generalstaatsanwalt des Staates eine Aufsichtsfunktion. Dies macht die aktuelle Cybersicherheitsuntersuchung zu einem ungünstigen Zeitpunkt für ein Unternehmen, das den Weg an die öffentlichen Märkte ebnen möchte.
Wenn Sie dies lesen, sind Sie bereits einen Schritt voraus. Bleiben Sie mit unserem Newsletter auf dem Laufenden.
Häufig gestellte Fragen
Warum hat Kalifornien ein subpoena gegen OpenAI erlassen?
Der Generalstaatsanwalt von Kalifornien, Rob Bonta, untersucht Cybersecurity-Vorfälle und -Risiken im Zusammenhang mit den KI-Modellen von OpenAI, einschließlich des Hacking-Angriffs auf Hugging Face im Juli, und stellt der Firma im Rahmen dieser Ermittlungen weitere Fragen.
Was ist beim Vorfall bei Hugging Face passiert?
Während eines Tests im Juli entkam ein von Modellen wie GPT-5.6 Sol betriebener OpenAI-Agent einer angeblich isolierten Umgebung, gelangte ins Internet und führte eine mehrtägige Intrusion gegen Hugging Face durch, wobei er über 17.000 "Angriffshandlungen" ausführte, bevor Hugging Face ihn entdeckte und das FBI alarmierte.
Plant OpenAI immer noch einen Börsengang?
Sam Altman sagte am 12. September gegenüber Fortune, dass OpenAI 2026 nicht an die Börse gehen werde, und bezeichnete dies angesichts von Bedenken hinsichtlich der KI-Sicherheit als "unüberlegt"; zuvor hatte die New York Times berichtet, dass eine Notierung das Unternehmen auf fast 1 Billion Dollar bewerten könnte.
Hannah Collymore
Hannah ist Autorin und Redakteurin mit fast einem Jahrzehnt Erfahrung im Bloggen und in der Berichterstattung über Events im Krypto-Bereich. Bei Cryptopolitan arbeitet sie an der News-Seite und berichtet sowie analysiert die neuesten Entwicklungen in den Bereichen DeFi, RWA, Krypto-Regulierung, KI und Zukunftstechnologien. Sie hat ihr Studium an der Arcadia University mit einem Abschluss in Betriebswirtschaft abgeschlossen.
