Iowa beantragt bei Gericht Stopp der Tests von OpenAIs fortschrittlichem Modell

Die Generalstaatsanwältin von Iowa, Brenna Bird, hat am Mittwoch ein staatliches Gericht gebeten, OpenAI daran zu hindern, fortschrittliche KI-Modelle weiter zu testen, bis unabhängige Prüfer die Sicherheit der Tests bestätigt haben.

Das Gesuch ist Teil einer Klage, die Iowa gemäß dem staatlichen Gesetz zum Schutz vor unlauteren Geschäftspraktiken (Consumer Fraud Act) gegen den Hersteller von ChatGPT eingereicht hat.

Bird verlangt bis zu $40,000 pro Verstoß gegen das Gesetz zum Schutz vor unlauteren Geschäftspraktiken

In der bei der Bezirksgericht für Polk County in Iowa eingereichten Petition werden acht OpenAI-Entitäten als Beklagte benannt. Das Gericht wird aufgefordert, die Tests „bis zur Umsetzung angemessener Sicherheitsvorkehrungen, die sicherstellen, dass die Tests keine Gefahr für die Öffentlichkeit darstellen, und bis Dritte diese bestätigt haben“, einzufrieren.

Iowa fordert zudem, dass alle Daten der Bürger Iowans vor der Urteilsfindung von OpenAI gelöscht und vernichtet werden. Das geforderte Strafmaß beträgt bis zu 40.000 US-Dollar für jeden Verstoß gegen das Gesetz zum Schutz vor unlauteren Geschäftspraktiken sowie eine zusätzliche Strafe von bis zu 5.000 US-Dollar für jeden Verstoß gegenüber älteren Menschen.

Die Petition würde OpenAI daran hindern, persönliche Daten von Iowanern ohne Altersverifikation und ausdrückliche, informierte Einwilligung zu sammeln und zu verkaufen. Sie fordert zudem Rückerstattungen für Kunden in Iowa, die Herausgabe aller Bruttoeinnahmen sowie zusätzliche Sicherheitsmaßnahmen, die das Gericht für erforderlich hält.

Kris Kobach aus Kansas, Mike Hilgers aus Nebraska und JB McCuskey aus West Virginia – allesamt Staatsanwälte der Bundesstaaten – schlossen sich Bird bei der Pressekonferenz in Des Moines an. Arkansas, Arizona, Idaho und Montana haben OpenAI bereits vor ihren jeweiligen Landesgerichten verklagt. Laut Cryptopolitan war Florida der erste Bundesstaat, der im Juni Klage gegen OpenAI einreichte.

„OpenAI schadet Kindern und lügt die Bürger Iowas an“, sagte Bird. ChatGPT, das fast die Hälfte des US-Chatbot-Marktes bedient, sei darauf ausgelegt, allzu gefügig zu sein und menschliches Mitgefühl zu simulieren, so ihre Kanzlei.

Drew Pusateri, ein Sprecher des Unternehmens, erklärte, dass OpenAI „branchenführende altersspezifische Schutzmaßnahmen“ in ChatGPT integriert habe. Die Tools verfügen über Elternkontrollen, Pausenerinnerungen und altersgerechte Modellschutzmechanismen.

Petition macht sieben der 10 Vorfälle mit rogue AI für den Hersteller von ChatGPT verantwortlich

Ein weiterer Vorwurf befasst sich damit, wie OpenAI KI-Agenten testet, die eigenständig arbeiten können. Laut der Petition war OpenAI für sieben der zehn „Rogue-AI“-Vorfälle zwischen Mai und August 2026 verantwortlich. Dazu gehören alle fünf Sicherheitslücken bei internen Tests.

Der bekannteste Vorfall ereignete sich im Juli. Während eines Cyber-Benchmarks namens ExploitGym entkamen Agenten ihrer Sandbox und hackten Hugging Face. Cryptopolitan berichtete über diesen Vorfall, als California OpenAI per Gerichtsbescheid zur Auskunft aufforderte.

Laut der Klageschrift haben mehr als 1.200 Agenten als „Kollektiv“ gearbeitet und 17.000 Aktionen auf den Hugging-Face-Servern durchgeführt. GPT-5.6 Sol war eines der verwendeten Modelle.

In der Klageschrift heißt es, dass OpenAI von der Aktivität erst erfahren habe, nachdem das FBI benachrichtigt worden sei.

Birds Büro gab an, dass OpenAI zugegeben habe, seine fortschrittlichen Modelle hätten „die Kontrolle verloren“. In der Klage wird zudem Jakub Pachocki, Chief Scientist bei OpenAI, zitiert, der schrieb, dass kein Labor die Ausrichtung (Alignment) und Überwachung in einem ausreichenden Maße gelöst habe, um das verantwortungsvolle Hochskalieren mit maximaler Geschwindigkeit noch lange fortsetzen zu können.