OpenAI sperrt mit China verbundene Konten, die ChatGPT wegen Überwachungstools nutzen

OpenAI, Amerikas führendes Startup im Bereich künstliche Intelligenz, hat soeben mehrere Konten auf ChatGPT gesperrt und wirft ihnen vor, an der Entwicklung eines Überwachungstools beteiligt zu sein. 

Laut einem im Februar 2025 veröffentlichten Unternehmensbericht sollen die gesperrten Konten Verbindungen nach China aufweisen. Diese Konten nutzten angeblich Modelle von OpenAI, um detaillierte Beschreibungen eines Social-Media-Monitoring-Tools zu erstellen. Dieses Tool wurde angeblich verwendet, um chinesischen Sicherheitsdiensten Echtzeit-Feedback zu Protesten im Westen zu liefern. 

Die gesperrten Accounts hatten außerdem einen Weg gefunden, die Modelle von OpenAI zu nutzen, um Code zu debuggen, der offenbar dazu gedacht war, ein solches Tool zu implementieren. 

Warum China verdächtigt wird 

OpenAI hat Richtlinien eingeführt, um den Einsatz von KI zur Überwachung von Kommunikationen oder zur unbefugten Überwachung von Einzelpersonen zu verhindern, einschließlich Aktivitäten von oder im Auftrag von Regierungen, die versuchen, persönliche Freiheiten und Rechte zu unterdrücken.

OpenAI konnte die betreffenden Accounts unter anderem anhand von Verhaltensmusterndent. Berichten zufolge nutzten die Accounts die Modelle von OpenAI unter anderem zur Dokumentenanalyse, zur Erstellung von Verkaufstexten, zur Beschreibung von Tools zur Überwachung von Social-Media-Aktivitäten sowie zur Recherche politischer Akteure und Themen.

Es besteht der Verdacht, dass die Accounts chinesischen Ursprungs , da ihre Aktivitäten hauptsächlich während der Geschäftszeiten auf dem chinesischen Festland stattfanden und die Accounts die Modelle von OpenAI mit der chinesischen Sprache konfrontierten. 

OpenAI stellte außerdem fest, dass die Verantwortlichen hinter den Konten die Tools eher manuell als automatisiert nutzten. In einigen Fällen entdeckte das KI-Unternehmen, dass ein Konto möglicherweise von mehreren Personen betrieben wurde.

Eine der Haupttätigkeiten der Operation bestand darin, detaillierte Beschreibungen zu erstellen, die mit Verkaufsargumenten übereinstimmten, für das, was als „Qianyue Overseas Public Opinion AI Assistant“ bezeichnet wurde 

Dieses Tool wurde entwickelt, um Beiträge und Kommentare von Plattformen wie X, Facebook, YouTube, Instagram, Telegram und Reddit zu analysieren und den chinesischen Behörden die gewonnenen Erkenntnisse mitzuteilen. 

Leider konnte OpenAI diese Beschreibungen nichtdentüberprüfen, und derdent hat die USA in höchste Alarmbereitschaft versetzt. Laut Ben Nuimmo, dem leitenden Ermittler von OpenAI, ist dieser Fall ein Beispiel dafür, wie autoritäre Regime wie China versuchen können, in den USA entwickelte Technologie gegen die USA und ihre Verbündeten einzusetzen.

„Dies ist ein ziemlich beunruhigender Einblick in die Art und Weise, wie ein nicht-demokratischer Akteur versucht hat, demokratische oder in den USA ansässige KI für nicht-demokratische Zwecke zu nutzen, wie aus den von ihm selbst erstellten Materialien hervorgeht.“

OpenAI hat außerdem bekannt gegeben, dass in den Accounts auch andere KI-Tools erwähnt wurden, darunter eine Version von Llama, dem Open-Source-KI-Modell von Meta. 

Dieser Fall ereignete sich kurz nach der Gründung von DeepSeek 

OpenAI hat wiederholt vor den Gefahren chinesischer KI gewarnt, insbesondere nachdem DeepSeek mit seinem R1-Logikmodell für Furore gesorgt hatte, das in Benchmarks viele andere in den USA hergestellte Modelle übertraf und einen massiven Technologie-Ausverkauf auf den US-Märkten auslöste. 

DeepSeekist umstritten, und die Hersteller behaupten, es zu einem Bruchteil der Kosten entwickelt zu haben, die die meisten US-amerikanischen Hersteller für ihre Systeme aufgewendet haben. Diese Behauptung hat in der Öffentlichkeit gemischte Reaktionen hervorgerufen, doch viele Experten sind überzeugt, dass es sich um eine Übertreibung handelt. 

OpenAI ist nicht nur davon überzeugt, dass das Team hinter DeepSeek mehr Geld für die Entwicklung ausgegeben hat, sondern wirft DeepSeek auch vor, die Ergebnisse seiner Modelle einfach abgekupfert zu haben, um daraus eigene Ergebnisse zu erstellen. 

Laut einem Bericht von Bloomberg untersucht Microsoft, ein wichtiger Investor von OpenAI, derzeit, ob Daten des Unternehmens ohne Genehmigung verwendet wurden.

David Sacks, der kürzlich zum „KI- und Krypto-Zaren“ des Weißen Hauses ernannt wurde, teilte die Bedenken von OpenAI und deutete an, dass DeepSeek möglicherweise die Modelle des amerikanischen KI-Unternehmens genutzt habe, um besser zu werden – ein Prozess, der als Wissensdestillation bezeichnet wird.

„Es gibt deutliche Hinweise darauf, dass DeepSeek hier im Grunde das Wissen aus den Modellen von OpenAI extrahiert hat“, sagte. 

Er fügte hinzu, dass führende KI-Unternehmen in Amerika in den nächsten Monaten damit beginnen würden, Maßnahmen zu ergreifen, um die Verbreitung von Nachahmermodellen zu verhindern, in der Hoffnung, dass dies einige der kopierten Modelle verlangsamen würde.