OpenAI sperrt China-verknüpfte Konten, die ChatGPT für Überwachungstools nutzen

OpenAI, Amerikas führender KI-Startup, hat gerade mehrere Konten auf ChatGPT gesperrt und beschuldigt sie, an der Entwicklung eines Überwachungstools beteiligt zu sein. 

Laut einem Unternehmensbericht, der im Februar 2025 veröffentlicht wurde, sollen die gesperrten Konten Verbindungen zu China haben. Diese Konten sollen OpenAIs Modelle verwendet haben, um detaillierte Beschreibungen eines Social-Media-Hörtools zu generieren, das sie angeblich nutzten, um chinesischen Sicherheitsdiensten Echtzeit-Feedback über Proteste im Westen zu liefern. 

Die gesperrten Konten hatten auch einen Weg gefunden, OpenAIs Modelle zu verwenden, um Code zu debuggen, der scheinbar dazu bestimmt war, ein solches Tool zu implementieren. 

Warum China verdächtigt wird 

OpenAI hat Richtlinien eingeführt, um die Nutzung von KI zur Überwachung von Kommunikationen oder unbefugten Überwachung von Personen zu verhindern, einschließlich Aktivitäten von oder im Auftrag von Regierungen, die darauf abzielen, persönliche Freiheiten und Rechte zu unterdrücken.

OpenAI war in der Lage, die fraglichen Konten basierend auf Verhaltensmustern und anderen Erkenntnissen zu identifizieren. Einige der Dinge, die die Konten angeblich für OpenAIs Modelle verwendeten, umfassten die Unterstützung bei der Analyse von Dokumenten, das Generieren von Verkaufsargumenten, Beschreibungen von Tools zur Überwachung von Social-Media-Aktivitäten und die Recherche politischer Akteure und Themen.

Die Konten werden verdächtigt, chinesische Ursprünge zu haben, da ihre Aktivitäten hauptsächlich während der geschäftlichen Stunden auf dem chinesischen Festland stattfanden und die Konten OpenAIs Modelle mit der chinesischen Sprache anregten. 

OpenAI stellte auch fest, dass die hinter den Konten stehenden Personen die Tools auf eine Weise nutzten, die mit manueller Eingabe statt Automatisierung übereinstimmte. In einigen Fällen stellte das KI-Unternehmen fest, dass ein Konto mehrere Betreiber haben könnte.

Eine der Hauptaktivitäten der Operation bestand darin, detaillierte Beschreibungen zu generieren, die mit Verkaufsargumenten übereinstimmten, für das, was als „Qianyue Overseas Public Opinion AI Assistant“ beschrieben wurde. 

Dieses Tool war darauf ausgelegt, Beiträge und Kommentare von Plattformen wie X, Facebook, YouTube, Instagram, Telegram und Reddit zu analysieren und chinesischen Behörden das zu liefern, was es lernt. 

Leider konnte OpenAI diese Beschreibungen nicht unabhängig verifizieren, und der Vorfall hat die USA in Alarmbereitschaft versetzt. Laut Ben Nuimmo, leitender Ermittler von OpenAI, ist dieser Fall ein Beispiel dafür, wie autoritäre Regime wie China versuchen können, in den USA gebaute Technologie gegen die USA und ihre Verbündeten einzusetzen.

„Dies ist ein ziemlich beunruhigender Einblick in die Art und Weise, wie ein nicht-demokratischer Akteur versuchte, demokratische oder in den USA ansässige KI für nicht-demokratische Zwecke zu nutzen, gemäß den von ihnen selbst generierten Materialien.“

OpenAI hat auch enthüllt, dass die Konten andere KI-Tools referenzierten, einschließlich einer Version von Llama, Meta’s Open-Source-KI-Modell. 

Dieser Fall kommt nicht lange nach DeepSeek’s Erschaffung 

OpenAI warnt seit einiger Zeit vor den Gefahren chinesischer KI, insbesondere nachdem DeepSeek mit seinem R1-Reasoning-Modell Gesichter schmolz, das viele andere in den USA hergestellte Modelle in Benchmarks schlug und einen großen Tech-Verkauf an den US-Märkten auslöste. 

DeepSeekDie Überlegenheit von DeepSeek ist umstritten, und seine Macher behaupten, es zu einem Bruchteil der Kosten erstellt zu haben, die die meisten US-Modelle früher für ihre Entwicklung benötigten. Diese Behauptung wurde von der Öffentlichkeit gemischt aufgenommen, aber viele Experten sind überzeugt, dass es eine Übertreibung war. 

OpenAI ist nicht nur davon überzeugt, dass das Team hinter DeepSeek mehr dafür ausgegeben hat, sondern hat DeepSeek auch beschuldigt, die Ausgabe seiner Modelle zu distillieren, um seine eigenen zu erstellen. 

Laut einem Bloomberg-Bericht untersucht Microsoft, ein großer Investor in OpenAI, nun, ob Daten, die dem Unternehmen gehören, ohne Autorisierung verwendet wurden.

David Sacks, der kürzlich zum „AI- und Krypto-Zar“ des Weißen Hauses ernannt wurde, hat OpenAIs Bedenken geteilt und darauf hingewiesen, dass DeepSeek möglicherweise die Modelle der amerikanischen KI-Firma verwendet hat, um besser zu werden, ein Prozess, der als Wissensdistillation bezeichnet wird.

„Es gibt erhebliche Beweise dafür, dass das, was DeepSeek hier getan hat, darin bestand, das Wissen aus OpenAIs Modellen zu distillieren“, sagte Sacks sagte. 

Er fügte hinzu, dass führende KI-Unternehmen in Amerika in den nächsten paar Monaten Schritte unternehmen werden, um Distillation zu verhindern, in der Hoffnung, dass dies einige der Copycat-Modelle verlangsamen würde.