OpenAI berichtet über den zunehmenden missbräuchlichen Einsatz von ChatGPT durch chinesische Gruppen

OpenAI hat bekannt gegeben, dass die Nutzung seiner Tools im Verborgenen stark zugenommen hat, insbesondere durch chinesische Gruppen, die die ChatGPT-Plattform für böswillige Zwecke missbrauchen.

Seit dem erfolgreichen Start von ChatGPT im November 2022 bestehen Bedenken hinsichtlich potenzieller Folgen aufgrund der Fähigkeit des Dienstes, menschenähnliche Audio-, Text-, Bild- und Videodateien zu generieren. OpenAI veröffentlicht regelmäßig Berichte über schädliche Aktivitäten auf seinen Plattformen, wie beispielsweise gefälschte Inhalte für Webseiten.

OpenAI zerschlägt 10 separate Kampagnen, die seine Tools missbraucht haben

In einem am Donnerstag veröffentlichten Bericht gab das in San Francisco ansässige Unternehmen bekannt, dass es kürzlich zehn separate Kampagnen aufgedeckt hat, die seine KI-Tools nutzten. Vier dieser Kampagnen wurden von Gruppen mit Verbindungen nach China organisiert, während kleinere Projekte Verbindungen zu anderen Ländern aufwiesen.

Laut Ben Nimmo, dem leitenden Ermittler des OpenAI-Untersuchungsteams, setzten diese mit China verbundenen Operationen eine breite Palette von Taktiken auf verschiedenen Online-Plattformen ein.

„Wir beobachten eine Erweiterung des Instrumentariums“, sagte er gegenüber Reportern.

„Einige Kampagnen kombinierten Einflussoperationen, Social Engineering und Überwachung und erstreckten sich über Plattformen von TikTok und X bis hin zu Reddit und Facebook.“

Nimmo.

Eines der wichtigsten Beispiele, genannt „Sneer Review“, nutzte ChatGPT, um kurze Beiträge und Kommentare in Englisch, Chinesisch und Urdu zu veröffentlichen. Diese behandelten Themen wie die Auflösung der US-Behörde für internationale Entwicklung (USAID), wobei die Entscheidung abwechselnd begrüßt und kritisiert wurde, sowie Kritik an einem taiwanesischen Strategie-Videospiel, die als Angriff auf die regierende Partei Chinas dargestellt wurde.

Laut einem Bericht von OpenAI wurden in den meisten Fällen nicht nur Originalbeiträge, sondern auch Antworten erstellt, um den Eindruck einer „echten“ Debatte zu erwecken. Dieselben Gruppen verfassten zudem einen ausführlichen Artikel, in dem sie behaupteten, es habe in der Öffentlichkeit massive Proteste gegen das Spiel gegeben.

Die Kampagne „Sneer Review“ nutzte ChatGPT auch zur Erstellung interner Dokumente und Leistungsbeurteilungen und dokumentierte detailliert jeden einzelnen Schritt der Kampagnendurchführung. Analysten von OpenAI stellten fest, dass das tatsächliche Verhalten in den sozialen Medien diese Selbsteinschätzungen weitgehend widerspiegelte. Dies unterstreicht, wie KI sowohl die Einflussnahme im direkten Kundenkontakt als auch die Verwaltung im Backoffice optimieren kann.

Der Bericht zeigte außerdem, dass ein weiteres, mit China verbundenes Netzwerk sich auf die Informationsbeschaffung konzentrierte und sich als Journalisten und geopolitische Kommentatoren ausgab. Mithilfe des Chatbots erstellten sie Profile auf X, übersetzten die Kommunikation zwischen Chinesisch und Englisch und verfassten sogar Nachrichten an einen US-Senator bezüglich einer Nominierung für ein Bundesamt.

Auch Gruppen aus anderen Ländern missbrauchten die Tools von OpenAI

Zusätzlich zu den chinesischen Operationen stellt der Bericht fest, dass russische und iranische Akteure versucht haben, ChatGPT für wahlbezogene Einflussnahme zu nutzen, was die Besorgnis über die Rolle generativer KI bei der Gestaltung der öffentlichen Meinung unterstreicht.

Auf den Philippinen wurde ein Unternehmen für kommerzielles Marketing mit einer Spam-Kampagne in Verbindung gebracht, gleichzeitig kam ein Rekrutierungsbetrug mit Verbindungen nach Kambodscha ans Licht. Das Unternehmen meldete außerdem eine weitere Beschäftigungsinitiative mit nordkoreanischen Interessen.

Diese Bedrohungen fielen zeitlich mit einem Bericht vom Februar zusammen, in dem OpenAI eine chinesische Überwachungsinitiative aufdeckte. Diese Kampagne überwachte Berichten zufolge westliche Proteste in Echtzeit und lieferte Zusammenfassungen an chinesische Sicherheitsbehörden. ChatGPT unterstützte dabei alles, vom Debuggen von Code bis hin zum Verfassen von Verkaufspräsentationen für Überwachungssoftware.

Nimmo gab an, dass die meisten dieser Operationen entdeckt und gestoppt wurden, obwohl sie offenbar mit ausgefeilten Werkzeugen durchgeführt wurden.

„Fortschrittliche KI führt nicht zwangsläufig zu besseren Ergebnissen“, bemerkte er. Tatsächlich legen die regelmäßigen Bedrohungsberichte von OpenAI nahe, dass generative Modelle zwar die Content-Erstellung beschleunigen können, aber weder echten Einfluss noch breite tracgarantieren.

Als Reaktion auf diese Erkenntnisse hat OpenAI seine Überwachungs- und Durchsetzungsmechanismen weiter optimiert. Das Unternehmen sperrt Konten, die mit den festgestellten Aktivitäten in Verbindung stehen, und entfernt alle Konten, die an der Erstellung von Schadsoftware, automatisierten politischen Nachrichten oder irreführenden Inhalten beteiligt sind.

In der jüngsten Runde entfernte OpenAI Accounts, die geopolitische Kontroversen mit Bezug zu China verbreiteten, darunter falsche Anschuldigungen gegen Aktivisten in Pakistan sowie Kommentare zu Trumps Zollpolitik .

Trotz der Erfolge von OpenAI räumt das Unternehmen auch die Ambivalenz der generativen KI ein, die sowohl ein Werkzeug für Innovation als auch ein Werkzeug für Desinformation ist.