OpenAI meldet zunehmende schädliche Nutzung von ChatGPT durch chinesische Gruppen

OpenAI hat enthüllt, dass es einen Anstieg der geheimen Nutzung seiner Tools gibt, insbesondere im Zusammenhang mit chinesischen Gruppen, die die ChatGPT-Plattform für schädliche Zwecke ausnutzen.

Seit dem Launch von ChatGPT im November 2022, der sofortigen Erfolg feierte, gab es Bedenken hinsichtlich der potenziellen Folgen basierend auf seinen Fähigkeiten, menschenähnliche Audio-, Text-, Bild- und Videoinhalte zu generieren. Und OpenAI hat regelmäßig Berichte über schädliche Aktivitäten auf seinen Plattformen veröffentlicht, wie gefälschte Inhalte für Websites.

OpenAI zerschlägt 10 separate Kampagnen, die seine Tools missbrauchen

In einem am Donnerstag veröffentlichten Bericht enthüllte das in San Francisco ansässige Unternehmen, dass es kürzlich zehn separate Kampagnen zerschlagen hat, die seine KI-Tools ausnutzten. Davon wurden vier von mit China verbundenen Gruppen organisiert, während kleinere Schemata mit anderen Ländern in Verbindung gebracht wurden.

Laut Ben Nimmo, leitender Ermittler im Untersuchungsteam von OpenAI, setzten diese mit China verbundenen Operationen eine breite Palette von Taktiken in mehreren Online-Plattformen ein.

„Wir beobachten ein wachsendes Toolkit“, sagte er den Reportern.

„Einige Kampagnen vermischten Einflussoperationen, Social Engineering und Überwachung und erstreckten sich über Plattformen von TikTok und X bis hin zu Reddit und Facebook.“

Nimmo.

Eines der wichtigsten Beispiele, genannt „Sneer Review“, nutzte ChatGPT, um kurze Beiträge und Kommentare auf Englisch, Chinesisch und Urdu zu veröffentlichen. Diese behandelten Themen wie die Auflösung der US-Agentur für internationale Entwicklung, die abwechselnd die Entscheidung lobte und kritisierte, sowie Kritik an einem taiwanesischen Strategie-Video-Spiel, das als Angriff auf die regierende Partei Chinas dargestellt wurde.

Laut OpenAIs Bericht erstellte die Operation in den meisten Fällen nicht nur Originalbeiträge, sondern auch Antworten, was den Anschein einer „echten“ Debatte erweckte. Dieselben Gruppen erstellten auch einen langformatierten Artikel, der einen umfangentlichen öffentlichen Aufruhr gegen das Spiel behauptete.

Der „Sneer Review“ nutzte ChatGPT auch, um interne Dokumente und Leistungsbeurteilungen zu entwerfen, wobei jeder Schritt der Kampagnenausführung im Detail hervorgehoben wurde. Analysten bei OpenAI stellten fest, dass das tatsächliche Social-Media-Verhalten diese Selbstbewertungen eng widerspiegelte, was unterstrich, wie KI sowohl die Frontlinieneinflussnahme als auch das Backoffice-Management rationalisieren kann.

Der Bericht zeigte auch, dass ein anderes mit China verbundenes Netzwerk auf die Beschaffung von Informationen fokussiert war, indem es sich als Journalisten und geopolitische Kommentatoren ausgab. Sie nutzten den Chatbot, um Kontobiografien auf X zu erstellen, Kommunikationen zwischen Chinesisch und Englisch zu übersetzen und sogar Nachrichten zu erstellen, die an einen US-Senator bezüglich einer föderalen Nominierung gerichtet waren.

Gruppen aus anderen Ländern missbrauchten ebenfalls OpenAIs Tools

Zusätzlich zu den chinesischen Operationen merkt der Bericht an, dass russische und iranische Akteure ebenfalls versuchten, ChatGPT für wahlbezogene Einflussnahme zu nutzen, was die Bedenken bezüglich der Rolle generativer KI bei der Beeinflussung der öffentlichen Meinung widerspiegelt.

Auf den Philippinen war ein kommerzielles Marketing-Unternehmen mit einer Spam-Kampagne verbunden, während ein Rekrutierungsbetrug mit Verbindungen zu Kambodscha auftauchte. Das Unternehmen markierte auch eine andere Beschäftigungsinitiative mit nordkoreanischen Interessen.

All diese Bedrohungen fielen mit einem früheren Bericht aus Februar zusammen, in dem OpenAI eine mit China verbundene Überwachungsinitiative entdeckte. Diese Kampagne überwachte angeblich westliche Proteste in Echtzeit und gab Zusammenfassungen an chinesische Sicherheitsbehörden weiter, und ChatGPT erleichterte alles von Code-Debugging bis zum Entwurf von Verkaufsargumenten für Überwachungssoftware.

Nimmo gab an, dass die meisten dieser Operationen entdeckt und gestoppt wurden, obwohl sie anscheinend ausgefeilte Tools verwendeten.

„Fortschrittliche KI führt nicht unbedingt zu effektiveren Ergebnissen“, beobachtete er. Tatsächlich deuten die regelmäßigen Bedrohungsberichte von OpenAI darauf hin, dass zwar generative Modelle die Inhaltserstellung beschleunigen können, sie jedoch keine echte Einflussnahme oder weitreichende Reichweite garantieren.

Als Reaktion auf diese Erkenntnisse hat OpenAI seine Überwachungs- und Durchsetzungsmechanismen weiter verfeinert. Das Unternehmen sperrt Konten, die mit den entdeckten Operationen in Verbindung stehen, und entfernt alle, die an der Erstellung von Malware sowie automatisierten politischen Nachrichten oder irreführenden Inhalten beteiligt sind.

In ihrer neuesten Runde entfernte OpenAI Konten, die geopolitische Kontroversen im Zusammenhang mit China posteten, einschließlich falscher Anschuldigungen gegen Aktivisten in Pakistan sowie Kommentare zu Trumps Zoll-Politik.

Trotz der Erfolge von OpenAI erkennt das Unternehmen auch die zweischneidige Natur generativer KI an, sowohl als Werkzeug für Innovation als auch als Werkzeug für Desinformation.