China nutzt jetzt KI, um Zensur und Unterdrückung zu verstärken

Geleakte Daten zeigen, dass China große Sprachmodelle nutzt, um seine Zensurmaschine zu verstärken.

Ein kürzlich bekannt gewordener Leak enthüllt, dass ein ausgeklügeltes KI-System, das auf 133.000 Beispielen von Benutzerinhalten basiert, entwickelt wurde, um jegliches Material zu kennzeichnen, das von der Regierung als sensibel eingestuft wird. 

Der Datensatz, entdeckt von einem Sicherheitsforscher und gesehen von TechCrunch, zeigt, dass China Schritte unternimmt, um seine Online-Kontrolle weit über Themen wie das Tiananmen-Massaker hinaus auszudehnen.

China nutzt moderne Technologie, um Online-Inhalte zu filtern

Der Leak, der bis in Einträge vom Dezember 2024 zurückreicht, ist ein deutliches Zeichen dafür, dass chinesische Behörden oder deren Verbündete neue Technologien zur Filterung von Online-Inhalten einsetzen. 

Die Datenbank enthält Beschwerden über Armut im ländlichen China, Nachrichtenberichte über korrupte Mitglieder der Kommunistischen Partei und Hilferufe wegen korrupter Polizisten, die Unternehmer erpressen. 

Jedes einzelne Stück Inhalt wird in ein Large Language Model (LLM) eingespeist, das nach Themen sucht, die öffentlichen Unmut schüren könnten.

Xiao Qiang, ein Forscher an der UC Berkeley, der sich mit chinesischer Zensur befasst, sagte TechCrunch, dass die geleakten Daten „klare Beweise“ für die Absicht der Regierung sind, LLMs zur Verbesserung der Unterdrückung einzusetzen. 

Qiang erklärte, dass ein LLM im Gegensatz zu traditionellen Methoden, die auf menschlicher Arbeit für die Schlüsselwortfilterung und manuelle Überprüfung beruhen, selbst subtile Kritik schnell und genau identifizieren kann, wodurch die staatliche Informationskontrolle effizienter und weitreichender wird.

Das System wird nicht nur zur Zensur politischer Themen verwendet, sondern erstreckt sich auch auf sensible Bereiche des sozialen Lebens und des Militärs. Laut den Details des geleakten Datensatzes wird jeder Inhalt, der mit Umweltverschmutzung, Lebensmittelskandalen, Finanzbetrug und Arbeitskonflikten zusammenhängt, zur „höchsten Priorität“ für die Zensur erklärt. 

Die Daten zeigen, dass Themen wie die Anti-Umweltverschmutzungs-Proteste in Shifang im Jahr 2012 sorgfältig überwacht werden, um öffentliche Unruhen zu verhindern. Selbst politische Satire und historische Analogien, die auf aktuelle politische Persönlichkeiten abzielen, werden sofort markiert. Inhalte, die sich mit der Taiwan-Politik befassen, sind ebenfalls Ziel von Zensur, wobei militärische Angelegenheiten – einschließlich Berichten über Bewegungen, Übungen und Details zu Waffen – einer engen Prüfung unterzogen werden.

‘Taiwan’ erscheint 15,000 Mal im chinesischen Zensur-Datensatz

Ein bemerkenswertes Detail im geleakten Inhalt ist, dass das chinesische Wort für Taiwan (台湾) über 15.000 Mal vorkommt, was den Fokus auf jegliche Diskussion unterstreicht, die das offizielle Narrativ herausfordern könnte. 

Zu anderen sensiblen Inhalten im Datensatz gehören Kommentare zu Taiwans militärischen Fähigkeiten und Details zu einem neuen chinesischen Kampfflugzeug. Selbst subtile Formen des Protests werden nicht verschont; ein in der Datenbank gefundenes Beispiel ist eine Anekdote über die Vergänglichkeit der Macht unter Verwendung des beliebten chinesischen Idioms „Wenn der Baum fällt, zerstreuen sich die Affen.“

Der Sicherheitsforscher NetAskari entdeckte den Datensatz, der in einer ungesicherten Elasticsearch-Datenbank auf einem Baidu-Server gespeichert war. 

„Öffentlichkeitsarbeit“ ist ein Begriff, der für die Zensur- und Propagandabemühungen verwendet wird, die von der mächtigen Cyberspace Administration of China (CAC) überwacht werden. Michael Caster, der Asia-Programmmanager der Menschenrechtsorganisation Article 19, erklärte, dass diese Arbeit darauf ausgelegt ist, sicherzustellen, dass die Narrative der Regierung online dominant bleiben. 

Ein Bericht von OpenAI im vergangenen Monat zeigte auch, dass ein nicht identifizierter Akteur, der wahrscheinlich aus China operiert, generative KI nutzte, um Social-Media-Konversationen zu überwachen – insbesondere solche, die zu Menschenrechtsprotesten aufrufen – und die Informationen an die chinesische Regierung weiterleitete. Der gleiche Bericht stellte fest, dass die Technologie auch verwendet wurde, um Kommentare zu generieren, die den prominenten chinesischen Dissidenten Cai Xia stark kritisierten.

Traditionelle Zensur in China hat oft auf einfachen Algorithmen beruht, die automatisch Inhalte blockieren, die auf der schwarzen Liste stehende Begriffe wie „Massaker auf dem Tiananmen-Platz“ oder „Xi Jinping“ enthalten. Nutzer haben dies mit Tools wie DeepSeek selbst erlebt. Neuere Systeme können jedoch selbst subtile Kritik in großem Umfang erkennen und verbessern sich, je mehr Daten sie erhalten.