China nimmt in der ersten Phase der Kampagne „Das Internet säubern“ 14.000 KI-Produkte ins Visier

Chinas Internetaufsichtsbehörde gab bekannt, dass sie in der ersten Phase einer Aufräumaktion mehr als 14.000 KI-Produkte aus den Netzwerken des Landes entfernt hat.

Peking verschärft die innerstaatliche Kontrolle von KI, um Nutzer vor Plattformen mit schwachen Sicherheitsrichtlinien und Regulierungsstandards zu schützen. 

Wie schützt China seine Nutzer vor KI?

Die Cyberspace-Administration Chinas (CAC) gab bekannt , dass sie in der ersten Phase der Aufräumkampagne „Qinglang“ (Klar und Hell) über 14.000 KI-Produkte aus den Netzwerken des Landes entfernt hat. Zu diesen 14.000 KI-Produkten gehörten nicht konforme Websites, Apps und KI-Agenten. 

Die CAC entfernte außerdem mehr als sechs Millionen illegale oder schädliche Inhalte und sperrte über 26.000 Konten. Mehr als 1.300 Angebote für KI-bezogene Produkte sowie neun als illegal eingestufte Open-Source-Datensätze wurden gelöscht.

Die Kampagne begann im April 2026 und konzentrierte sich in ihrer ersten Phase auf vier Hauptprobleme;

• Unternehmen, die die obligatorische Registrierung für große Modelle umgangen haben.
• Plattformen mit schwachen Sicherheitsprüfungen und Filtermechanismen.
• KI-Datenvergiftung.
• Inhalte, die nicht ordnungsgemäß als KI-generiert gekennzeichnet waren.

KI-Dienste müssen sich künftig registrieren und Sicherheitsregeln einhalten, wie z. B. die BereitstellungtronSicherheitsfilter, eindeutige Kennzeichnung von KI-generierten Inhalten und die ordnungsgemäße Verwaltung von Trainingsdaten. 

Wer dies nicht tut, riskiert nun tatsächliche Sperrungen und Strafen. Ein eigener Kanal zur Meldung von KI-bezogenen Missbräuchen wurde für die Öffentlichkeit eingerichtet. 

Huawei hat in seinem App Store spezielle Bewertungen eingeführt, und Alibaba (NYSE: BABA) hat seinedententsprechend angepasst. Zhipu hat ein neues Bewertungsmodell entwickelt, und DeepSeek hat Prüfmechanismen implementiert, um Datenmanipulation zu verhindern.

Auch in den lokalen Internetbehörden wurden Änderungen vorgenommen. So führte Peking ein System ein, das Selbstprüfungen der Plattformen mit regelmäßiger Überwachung und technischen Überprüfungen kombiniert. Shanghai passte seine Regeln an die jeweiligen Plattformtypen an, während Zhejiang den Fokus auf Modellprüfung und die Sicherheit von Trainingsdaten legte. Jiangsu eröffnete ein Meldeportal für fünf Kategorien von Verstößen, und Guangdong entwickelte einen behördenübergreifenden Mechanismus zur Regulierung der gesamten Wertschöpfungskette von KI-Diensten.

Was wird die zweite Phase von Qinglang sein? 

Die CAC erklärte, die zweite Phase werde sich gegen KI richten, die zur Verbreitung von Desinformationen, zur Produktion von gewalttätigem oder vulgärem Material, zur Vortäuschung der Identität von Personen, zur Verletzung der Rechte von Minderjährigen und zur Durchführung bezahlter Astroturfing-Kampagnen eingesetzt wird. 

Die Regulierungsbehörde kündigte härtere Strafen für die betreffenden Konten und Institutionen sowie mehr Druck auf die Plattformen an, ihre eigenen Kontrollmechanismen zu stärken. 

Eine separate Regelung mit dem Titel „Vorläufige Maßnahmen zur Verwaltung anthropomorpher interaktiver KI-Dienste“ tritt am 15. Juli in Kraft. Diese neue Regelung zielt auf KI-Begleiter ab, die für dauerhafte emotionale Beziehungen und nicht für Arbeitsaufgaben entwickelt wurden. Sie verbietet virtuelle Begleitdienste für Minderjährige und erfordert die Zustimmung der Erziehungsberechtigten für Nutzer unter 14 Jahren.

Als Reaktion darauf haben ByteDance mit Doubao und Alibaba mit Qwen damit begonnen, ihre benutzerdefinierten Agentenfunktionen zu deaktivieren, anstatt sie zu aktualisieren, um den neuen Systemen zur Suchtbekämpfung und zum sofortigen Ausstieg gerecht zu werden. 

Wie verläuft der KI-Krieg zwischen den USA und China? 

Die Maßnahmen gegen KI-Systeme im Inland fallen mit chinesischer KI-Firmen gegen amerikanische Konkurrenten zusammen. Seit über einem Jahr erreichen chinesische Modelle innerhalb weniger Monate nach Markteinführung die Leistung der neuesten US-Systeme. 

Berichten zufolge sind chinesische freie und offene KI-Modelle mittlerweile weiter verbreitet als US-amerikanische Alternativen. Letzte Woche gab das Sicherheitsunternehmen Semgrep bekannt, dass ein kostenloses Modell von Zhipu AI bei der Erkennung von Software-Schwachstellen besser abschneidet als Claude Opus 4.8 von Anthropic .

Nachdem Anthropic im März wiederholt Firmen, darunter Alibabas Qwen-Team, beschuldigt hatte, Zehntausende gefälschter Konten zur Optimierung ihrer Modelle zu verwenden, implementierte das Unternehmen stillschweigend einen Code, der überprüfte, ob sich Claude-Nutzer in chinesischen Zeitzonen befanden und Verbindungen zu bestimmten chinesischen KI-Unternehmen hatten. Diese Funktion wurde erst letzte Woche entfernt, nachdem ein Entwickler sie aufgedeckt hatte.