China erlässt vorläufige Maßnahmen zur Regulierung von Diensten zur Generativen Künstlichen Intelligenz

Am 13. Juli 2023 gaben die Cyberspace Administration of China (CAC) und sechs weitere chinesische Regierungsbehörden die Veröffentlichung der Vorläufigen Verwaltungsmaßnahmen für Dienste zur Generativen Künstlichen Intelligenz bekannt. Diese Maßnahmen treten am 15. August 2023 in Kraft und markieren Chinas ersten Schritt zur Regulierung von Diensten zur Generativen KI. Die Maßnahmen zielen darauf ab, die Förderung von Brancheninnovation und -entwicklung im Gleichgewicht mit der verantwortungsvollen und konformen Nutzung von Generativ-KI-Technologien zu halten. Hier sind die wichtigsten Erkenntnisse aus den neu veröffentlichten Maßnahmen:

Umfang der Maßnahmen

Die Maßnahmen gelten für die Bereitstellung von Diensten zur Generativen KI, einschließlich der Generierung von Texten, Bildern, Audio, Videos oder anderen Inhalten für die Öffentlichkeit in China. Während der Begriff „für die Öffentlichkeit“ nicht definiert ist, wird angenommen, dass er individuelle und Unternehmensnutzer umfasst, es sei denn, die CAC gibt weitere Richtlinien heraus. Interne Forschung und Generativ-KI-Technologien sind von diesen Vorschriften ausgenommen, sofern sie keine Dienstleistungen für die Öffentlichkeit bereitstellen.

Chinesische Nutzer sind nicht ausdrücklich davon abgehalten, Dienste von ausländischen Anbietern von Generativer KI zu nutzen. Die CAC kann jedoch erforderliche Maßnahmen gegenüber solchen Diensten ergreifen, wenn sie gegen chinesische Gesetze und Vorschriften verstoßen.

Wichtige Pflichten der Diensteanbieter

Die Maßnahmen schaffen einen umfassenden regulatorischen Rahmen und legen mehrere Compliance-Pflichten für Anbieter von Diensten zur Generativen KI fest. Zu den wichtigsten Anforderungen gehören:

1. Konformität der Trainingsdaten

Diensteanbieter müssen ihre Daten und Grundmodelle für Trainingsaktivitäten rechtmäßig beziehen. Sie müssen sicherstellen, dass ihre Trainingsprozesse keine geistigen Eigentumsrechte anderer verletzen. Wenn personenbezogene Daten während des Trainings verarbeitet werden, müssen die Anbieter die ausdrückliche Einwilligung der Betroffenen einholen oder sich auf eine andere rechtliche Grundlage für die Verarbeitung stützen. Darüber hinaus sind Schritte zu unternehmen, um die Qualität und Authentizität der Trainingsdaten zu verbessern, wobei die einschlägigen Gesetze zur Cybersicherheit, Datensicherheit und zum Schutz personenbezogener Daten einzuhalten sind.

2. Datenbeschriftung und Qualitätssicherung

Diensteanbieter, die während der Technologieentwicklung Daten beschriften, müssen klare, spezifische und umsetzbare Beschriftungsregeln gemäß den Maßnahmen erstellen. Sie sind auch verpflichtet, die Qualität der Beschriftung zu bewerten und Stichprobenkonten durchzuführen, um die Genauigkeit der Beschriftung zu überprüfen. Für das für die Beschriftungsarbeit verantwortliche Personal ist eine angemessene Schulung bereitzustellen.

3. Schutz personenbezogener Daten

Neben der Einholung der Einwilligung müssen Diensteanbieter die Pflichten zum Schutz personenbezogener Daten einhalten. Dazu gehört, dass sie keine unnötigen personenbezogenen Daten sammeln und keine Informationen und Aufzeichnungen behalten oder weitergeben, die Nutzer illegal identifizieren könnten. Anbieter müssen auch umgehend auf Anfragen der Nutzer in Bezug auf ihre personenbezogenen Daten reagieren.

4. Inhaltsmoderation und illegale Aktivitäten

⟦N1⟧. Sicherheitsbewertung und Algorithmusregistrierung:

5. Sicherheitsbewertung und Algorithmusregistrierung:

Dienste zur Generativen KI mit „Meinungsbildungseigenschaften oder der Fähigkeit zur sozialen Mobilisierung“ erfordern eine Sicherheitsbewertung durch die CAC und andere relevante Aufsichtsbehörden. Darüber hinaus müssen die Diensteanbieter ihre Algorithmen gemäß den chinesischen Bestimmungen zur Verwaltung algorithmischer Empfehlungsdienste für Internetinformationsdienste innerhalb von 10 Werktagen nach der Einführung der Dienste registrieren.

Durchsetzung

Verstöße gegen die Maßnahmen unterliegen Strafen gemäß verschiedenen bestehenden Gesetzen, einschließlich des Cybersicherheitsgesetzes, des Datenschutzgesetzes, des Gesetzes zum Schutz personenbezogener Daten und des Gesetzes über wissenschaftlichen und technologischen Fortschritt. Die zuständigen Aufsichtsbehörden haben die Befugnis, von Diensteanbietern die Zusammenarbeit für Aufsichts- und Inspektionszwecke zu verlangen, einschließlich der Erläuterung von Trainingsdatenquellen, Beschriftungsregeln, algorithmischen Mechanismen sowie der Bereitstellung erforderlicher technischer und datenbezogener Unterstützung.

Mit der Veröffentlichung der Vorläufigen Verwaltungsmaßnahmen für Dienste zur Generativen Künstlichen Intelligenz hat China einen bedeutenden Schritt zur Regulierung von Generativ-KI-Technologien und -Diensten unternommen. Die Maßnahmen zielen darauf ab, die Förderung von Innovationen in der Branche im Gleichgewicht mit der Einhaltung bestehender Gesetze und dem Schutz der Rechte und Daten der Nutzer zu halten. Da der Stichtag für die Umsetzung näher rückt, müssen Diensteanbieter, die in China tätig sind, diese neuen Pflichten gewissenhaft einhalten, um potenzielle Strafen und regulatorische Maßnahmen zu vermeiden.