Die chinesische Cyberspace-Administration erwägt, alle KI-generierten Inhalte im Rahmen eines neuen Regelungsentwurfs zu kennzeichnen. Berichten zufolge hat die Regulierungsbehörde, die gleichzeitig die chinesische Internetbehörde ist, bereits einen Entwurf vorbereitet, der alle digitalen Plattformen und Online-Dienstleister dazu verpflichtet, KI-generierte Inhalte mit dem KI-Symbol zu versehen.
In einer Mitteilung vom 14. September erklärte die Regulierungsbehörde, dieser Schritt würde den dent für KI-generierte Inhalte standardisieren und die nationale Sicherheit sowie die Interessen von Einzelpersonen und Organisationen, die die Plattformen nutzen, schützen.
Die Regulierungsbehörde hat einen Gesetzesentwurf veröffentlicht, zu dem bis zum 14. Oktober öffentliche Kommentare eingereicht werden können. Laut der Bekanntmachung können Kommentare per E-Mail an [email protected] oder per Brief an das Network Management Technology Bureau des State Internet Information Office gesendet werden.
Obwohl öffentliche Kommentare Einfluss auf den endgültigen Entwurf der Regeln haben könnten, gehen Experten davon aus, dass die vorgeschlagenen Regeln in ihrer jetzigen Form mit minimalen Änderungen verabschiedet werden, da die chinesischen Behörden nicht dafür bekannt sind, aufgrund von Kommentaren drastische Änderungen an Regelentwürfen vorzunehmen.
Die Entwurfsregeln verlangen das Hinzufügen von Logos und Sprachansagen zu KI-Inhalten
Der Entwurf sieht vor, dass jede von KI erstellte Text-, Video- oder Bilddatei ein Logo enthalten soll, das ihre KI-Generierung kennzeichnet und somit jeden, der auf solche Inhalte stößt, darüber informiert. Um sicherzustellen, dass die Kennzeichnung wahrgenommen wird, soll sie laut Entwurf am Anfang, am Ende und an anderen relevanten Stellen im Video angezeigt werden.
Bei Audiodateien müssen die Ersteller Sprachansagen hinzufügen, die die Nutzer informieren, bevor sie KI-generierte Inhalte hören. Diese Ansagen müssen die Nutzer über verschiedene Abschnitte des Audioinhalts informieren. Jede Software, die Audioinhalte abspielt, muss ebenfalls Ansagen enthalten, die die Nutzer darüber informieren, wenn sie mit dem Hören von KI-generierten Inhalten beginnen.
Artikel 4 der vorgeschlagenen Regeln lautet:
„Fällt der vom Dienstanbieter erbrachte Generierungssynthesedienst unter Absatz 1 von Artikel 17 der Verordnung über die Verwaltung der Tiefensynthese von Internetinformationsdiensten, so ist dem generierten Syntheseinhalt ein eindeutiges Logo gemäß den folgenden Anforderungen hinzuzufügen.“
Der Regelungsentwurf sieht außerdem vor, dass Metadaten in Dateien eingebettet werden müssen, die darauf hinweisen, dass diese KI-generiert sind, um die Kennzeichnung solcher Inhalte zu ermöglichen. Fehlen jedoch Metadaten, obliegt es den Dienstanbietern, die Inhalte zu analysieren und sie bei Verdacht auf KI-Generierung entsprechend zu kennzeichnen.
Die Regeln gelten auch für chinesische Internetnutzer. Wer KI-generierte Inhalte veröffentlicht, muss diese kennzeichnen. Bei der Nutzung von KI-Tools auf anderen Plattformen sieht der Gesetzesentwurf die Angabe persönlicher Daten vor, und die KI-Generierungsplattform speichert die Aktivitäten der Nutzer sechs Monate lang.
Der Planentwurf enthält außerdem die Forderung, dass die Social-Media-Plattform ihre Technologie zur Erkennung von KI-Inhalten mit anderen teilen muss. Dieser Schritt soll den Prozess standardisieren und die Fähigkeit zur Erkennung von KI-Inhalten verbessern.
Die neuen Regeln kommen nicht überraschend, da die Inhaltsmoderation in China schon immer ein wichtiger Bestandteil der Internetnutzung war. Der Fokus auf KI-Inhalte erscheint jedoch angesichts von Deepfakes und anderen KI-generierten Inhalten, die von vielen für Betrug und andere Straftaten missbraucht werden, besonders relevant.
Mehrere beliebte Social-Media-Plattformen außerhalb Chinas, darunter Facebook, Instagram und TikTok, kennzeichnen KI-Inhalte bereits im Rahmen ihrer Inhaltsmoderation. Ihre Erkennungstools sind jedoch noch nicht perfekt, da viele hyperrealistische Inhalte weiterhin den KI-Kennzeichnungen auf diesen Plattformen entgehen
