Indien will angesichts von Deepfake-Bedenken die Kennzeichnung von KI-Inhalten vorschreiben

Die indische Regierung hat einen Gesetzesentwurf vorgelegt, der künstliche Intelligenz (KI) und Social-Media-Plattformen dazu verpflichten soll, KI-generierte Inhalte klar zu kennzeichnen. Das Ministerium für Elektronik und Informationstechnologie (MeitY) beabsichtigt, die Richtlinien für IT-Vermittler und den defifür digitale Medien von 2021 entsprechend anzupassen.

Nach den am Mittwoch vom Ministerium fürtronund Informationstechnologie (MeitY) angekündigten Entwurfsregeln werden die KI- und Social-Media-Plattformen OpenAI, Meta, X und Google verpflichtet, KI-generierte Bilder, Audiodateien und Videos deutlich zu kennzeichnen. 

Nach den Regeln des Ministeriums für Elektronik und Informationstechnologie (MeitY) müssen Unternehmen, sofern die Bilder KI-generiert sind, Kennzeichnungen anbringen, die mindestens 10 % der Bildfläche einnehmen oder die ersten 10 % der Dauer eines Audioclips abdecken.

Das Ministerium erklärte, die Richtlinie werde den Regulierungsbehörden die Nachverfolgbarkeit und Transparenz von Metadaten für alle öffentlich zugänglichen, KI-generierten Medien erleichtern tracEs hatBranchenvertreter und die Öffentlichkeit aufgefordert, bis zum 6. November Stellungnahmen abzugeben, bevor es die endgültige Verabschiedung und Unterzeichnung des Gesetzes vornimmt.

Technologie- und Medienunternehmen in Indien müssen KI-Inhalte kennzeichnen

Laut den Entwürfen des vorgeschlagenen Rahmensmüssen Social-Media-Nutzer auch angeben, ob von ihnen hochgeladene Inhalte mithilfe von KI-Tools generiert oder verändert wurden. 

Die Änderungen defiKI-generierte Informationen als Inhalte, die „künstlich oder algorithmisch unter Verwendung einer Computerressource erstellt, generiert, modifiziert oder verändert wurden, und zwar so, dass diese Informationen vernünftigerweise als authentisch oder wahr erscheinen“

Dhruv Garg, Gründungspartner des Indian Governance and Policy Project, sagte, die Regeln seien „einer der ersten expliziten Versuche weltweit, einen quantifizierbaren Transparenzstandard vorzuschreiben“ 

Garg vermutete, dass dies, falls es in Kraft treten sollte, KI-Unternehmen und Content-Plattformen dazu verpflichten würde, automatisierte Kennzeichnungswerkzeuge zu entwickeln, um synthetische Inhalte bereits bei ihrer Erstellung zu erkennen und zu kennzeichnen, bevor die Öffentlichkeit darauf zugreifen kann.

Bollywood-Klagen sind Teil der Forderungen nach einer Regulierung von Deepfakes

Indiens Gesetzesentwurf erscheint vor dem Hintergrund mehrerer Klagen gegen Deepfakes vor indischen Gerichten. Anfang des Monats beantragten die Bollywood-Schauspieler Abhishek Bachchan und Aishwarya Rai Bachchan vor einem Gericht in Neu-Delhi die Sperrung und Entfernung von KI-generierten Videos, die angeblich ihre Persönlichkeitsrechte und ihr geistiges Eigentum verletzten

Das Paar forderte fast eine halbe Million Pfund Schadenersatz und behauptete außerdem, dass die KI-Trainer von YouTube unrechtmäßig öffentliche Inhalte verwendet hätten, um KI-Medien mit ihren Bildern zu generieren. 

Indische Entscheidungsträger führten die Fälle als Beweis dafür an, dass unregulierte KI-Technologien Rufschädigung, Wahlverzerrung und eine Untergrabung des öffentlichen Vertrauens in digitale Informationsökosysteme zur Folge haben könnten. 

Das IT-Ministerium erklärte, sein neuer Entwurf ziele darauf ab, „Transparenzmechanismen in KI-Systeme einzubauen, bevor Risiken außer Kontrolle geraten“

Indiens Regulierungsvorschläge orientieren sich an ähnlichen Gesetzen der Europäischen Union, die ihr KI-Gesetz verabschiedet hat, das Transparenzkennzeichnungen für synthetische Medien vorschreibt. Auch China führte letztes Jahr verpflichtende Wasserzeichenstandards für KI-generierte Bilder und Texte ein.

KI-Investitionsboom in Indien

Der Vorschlag zur Kennzeichnung kommt zu einem Zeitpunkt, an dem Indien einen starken Anstieg der Investitionen in künstliche Intelligenz erlebt. Laut dem indischen Ministerium für Elektronik und Informationstechnologie (MeitY) werden die kumulierten und neuen Investitionszusagen für KI in Indien im Jahr 2025 die Marke von 20 Milliarden US-Dollar überschreiten.

OpenAI-CEO Sam Altman erklärte Anfang des Jahres, Indien sei gemessen an der Nutzerzahl der zweitgrößte Markt seines Unternehmens. Schätzungen von Spherical Insights zufolge erreichten die Investitionen des Privatsektors 11,1 Milliarden US-Dollar, während die öffentlichen Fördermittel aus staatlichen Programmen bis August 12,3 Milliarden US-Dollar betrugen.

Ein Großteil dieses Wachstums wird durch Googles 15 Milliarden Dollar teures KI-Zentrum getragen, das derzeit in Visakhapatnam, Andhra Pradesh, gebaut wird. Wie Cryptopolitan berichtete. 

Google erwähnte, dass das Rechenzentrum Rechenleistung im Gigawattbereich, eine neue Infrastruktur für erneuerbare Energien, ein Unterwasser-Datengateway und inländische Glasfaserverbindungen beherbergen wird.

Die von MeitY und dem IndiaAI Innovation Center umgesetzte Regierungsinitiative IndiaAI Mission hat bereits mehr als 38.000 GPUs für den landesweiten Zugang zu subventionierten Preisen bereitgestellt. 

IndiaAI hatte bis Mitte 2025 30 Anwendungsentwicklungsprojekte genehmigt, die sich alle mit verantwortungsvoller KI und der Lösung von Problemen innerhalb der Zuständigkeit befassten, wie Katastrophenschutz, Stadtplanung und öffentliche Gesundheit.