Indien gibt den großen Technologiekonzernen neun Tage Zeit, um das zu schaffen, was ihnen jahrelang nicht gelungen ist

Indien hat eine Herausforderung gestellt, die möglicherweise unlösbar ist . Ab dem 20. Februar müssen Social-Media-Unternehmen im Land alle gefälschten KI-Inhalte kennzeichnen und illegale Deepfakes innerhalb von drei Stunden entfernen . Die dafür notwendige Technologie existiert noch nicht .

Die am Dienstag verkündeten Regeln setzen Plattformen wie Meta, Google und X unter Druck, Systeme einzuführen, die KI-generierte Bilder, Videos und Audiodateien erkennen und kennzeichnen, bevor sie Nutzern angezeigt werden. Unternehmen müssen zudem verhindern, dass diese Kennzeichnungen entfernt oder ausgeblendet werden. Trotz Milliardeninvestitionen fällt es diesen Tech-Giganten schwer, ihre derzeitigen Erkennungswerkzeuge zuverlässig zum Laufen zu bringen.

Die meisten großen Plattformen nutzen bereits ein Verfahren namens C2PA, das einbettet , um deren Entstehungsgeschichte offenzulegen .Es ist vergleichbar mit einer Nährwertkennzeichnung für digitale Inhalte. Funktioniert es, lässt sich erkennen, ob ein Foto von einer echten Kamera oder einem KI-Generator stammt. Facebook, Instagram, YouTube und LinkedIn versuchen , solche Inhalte zu kennzeichnen, doch die Kennzeichnungen sindleichtzu übersehen, und viele gefälschte Inhalte gelangen ungehindert durch.

Das System weist gravierende Mängel auf . Open-Source-KI-Tools und Apps, die gefälschte Nacktfotos erstellen , überspringen den Kennzeichnungsprozess oft komplett . Selbst wenn Kennzeichnungen vorhanden sind, verschwinden sie auf vielen Plattformen beim Hochladen der Dateien. Die Befürworter von C2PA argumentieren seit Jahren, die Technologie müsse lediglich breiter eingesetzt werden, um erfolgreich zu sein. Indien steht kurz davor, diese Behauptung mit 500 Millionen Social-Media-Nutzern auf die Probe zu stellen .

Warum Indiens Marktmacht alles verändert

Indien hat 481 Millionen Instagram-Nutzer, 403 Millionen Facebook-Nutzer, 500 Millionen YouTube-Nutzer und 213 Millionen Snapchat-Nutzer. Für X ist Indien der drittgrößte Markt. Wenn ein Land dieser Größenordnung neue Regeln einführt, passen globale Technologieunternehmen ihre Systeme üblicherweise weltweit an, nicht nur lokal.

Dieser Vorstoß erfolgt, nachdem Indien monatelang mit einer Deepfake- Krise. Cryptopolitan berichtete im vergangenen Oktober , dass die Bollywood-Schauspieler Abhishek Bachchan und Aishwarya Rai Bachchan wegen gefälschter Videos, in denen ihre Gesichter verwendet wurden, Klage eingereicht und fast eine halbe Million Dollar Schadenersatz gefordert haben. Das Paar behauptet,dass dieKI-Trainer von YouTube verwendet hätten , um Systeme zu trainieren, die später gefälschte Medien mit ihren Bildern erstellten. Fälle wie diese, zusammen mit viralen gefälschten Videos der Schauspielerin Rashmika Mandanna, veranlassten die Behörden zum Handeln.

Der Zeitpunkt passt zu Indiens KI-Ambitionen. Google errichtet in Visakhapatnam ein 15 Milliarden Dollar teures KI-Zentrum, das die größte Einrichtung des Unternehmens außerhalb Amerikas werden soll. Der Standort wird über Rechenleistung im Gigawattbereich verfügen und soll im Juli 2028 eröffnet werden. Angesichts dieser KI-Infrastruktur wollen die Regulierungsbehörden zunächst Regeln zur Inhaltssicherheit einführen.

Kritiker warnen vor „rasanter Zensur“

Die knappen Fristen bereiten Verfechtern der Meinungsfreiheit Sorgen. Die Internet Freedom Foundation argumentiert, dassdas dreistündige Zeitfenster für die Löschung von Inhalten Unternehmen dazu zwingen wird, automatisierte Systeme einzusetzen, die irrtümlich zu viele Inhalte löschen. Sie sprechen von der Schaffung einer „Schnellfeuer-Zensur“, da keine Zeit für eine gründliche menschliche Prüfung der Meldungen bleibt.

Plattformen wie X, die bisher noch keine KI-gestützte Kennzeichnung implementiert haben , haben nun nur neun Tage Zeit, um komplette Systeme von Grund auf neu zu entwickeln. Meta, Google und X lehnten eine Stellungnahme ab. Auch Adobe, das Unternehmen hinter C2PA , schwieg .

Den Verantwortlichen bei der Ausarbeitung der Regeln scheint bewusst zu sein , dass die aktuelle Technologie noch nicht ausgereift ist . Die Anforderungen besagen, dass Plattformen Erkennungsmethoden „soweit technisch möglich“ einsetzen sollen – eine juristische Formulierung, die einräumt, dass Perfektion nicht erwartet wird. Indiens Führungskräfte glauben, dass Druck Innovationen vorantreiben wird. Sie setzen darauf, dass Technologieunternehmen schnell eine Lösung finden, wenn sie gezwungen werden, entweder bessere Systeme zu entwickeln oder den Zugang zu Hunderten Millionen Nutzern zu verlieren .

Ob es tatsächlich bessere KI-Erkennungstechnologien gibt, die entwickelt werden können, oder ob Indien lediglich mit etwas beauftragt hat, das nicht realisierbar ist , bleibt abzuwarten. Wir werden es in neun Tagen wissen.