Indien gibt Big Tech neun Tage Zeit, um zu bauen, was sie in Jahren nicht konnten

Indienhat gerade eine Herausforderung die technologische Skalierung Chinas herausgegeben, die unmöglich zu erfüllen sein könnte. Ab dem 20. Februar müssen Social-Media-Unternehmen, die im Land tätig sind, jedes Stück gefälschter KI-Inhalte kennzeichnen und illegale Deepfakes innerhalb von drei Stunden entfernen. Die Technologie, um nicht diese dies ordnungsgemäß zu tun, existiert noch nicht.

The rules, announced Tuesday, put pressure on platforms like Meta, Google, and X to deploy systems that catch and mark AI-generated images, videos, and audio before users see them. Companies must also stop people from removing or hiding these labels. Even with billions in resources, these tech giants struggle to make their current detection tools work reliably.

Die meisten großen Plattformen verwenden bereits etwas namens C2PA, das unsichtbare Informationen in Dateien einpflanzt, um zu zeigen, wie sie gabenerstellt wurden. Es ist wie ein Nährwertkennzeichnung für digitale Inhalte. Wenn es funktioniert, können Sie sehen, ob ein Foto von einer echten Kamera oder einem KI-Generator stammt. Facebook, Instagram, YouTube und LinkedIn versuchen diesen Inhalt zu kennzeichnen, aber die Kennzeichnungensindleicht zu übersehen, und viel gefälschte Sachen schlüpfen durch.

Das System hat große Lücken. Open-Source-KI-Tools und -Apps, die falsche Nacktfotos erstellen, überspringen den Kennzeichnungsprozess oft komplett. Selbst wenn Kennzeichnungen vorhanden sind, verschwinden sie während des Datei-Uploads auf vielen Websites. Befürworter von C2PA haben Jahre damit verbracht, zu sagen, dass die Technologie nur eine breitere Akzeptanz braucht, um erfolgreich zu sein. Indien wird diese Behauptung mit 500 Millionen Social-Media-Nutzern testen.

Warum Indiens Marktmacht alles verändert

Indien hat 481 Millionen Instagram-Nutzer, 403 Millionen auf Facebook, 500 Millionen, die YouTube schauen, und 213 Millionen, die Snapchat nutzen. X betrachtet Indien als seinen drittgrößten Markt. Wenn ein Landdieser Größe neue Regeln einführt, passen globale Tech-Unternehmen typischerweise ihre Systeme überall an, nicht nur an einem Ort.

Dieser Schub kommt nach Monaten der Auseinandersetzung Indiens mit einer Deepfake-Krise. Cryptopolitan berichtete im vergangenen Oktober, dass Bollywood-Schauspieler Abhishek Bachchan und Aishwarya Rai Bachchan wegen falscher Videos, die ihre Gesichter verwendeten, Klage einreichten und fast eine halbe Million Dollar an Schadensersatz forderten. Das Paar behauptete, dass YouTubes KI-Trainingsmodelle öffentliche Inhalte ohne Erlaubnis entnommen hätten, um Systeme zu trainieren, die später falsche Medien mit ihren Bildern erstellten. Fälle wie diese, zusammen mit viralen Fake-Videos der Schauspielerin Rashmika Mandanna, drängten Beamte dazu, zu handeln.

Der Zeitpunkt stimmt mit Indiens KI-Ambitionen überein. Google baut in Visakhapatnam ein 15-Milliarden-Dollar-KI-Hub, das zur größten Anlage des Unternehmens außerhalb Amerikas werden wird. Die Anlage wird über eine Rechenleistung im Gigawatt-Bereich verfügen und soll im Juli 2028 eröffnet werden. Mit dieser Art von KI-Infrastruktur, die eintrifft, wollen Regulierungsbehörden zuerst Sicherheitsregeln für Inhalte etablieren.

Kritiker warnen vor „Rapid-Fire-Zensur“

Die engen Fristen sorgen für Besorgnis bei Befürwortern der Meinungsfreiheit. Die Internet Freedom Foundation sagt, das Drei-Stunden-Fenster für die Entfernung werde Unternehmen zwingen, automatisierte Systeme zu verwenden, die zu viel Inhalt versehentlich löschen. Sie nennt es die Schaffung von „Rapid-Fire-Zensoren“, weil keine Zeit für eine ordnungsgemäße menschliche Überprüfung von Berichten bleibt.

Plattformen wie X, die noch keine KI-Kennzeichnung eingerichtet haben, haben nun nur neun Tage, um gesamte Systeme von Grund auf neu zu erstellen. Meta, Google und X lehnten Kommentare ab. Adobe, das Unternehmen hinter C2PA, blieb auch schweigen.

Beamte, die die Regeln schreiben, scheinen zu wissen, dass aktuelle Technologie nicht bereit ist. Die Anforderungen sagen, Plattformen sollten Erkennungsmethoden „im Rahmen des technisch Machbaren“ verwenden – eine juristische Formulierung, die anerkennt, dass Perfektion nicht erwartet wird. Indiens Führer glauben, dass Druck Innovation antreiben wird. Sie wetten darauf, dass, wenn Sie Tech-Unternehmen zwingen, entweder bessere Systeme zu bauen oder den Zugang zu Hunderten von Millionen Nutzern zu verlieren, sie es schnell herausfinden werden.

Ob tatsächlich bessere KI-Erkennungstechnologie existiert, die gebaut werden kann, oder ob Indien nur Unternehmen angeordnet hat, etwas zu liefern, das noch nicht hergestellt werden kann, wird sich in neun Tagen herausstellen.