Die indische Regierung fordert X auf, Grok wegen obszöner KI-Inhalte zu reparieren

Die indische Regierung hat die von Elon Musk betriebene Blogging-Plattform X angewiesen, ihren KI-Chatbot Grok aufgrund obszöner Inhalte zu überarbeiten. Das Land fordert von der Plattform umgehend technische und organisatorische Änderungen, nachdem Nutzer und Abgeordnete mehrere Fälle obszöner Inhalte gemeldet hatten.

Laut Angaben des Landes wurden Fälle bekannt, in denen der Chatbot zur Erstellung obszöner Bilder missbraucht wurde, darunter auch KI-bearbeitete Bilder von Frauen. Das indische IT-Ministerium erließ am Freitag eine Anordnung, in der es die Plattform aufforderte, Korrekturmaßnahmen bezüglich Grok zu ergreifen. Dazu gehört die Einschränkung der Erstellung von Inhalten mit „Nacktheit, Sexualisierung, sexuell explizitem oder anderweitig rechtswidrigem Material“. Das Ministerium setzte der Plattform eine Frist von 72 Stunden zur Umsetzung der Änderungen.

Die indische Regierung ordnet X an, technische Änderungen an Grok vorzunehmen

Als Teil der im 72-Stunden-Ultimatum gesetzten Verpflichtungen hat das Ministerium X außerdem aufgefordert, einen Bericht über die ergriffenen Maßnahmen zur Verhinderung der Verbreitung unanständiger Inhalte vorzulegen. Zu diesen Inhalten zählen „obszöne, pornografische, vulgäre, unanständige, sexuell explizite, pädophile oder anderweitig gesetzlich verbotene Inhalte“. In der Anordnung wurde gewarnt, dass die Plattform ihren „Safe Harbor“-Schutz gefährden könnte, sollte sie die vorgeschriebenen Maßnahmen nicht umsetzen.

Indiens Anordnung erfolgte vor dem Hintergrund von Bedenken seitens der Nutzer, die Beispiele dafür teilten, wie Grok Bilder von Personen, vorwiegend Frauen, so veränderte, dass diese Bikinis trugen. Auslöser war eine formelle Beschwerde der indischen Parlamentsabgeordneten Priyanka Chaturvedi. Chaturvedi mahnte alle großen Unternehmen mit KI-Chatbots und fügte hinzu, dass Kontrollmechanismen eingeführt werden müssten, um Funktionen wie Grok zu überprüfen und sicherzustellen, dass der Chatbot die Menschenwürde nicht verletzt.

Unabhängig davon meldeten Nutzer mehreredentbei denen der KI-Chatbot zur Erstellung sexualisierter Bilder mit Minderjährigen missbraucht wurde. X räumte dieses Problem am Freitag ein. Die Plattform gab an, dass es auf Sicherheitslücken zurückzuführen sei, und entfernte die erstellten Bilder umgehend. X rief die Nutzer außerdem dazu auf, Vorfälle offiziell dem FBI oder der CyberTipline des NCMEC zu melden und betonte, dass X sich der Prävention solcher Vorfälle verpflichtet fühle.

X könnte wegen Nichteinhaltung mit rechtlichen Problemen konfrontiert werden

Laut Nutzern blieben unanständige Bilder von Frauen, die mithilfe des Chatbots erstellt wurden, auf der Plattform. Die jüngste Anordnung erfolgte, nachdem das indische IT-Ministerium Social-Media-Plattformen darauf hingewiesen hatte, dass die Einhaltung der lokalen Gesetze zu obszönen und sexuell expliziten Inhalten Voraussetzung für den Erhalt der Haftungsbefreiung für nutzergenerierte Inhalte ist. Indien forderte die Unternehmen nachdrücklich auf, ihre Sicherheitsvorkehrungen zu verbessern und warnte vor möglichen rechtlichen Konsequenzen bei Nichteinhaltung.

„Es wird erneut darauf hingewiesen, dass die Nichteinhaltung der oben genannten Anforderungen schwerwiegende rechtliche Konsequenzen für Ihre Plattform, deren Verantwortliche und die Nutzer, die gegen das Gesetz verstoßen, nach sich ziehen kann – und zwar ohne weitere Vorwarnung“, hieß es in der Anordnung. Die indische Regierung warnte X außerdem, dass sie im Falle der Nichtbeachtung ihrer Anweisung berechtigt sei, rechtliche Schritte gegen die Plattform gemäß indischem IT-Recht und Strafgesetzen einzuleiten.

Indien hat sich zu einem der größten digitalen Märkte entwickelt und gilt als entscheidender Testfall dafür, wie weit Regierungen bereit sind zu gehen, um Plattformen für KI-generierte Inhalte zur Verantwortung zu ziehen. Eine Verschärfung der Durchsetzung der Vorschriften in Indien könnte ripple Folgen für globale Technologieunternehmen haben, die in anderen Ländern tätig sind. Die Anordnung erfolgt zudem zu einem Zeitpunkt, an dem X die indischen Inhaltsregulierungsbestimmungen weiterhin vor Gericht anfechtet.

Die Plattform argumentiert, dass die Befugnisse der Bundesregierung zur Entfernung von Inhalten ein Überschreiten der Kompetenzgrenzen darstellen könnten, obwohl sie die meisten der vom Land erlassenen Sperrrichtlinien befolgt hat. Gleichzeitig Grok für die Nutzer von X als hilfreich erwiesen, da die meisten die Plattform für Echtzeit-Faktenchecks und Kommentare zu globalen Ereignissen nutzen. Dadurch sind die Ergebnisse von Grok sichtbarer und politisch brisanter als die von eigenständigen KI-Tools.