Foto von Elon Musks KI-Chatbot Grok droht in Frankreich, Malaysia und Indien ein dauerhaftes Verbot, nachdem er auf öffentliche Anfragen hin sexualisierte Bilder von Kindern auf der Plattform X erstellt hatte.
Am Samstag gaben die malaysischen Behörden bekannt, dass sie gegen Grok wegen der Produktion anstößiger und illegaler Inhalte mithilfe von KI ermitteln. Die malaysische Kommunikations- und Multimedia-Kommission (MCMC) bestätigte, Beschwerden erhalten zu haben, wonach Grok manipulierte Bilder von Frauen und Minderjährigen in sexuell expliziter Form generiert habe.
Die Behörde stellte klar, dass die Verbreitung solcher Inhalte in Malaysia eine Straftat darstellt. Laut ihrer Erklärung wird sie auch gegen die Nutzer von X vorgehen, die die Inhalte angefordert oder veröffentlicht haben, und plant, Vertreter von X zur Vernehmung vorzuladen.
Die MCMC erklärte: „Obwohl X derzeit kein lizenzierter Dienstanbieter ist, hat das Unternehmen die Pflicht, die Verbreitung schädlicher Inhalte auf seiner Plattform zu verhindern.“
Indien, Frankreich und die EU drohen mit rechtlichen Schritten wegen der Bilder von Grok
Nur einen Tag zuvor hatte das indische Ministerium für ElektroniktronInformationstechnologie eine formelle Warnung an X ausgesprochen und eine vollständige Überprüfung von Grok sowie dessen Fähigkeit, Nacktheit, sexualisiertes Material oder irgendetwas anderes Rechtswidriges zu erzeugen, gefordert.
Bloomberg behauptet, eine Kopie des Schreibens vom 2. Januar gesehen zu haben, in dem X 72 Stunden Zeit gegeben wurde, einen vollständigen Bericht über die ergriffenen Maßnahmen vorzulegen. In dem Schreiben wurde vor möglichen strafrechtlichen Anklagen und weiteren Strafen gemäß den IT-Gesetzen des Landes gewarnt.
Indiens Minister für Informationstechnologie, Ashwini Vaishnaw, sagte gegenüber CNBC-TV 18: „Der Parlamentsausschuss hat eintronGesetz zur Regulierung sozialer Medien empfohlen. Wir prüfen dies.“
Auch die französische Regierung hielt sich nicht zurück. Beamte erklärten am Freitag, Grok habe ohne Einwilligung der Nutzer „eindeutig illegales“ sexuelles Material auf X generiert. Das Verhalten des Chatbots verstoße wahrscheinlich gegen den Europäischen Gesetzentwurf zu digitalen Diensten (verpflichtettronMaßnahmen gegen illegale Inhalte
Laut Frankreich zeugen die Handlungen von Grok von einem völligen Versagen bei der Durchsetzung der Plattformregeln.
Nach heftiger Kritik wurden einige der Bilder entfernt, doch laut offiziellen Angaben war der Schaden bereits angerichtet. Selbst Groks eigene Richtlinien verbieten Sexualisierung, was den Verstoß noch gravierender macht.
Als Reaktion auf die Kontroverse behauptete Grok in einem Beitrag auf X, man habe „Sicherheitslückendent“ und es würden „dringend Korrekturen vorgenommen“. Das hat die Forderungen der Regierungen nach Rechenschaftspflicht jedoch nicht gebremst.
Musk tobt, nachdem die EU X mit einer Strafe von 120 Millionen Euro belegt hat
Unterdessen verhängte die Europäische Union erst letzten Monat eine Geldstrafe von 120 Millionen Euro (rund 140 Millionen US-Dollar) gegen Elon Musk wegen Verstoßes gegen das Gesetz über digitale Dienste. Die Strafe erfolgte wegen irreführender blauer Haken, intransparenter Werbesysteme und der Verweigerung des Datenzugriffs für Forscher. Trotzdem sorgte Elon Musk auf der Plattform für einen heftigen Aufschrei.
In einer Antwort auf den offiziellen Beitrag der EU schrieb Elon einfach: „Bullshit!“ Am nächsten Tag postete er dann: „Die EU sollte abgeschafft und die Souveränität an die einzelnen Länder zurückgegeben werden, damit die Regierungen ihr Volk besser vertreten können.“
Andrew Puzder, der US-Botschafter bei der EU, stellte sich hinter Elon und sagte: „Die heutige überzogene Geldstrafe von 120 Millionen Euro ist das Ergebnis eines regulatorischen Übergriffs der EU, der auf amerikanische Innovationen abzielt.“
Er fügte hinzu, dass die Regierung vondent Trump Zensur ablehne und gegen ungerechte internationale Regeln kämpfen werde. „Wir erwarten von der EU fairen, offenen und auf Gegenseitigkeit beruhenden Handel – und nichts weniger“, schrieb Puzder.
Mit zunehmender Kritik an Grok wachsen auch die Drohungen mit Regulierungen und Klagen. Doch anstatt die Wogen zu glätten, antworteten Elon Musk und sein Team auf eine E-Mail-Anfrage von Bloomberg lediglich mit zwei Worten: „Die etablierten Medien lügen.“
