Musks X könnte in Großbritannien wegen angeblich unangebrachter Bilder von Grok verboten werden

Elon Musk erwägt ein mögliches Verbot der X-App in Großbritannien aufgrund angeblich unangemessener Bilder, die im Darknet aufgetaucht sind. Nutzer behaupten, diese Bilder seien vom KI-Chatbot Grok generiert worden. Die britische Internetaufsichtsbehörde Ofcom wurde aufgefordert, alle Optionen zu prüfen, darunter Milliardenstrafen oder sogar eine vollständige Sperrung der X-App. 

Die gemeinnützige Organisation Internet Watch Foundation (IWF) gab bekannt, dass ihre Analysten Bilder von jungen Mädchen im Alter von 11 bis 13 Jahren entdeckt haben, die offenbar von Grok auf einer Darknet-Website erstellt wurden. Laut der Medienaufsichtsbehörde Ofcom handelt es sich bei den Bildern um illegales Material mit sexuellem Kindesmissbrauch. 

Kier Starmer fordert Ofcom auf, alle Optionen zu prüfen

Der britische Premierminister Keir Starmer beauftragte die britische Internetaufsichtsbehörde Ofcom, alle Optionen im Fall Musk zu prüfen, nachdem dessen App Grok angeblich kinderpornografisches Material von jungen Frauen und Kindern generiert hatte. Laut einem Bericht des Telegraph erlaubt das britische Online-Sicherheitsgesetz dem Land, Apps mit Milliardenstrafen zu belegen oder den Zugang zu ihnen in Großbritannien sogar zu sperren. 

Die X-App hat weltweit über 650 Millionen Nutzer, davon mindestens 20 Millionen in Großbritannien. Premierminister Starmer forderte X in der Radiosendung „Greatest Hits“ auf, endlich die unzulässigen Inhalte zu entfernen. Er fügte hinzu, dass gegen Musks App vorgegangen werde, da dies schlichtweg nicht tolerierbar sei. Seine Warnung erfolgte, nachdem mehrere Bilder von Frauen und Kindern in knapper Bekleidung sowie von Frauen in Bikinis aufgetaucht waren, die angeblich vom Grok . 

„X muss endlich die Sache in den Griff bekommen, und Ofcom hat unsere volle Unterstützung, um in dieser Angelegenheit Maßnahmen zu ergreifen. Das ist falsch. Das ist rechtswidrig. Wir werden das nicht tolerieren. Ich habe darum gebeten, alle Optionen zu prüfen.“

-Kier Starmer, britischer Premierminister 

Bislang geht man davon aus, dass die Regulierungsbehörde vor der Verhängung des Verbots die üblichen rechtlichen Verfahren einhalten wird, einschließlich Untersuchungen und vorläufiger Entscheidungen. Sollte X die Bedenken von Ofcom nicht ausräumen, könnte die Behörde versuchen, die Website in Großbritannien zu sperren. Ofcom hat die Social-Media-Plattform bereits diese Woche kontaktiert und darauf hingewiesen, dass sie möglicherweise Ermittlungen zu den Bildern einleiten wird. 

Musk glaubt, dass die OSA die Unterdrückung des Volkes zum Ziel hat

Musk hat bereits zuvor kritisiert und behauptet, dieser diene der Unterdrückung der Meinungsfreiheit. Laut Musk birgt der OSA die Gefahr, die Meinungsfreiheit durch seine Maßnahmen zum Schutz von Kindern vor schädlichen Inhalten einzuschränken. Musk merkte an, dass die „lobenswerten“ Absichten des Gesetzes unter anderem eine aggressive Umsetzung durch Ofcom umfassten.

Alexander Ngaire, Leiterin der Hotline der gemeinnützigen Organisation Internet Watch Foundation, erklärte gegenüber der BBC, dass Tools wie Grok die Gefahr bergen, dass KI-generierte sexuelle Darstellungen von Kindern in den Mainstream-Medien landen. Sie stufte das Material gemäß britischem Recht als Kategorie C ein, der niedrigsten Kategorie für strafrechtliche Zwecke. Sie fügte hinzu, dass der Nutzer, der die Bilder hochgeladen hatte, ein anderes KI-Tool als Grok verwendet hatte, um ein Bild der Kategorie A zu erstellen, das als schwerstes strafbares Material gilt.  

Laut Ngaire ist die IWF besorgt über die Leichtigkeit und Geschwindigkeit, mit der fotorealistisches Material mit Darstellungen sexuellen Kindesmissbrauchs (CSAM) erstellt werden kann. Die Stiftung hat sich zum Ziel gesetzt, solches Material aus dem Internet zu entfernen. Dazu betreibt sie eine Hotline, über die mutmaßliche CSAM-Fälle gemeldet werden können. Ihre Analysten prüfen anschließend die Rechtmäßigkeit und Schwere des Materials. Die IWF-Analysten stellten fest, dass das Material ausschließlich im Darknet und nicht auf der X-Plattform zu finden war. 

Laut X wird gegen illegale Inhalte auf seiner Plattform, einschließlich CSAM, vorgegangen, indem diese entfernt und Konten dauerhaft gesperrt werden. Bei Bedarf arbeitet X zudem mit lokalen Behörden und Strafverfolgungsbehörden zusammen. Die Plattform warnt, dass jeder, der Grok zur Erstellung illegaler Inhalte anstiftet, mit denselben Konsequenzen rechnen muss, als hätte er diese selbst hochgeladen.