Musk’s X könnte in Großbritannien wegen angeblich unangemessener Bilder von Grok verboten werden

Elon Musk sieht sich einem potenziellen Verbot der X-App in Großbritannien gegenüber, nachdem im Darknet angeblich unangemessene Bilder online erschienen sind, die Nutzer als von dem KI-Chatbot Grok generiert bezeichnen. Die britische Internet-Aufsichtsbehörde Ofcom wurde gebeten, alle Optionen zu prüfen, einschließlich Milliardenstrafen oder sogar eines vollständigen Zugriffsverbots auf die X-App. 

Die gemeinnützige Organisation Internet Watch Foundation (IWF) gab bekannt, dass ihre Analysten Bilder junger Mädchen im Alter von 11 bis 13 Jahren entdeckt haben, die angeblich von Grok auf einer Dark-Web-Seite generiert wurden. Laut der Medienaufsichtsbehörde Office of Communications (Ofcom) handelte es sich bei den Bildern um illegales Material zur sexuellen Ausbeutung von Kindern. 

Kier Starmer fordert Ofcom auf, alle Optionen zu prüfen

Der britische Premierminister Kier Starmer hat die Aufsichtsbehörde für das Internet, das Office of Communications (Ofcom), aufgefordert, alle Optionen zu prüfen, während der Fall von Musk untersucht wird, nachdem die App Grok von xAI allegedly strafbare Darstellungen junger Frauen und Kinder erzeugt haben soll. Berichten zufolge ermöglicht das britische Online-Safety-Gesetz dem Land, X-Apps mit Milliardenbeträgen zu bestrafen oder den Zugang zu X in Großbritannien sogar vollständig zu blockieren. 

Die X-App hat weltweit über 650 Millionen Nutzer, davon mindestens 20 Millionen aus dem Vereinigten Königreich. Premierminister Starmer warnte im Greatest Hits Radio, dass X sich zusammenreißen und die Inhalte entfernen müsse; er fügte hinzu, dass Maßnahmen gegen Musks App ergriffen werden, da sie einfach nicht tolerierbar sei. Er sprach dies nach mehreren Bildern aus, auf denen Frauen und Kinder entblößt zu sehen waren, während andere in Bikinis erschienen, und die angeblich von der Grok KI-Chatbot generiert wurden. 

„X muss das unter Kontrolle bringen, und Ofcom unterstützt uns voll und ganz bei entsprechenden Maßnahmen. Das ist falsch. Es ist rechtswidrig. Wir werden das nicht dulden. Ich habe angeordnet, dass alle Optionen geprüft werden.“

– Kier Starmer, britischer Premierminister 

Bisher wird erwartet, dass der Regulierer vor einer möglichen Sperrung den ordnungsgemäßen Rechtsweg einhält, einschließlich Ermittlungen und vorläufiger Entscheidungen. Falls X Ofcoms Bedenken nicht ausräumt, könnte der Regulierer versuchen, den Zugriff auf die Plattform im Vereinigten Königreich zu blockieren. Ofcom hatte die Social-Media-Plattform bereits diese Woche kontaktiert und darauf hingewiesen, dass eine Untersuchung der Bilder eingeleitet werden könnte. 

Musk ist der Ansicht, dass die Absicht des OSA in der Unterdrückung der Menschen liegt

Musk hatte zuvor kritisiert Großbritanniens Online-Safety-Gesetz (OSA), das angeblich darauf abzielt, die Bevölkerung zu unterdrücken. Laut Musk birgt das britische OSA durch seine Maßnahmen zum Schutz von Kindern vor schädlichen Inhalten die Gefahr, die Meinungsfreiheit einzuschränken. Musk wies darauf hin, dass die ‚lobenswerten' Absichten des Gesetzes eine aggressive Umsetzung durch Ofcom beinhalten.

Alexander Ngaire, Leiter der Hotline bei der Wohltätigkeitsorganisation Internet Watch Foundation, sagte BBC, dass Tools wie Grok das Risiko bergen, sexualisierte KI-Bilder für Kinder in den Mainstream-Medien zu verbreiten. Sie klassifizierte das Material als Kategorie C nach britischem Recht, die niedrigste Kategorie für strafrechtliche Zwecke. Sie fügte hinzu, dass der Nutzer, der die Bilder hochgeladen hatte, ein anderes KI-Tool als Grok verwendet habe, um ein Bild der Kategorie A zu erstellen, das als schwerwiegendstes kriminelles Material gilt.  

Laut Ngaire ist die IWF besorgt über die Leichtigkeit und Geschwindigkeit, mit der fotorealistisches material zur sexuellen Ausbeutung von Kindern (CSAM) generiert werden kann. Die Stiftung zielt darauf ab, solches Material aus dem Internet zu entfernen, indem sie eine Hotline betreibt, über die verdächtiges CSAM gemeldet wird, und deren Analysten dessen Rechtmäßigkeit und Schweregrad bewerten. Die Analysten der IWF stellten fest, dass das Material nur auf der Dark Web und nicht auf der X-Plattform gefunden wurde. 

Laut X werden gegen illegale Inhalte auf der Plattform, einschließlich CSAM, Maßnahmen ergriffen: Sie werden entfernt und die betroffenen Konten dauerhaft gesperrt. Zudem arbeitet das Unternehmen gegebenenfalls mit lokalen Behörden und Strafverfolgungsbehörden zusammen. Die Social-Media-Plattform warnt davor, dass jeder, der Grok auffordert, illegale Inhalte zu erstellen, dieselben Konsequenzen erfahren wird wie jemand, der solche Inhalte hochgeladen hat.