EU eröffnet Untersuchung gegen Musks Grok nach 3 Millionen Deepfake-Bildern in wenigen Tagen

Die Europäische Kommission hat ein formelles Verfahren gegen die Social-Media-Plattform X von Elon Musk eingeleitet, nachdem bekannt wurde, dass deren KI-Chatbot Grok sexuelle Bilder von realen Personen ohne deren Einwilligung erstellte, einschließlich Bildern von Kindern.

Nutzer von X erstellen mit Hilfe von KI manipulierte Versionen echter Fotos, indem sie Grok bitten, diese zu generieren. Eine Studie, die letzte Woche vom Centre for Countering Digital Hate veröffentlicht wurde, ergab, dass Grok in nur wenigen Tagen etwa drei Millionen Deepfake-Bilder von Frauen und Kindern erstellte.

Die Kontroverse hat in mehreren Ländern zu Forderungen nach Untersuchungen geführt. In Irland haben mehrere Regierungsminister ihre X-Konten als Reaktion darauf geschlossen.

Regina Doherty, Mitglied des Europäischen Parlaments für Fine Gael, bestätigte die Maßnahme der Kommission gegen das Unternehmen in einer heute Morgen veröffentlichten Erklärung. Sie erklärte ihre Unterstützung für die Entscheidung, eine formelle Untersuchung einzuleiten.

„Wenn glaubwürdige Berichte darüber vorliegen, dass KI-Systeme auf Weise eingesetzt werden, die Frauen und Kindern schaden, ist es unerlässlich, dass das EU-Recht unverzüglich geprüft und durchgesetzt wird“, sagte Doherty.

Sie fügte hinzu, dass der Fall schwerwiegende Bedenken hinsichtlich der Frage aufwirft, ob Plattformen ihren gesetzlichen Pflichten zur Risikoprüfung nachkommen und die Verbreitung illegaler und schädlicher Inhalte stoppen.

Doherty betonte, dass die Untersuchung zu tatsächlichen Konsequenzen führen muss.

„Kein Unternehmen, das in der EU tätig ist, steht über dem Gesetz“, erklärte sie.

Sie wies zudem darauf hin, dass die Situation größere Probleme bei der Regulierung und Überwachung neuer KI-Technologien aufzeigt, und forderte weitere Schritte auf EU-Ebene.

„Dieser Fall unterstreicht, warum der AI Act ein lebendiges Gesetzgebungsakt bleiben muss. Wenn sich Lücken bei der Durchsetzung oder Aufsicht abzeichnen, liegt es in unserer Verantwortung, diese zu schließen. EU-Gesetze müssen in Echtzeit durchsetzbar sein, wenn schwere Schäden auftreten“, sagte Doherty.

Untersuchung verzögert aufgrund der Grönland-Krise

According to German news source Handelsblatt, the Commission had planned to start the proceedings under the EU’s Digital Services Act last Monday, but the decision was pushed back as the bloc dealt with US President Donald Trump’s threats to take over Greenland.

Dies ist nicht das erste Mal, dass X mit den EU-Aufsichtsbehörden in Konflikt gerät. Im Dezember 2025 verhängte die EU eine Geldstrafe in Höhe von 120 Millionen Euro gegen die Plattform wegen Verstößen gegen das Gesetz für digitale Dienste. Zu den Verstößen gehörten irreführende blaue Haken, mangelnde Transparenz bei Werbung und die Verhinderung des Zugriffs von Forschern auf die Plattform.

Beamte der Trump-Administration äußerten sich scharf zu dieser Strafe. Außenminister Marco Rubio und Vizepräsident JD Vance kritisierten sie stark und bezeichneten sie als Angriff auf amerikanische Technologieplattformen.

Fokus auf Risikobewertung und Inhaltsmoderation

Die aktuelle Untersuchung konzentriert sich speziell darauf, ob X die Risiken seines KI-Chatbots angemessen bewertet und ausreichende Schritte unternommen hat, um die Erstellung und Verbreitung schädlicher Inhalte zu verhindern. Das Gesetz für digitale Dienste verlangt von großen Online-Plattformen, Risiken im Zusammenhang mit illegalen Inhalten und Schäden für Nutzer zu identifizieren und zu adressieren.

Die rasche Erstellung einer derart großen Anzahl unangemessener Bilder in so kurzer Zeit hat bei Befürwortern der digitalen Sicherheit und Gesetzgebern Alarm ausgelöst.

Die Situation hat sich zu einem Testfall dafür entwickelt, wie EU-Regulierungen mit aufkommenden KI-Technologien umgehen werden. Während der AI Act zur Regulierung von KI-Systemen verabschiedet wurde, wird dieser Fall nach dem Gesetz für digitale Dienste verfolgt, das die Verantwortlichkeiten von Online-Plattformen abdeckt.

Die Untersuchung könnte zu zusätzlichen Geldstrafen oder Auflagen für X führen, die Betriebsweise von Grok zu ändern. Die Kommission hat die Befugnis, bei schwerwiegenden Verstößen gegen das Gesetz für digitale Dienste Strafen in Höhe von bis zu sechs Prozent des weltweiten Jahresumsatzes eines Unternehmens zu verhängen.

X hat die neue Untersuchung noch nicht öffentlich kommentiert. Der Umgang des Unternehmens mit der Situation wird genau beobachtet, während andere Länder ihre eigenen regulatorischen Maßnahmen prüfen. Mehrere Nationen haben bereits dringende Maßnahmen gefordert, um die Fähigkeit des Chatbots zur Erstellung unangemessener Bilder einzudämmen.