Die koreanische Regierung wird Grok wegen Deepfake-Bildern untersuchen

Die koreanische Regierung prüft regulatorische Maßnahmen gegen den KI-Chatbot Grok des von Elon Musk betriebenen Unternehmens xAI. Hintergrund sind zahlreiche Kritikpunkte am Chatbot und seiner Beteiligung an der Erstellung und Verbreitung von Deepfake-Bildern mit sexuellem Missbrauch.

Die Information stammt von einem lokalen Nachrichtenportal, der Electronictron, die berichtete, dass die Kommission zum Schutz personenbezogener Daten (PIPC) eine vorläufige Sachverhaltsermittlung gegen Grok eingeleitet hat, nachdem mehrere Personen in dem Bezirk entsprechende Anschuldigungen erhoben hatten

Im Vorverfahren wird geprüft, ob der Verstoß tatsächlich stattgefunden hat und ob die Angelegenheit in die Zuständigkeit der Behörde fällt, bevor eine formelle Untersuchung eingeleitet werden kann.

Die koreanische Regierung wird eine Überprüfung von Grok durchführen

Laut Berichtenfolgt die Überprüfung auf mehrere Meldungen, die im In- und Ausland aufgetaucht sind und Grok vorwerfen , zur Erstellung expliziter und nicht einvernehmlicher Deepfake-Bilder benutzt worden zu sein, wobei es sich in den meisten Fällen um reale Personen und Minderjährige handelte.

Daraufhin wird die PICP nach Prüfung der von Grok vorgelegten Erklärung und weiterer Unterlagen ihr weiteres Vorgehen festlegen. Die Behörde wird voraussichtlich auch globale regulatorische Trends berücksichtigen, die ihre Entscheidungsfindung beeinflussen werden.

Gemäß dem Gesetz zum Schutz personenbezogener Daten kann das Verändern oder Erstellen von sexuellen BilderndentPersonen ohne deren Einwilligung eine unrechtmäßige Verarbeitung personenbezogener Daten darstellen.

Die in die soziale Plattform X integrierten KI-Chatbots, die sowohl Text- als auch Bildgenerierung ermöglichen, stehen seit dem letzten Jahr wegen der Erstellung gefälschter Bilder realer Personen in der Kritik. Der Chatbot wurde zur Erstellung kompromittierender Bilder aller Art missbraucht, was in der Öffentlichkeit auf Ablehnung stößt.

Nach Angaben der globalen Nichtregierungsorganisation Center for Countering Digital Hate wird geschätzt, dass Grok zwischen dem 29. Dezember 2025 und dem 8. Januar 2026 zur Erstellung von mehr als drei Millionen sexuell expliziten Bildern genutzt wurde.

Die Organisation behauptet, dass sich unter diesen Bildern mehr als 23.000 befanden, die mithilfe des Chatbots erstellt wurden und Minderjährige zeigten. Das Zentrum warnte davor, dass die rasante Verbreitung der KI-generierten Bilder von Grok zu einer großflächigen Verbreitung expliziter Inhalte im Internet geführt habe.

Die Aufsichtsbehörde fordert einen Bericht über die zur Eindämmung dieser Bedrohung ergriffenen Maßnahmen

Das Zentrum warnte zudem vor den gravierenden Sicherheitsrisiken, die das Bauprojekt für Kinder birgt. Aufgrund dieser Bedrohung haben Länder wie die USA, Großbritannien, Frankreich, Kanada und einige andere Untersuchungen eingeleitet, während Länder wie Indonesien, die Philippinen und Malaysia den Zugang zu Grok gesperrt haben.

Als Reaktion auf die Kontroverse gab xAI Anfang dieses Jahres bekannt, dass es bestimmte technische Maßnahmen ergriffen habe, um dies zu verhindern.

Die Plattform gab an, sowohl kostenlose als auch zahlende Nutzer daran gehindert zu haben, Bilder von realen Personen zu bearbeiten oder zu erstellen, und fügte hinzu, dass sie sehr bald weitere Sicherheitsvorkehrungen bekannt geben werde.

In Korea forderte die Medien- und Kommunikationskommission (KMCC) am 14. Januar von XtronJugendschutzmaßnahmen. Die koreanische Regulierungsbehörde teilte der Social-Media-Plattform mit, dass deren KI-Firma einen Plan zur Verhinderung der Erstellung illegaler oder schädlicher Inhalte vorlegen müsse.

Darüber hinaus fügte die Aufsichtsbehörde hinzu, dass das Unternehmen den Zugang von Minderjährigen zu solchen Inhalten einschränken müsse.

X hat derzeit gemäß den gesetzlichen Bestimmungen einen Jugendschutzbeauftragten in Korea benannt und reicht jährlich Berichte über die Einhaltung der Vorschriften ein. Die KMCC hat die Plattform dringend aufgefordert, zusätzliche Dokumente zum Sicherheitsprotokoll von Grok vorzulegen und darauf hingewiesen, dass die Erstellung und Verbreitung nicht einvernehmlicher sexueller Bilder auf der Plattform, insbesondere solcher mit Minderjährigen, in Korea eine Straftat darstellt.

Die Kommission hat eine Frist von zwei Wochen gesetzt. Sollte X nicht reagieren oder die Aufforderung ignorieren, kann eine Verwaltungsstrafe von bis zu 10 Millionen Won (ca. 6.870 US-Dollar) verhängt werden. Ein ähnliches Vorgehen wurde bereits in anderen Ländern beobachtet, wo xAI mit der Entwicklung von Maßnahmen zur Eindämmung dieser Bedrohung beauftragt wurde.

Ähnlich wie Korea haben auch diese Länder erhebliche Geldstrafen angekündigt, falls das Unternehmen keinen Bericht vorlegt, aus dem hervorgeht, welche Maßnahmen es ergriffen hat, um den Anstieg der Bedrohung einzudämmen.