- Die südkoreanische Regierung plant regulatorische Maßnahmen gegen den xAI-Chatbot Grok.
- Die PIPC hat auf Grundlage lokaler und internationaler Berichte eine vorläufige Prüfung des Chatbots durchgeführt.
- Der Regulierer verlangt von xAI die Vorlage eines Berichts, in dem dargelegt wird, wie die Bedrohung oder das Risiko eingedämmt werden soll, andernfalls droht eine Geldstrafe.
Die südkoreanische Regierung plant regulatorische Maßnahmen gegen den von Elon Musks xAI betriebenen generativen KI-Chatbot Grok. Dies folgt auf mehrere Kritikpunkte an dem Chatbot und seiner Beteiligung an der Erstellung und Verbreitung sexuell ausbeuterischer Deepfake-Bilder.
Die Informationen wurden von einem lokalen Nachrichtenportal, der Electronic Times, gemeldet, die erwähnte, dass die Kommission für den Schutz personenbezogener Daten (PIPC) eine vorläufige Ermittlung zu Grok eingeleitet hat, nachdem die Vorwürfe in dem Land von mehreren Personen gemeldet wurden.
Das vorläufige Verfahren besteht darin, zu bestätigen, ob ein Verstoß tatsächlich vorliegt und ob die Angelegenheit in ihre Zuständigkeit fällt, bevor eine formelle Untersuchung eingeleitet werden kann.
Die südkoreanische Regierung wird eine Überprüfung von Grok durchführen
Laut Berichten folgt die Prüfung mehreren Berichten, die lokal und international aufgetaucht sind, in denen Grok beschuldigt wird, zur Erstellung expliziter und nicht einvernehmlicher Deepfake-Bilder verwendet worden zu sein, wobei die meisten davon echte Personen und Minderjährige betreffen.
In diesem Zusammenhang soll das PICP nach Prüfung der von Grok vorgelegten Erläuterungen und anderer unterstützender Dokumente seine weiteren Schritte festlegen. Die Behörde erwartet zudem eine Analyse globaler regulatorischer Trends, die ihre Entscheidungsfindung prägen werden.
Gemäß dem Gesetz zum Schutz personenbezogener Daten kann die Veränderung oder Erzeugung sexueller Abbildungen identifizierbarer Personen ohne Einwilligung eine unrechtmäßige Verarbeitung personenbezogener Daten darstellen.
Die KI-Chatbots, die in die Social-Media-Plattform X integriert sind und sowohl Text- als auch Bildgenerierung auf der Plattform anbieten, stehen seit letztem Jahr unter Kritik wegen der Erstellung gefälschter Bilder realer Personen. Der Chatbot wurde genutzt, um allerlei kompromittierende Bilder zu erzeugen, was von der breiten Öffentlichkeit missbilligt wurde.
Laut der globalen nichtstaatlichen Organisation Center for Countering Digital Hate wird geschätzt, dass Grok zwischen dem 29. Dezember 2025 und dem 8. Januar 2026 für die Erstellung von mehr als drei Millionen sexuell expliziten Bildern genutzt wurde.
Die Organisation behauptet, dass sich unter dieser Zahl mehr als 23.000 Bilder von Minderjährigen befanden, die mit dem Chatbot erstellt wurden. Das Zentrum warnte davor, dass die rasante Verbreitung von Groks KI-generierten Bildern zu einer großflächigen Zirkulation expliziter Inhalte im Internet geführt hat.
Die Aufsichtsbehörde verlangt einen Bericht über die ergriffenen Maßnahmen zur Bekämpfung dieses Problems.
Das Zentrum hat zudem vor den schwerwiegenden Sicherheitsrisiken gewarnt, die die Entwicklung für Kinder birgt. Als Folge dieser Bedrohung haben Länder wie die Vereinigten Staaten, das Vereinigte Königreich, Frankreich, Kanada und einige andere Untersuchungen eingeleitet, während Länder wie Indonesien, die Philippinen und Malaysia den Zugang zu Grok blockiert haben.
Als Reaktion auf die Kontroverse kündigte xAI Anfang dieses Jahres an, bestimmte technische Maßnahmen eingeführt zu haben, um dies zu verhindern.
Die Plattform gab an, sowohl kostenlosen als auch zahlenden Nutzern das Bearbeiten oder Erstellen von Bildern realer Personen untersagt zu haben, und fügte hinzu, dass weitere Schutzmaßnahmen sehr bald angekündigt werden würden.
In Korea forderte die Medien- und Kommunikationskommission (KMCC) X am 14. Januar zu stärkeren Jugendschutzmaßnahmen auf. Die koreanische Aufsichtsbehörde teilte der Social-Media-Plattform mit, dass ihr KI-Unternehmen einen Plan entwickeln muss, um die Erstellung illegaler oder schädlicher Inhalte zu verhindern.
Darüber hinaus fügte die Behörde hinzu, dass das Unternehmen den Zugang von Minderjährigen zu solchen Inhalten einschränken muss.
Derzeit verfügt X gemäß dem koreanischen Gesetz über einen benannten Jugendbeauftragten in Korea und legt jährliche Berichte zur Einhaltung der Vorschriften vor. Die KMCC hat die Plattform aufgefordert, zusätzliche Unterlagen zu den Sicherheitsprotokollen von Grok einzureichen, wobei darauf hingewiesen wurde, dass nicht einvernehmlich erstellte und verbreitete sexuelle Bilder auf ihrer Plattform, insbesondere wenn Minderjährige betroffen sind, in Korea eine Straftat darstellen.
Die Kommission hat eine Frist von zwei Wochen gesetzt. Falls X nicht antwortet oder die Anfrage ignoriert, kann sie eine Verwaltungsstrafe von bis zu 10 Millionen Won (6.870 US-Dollar) verhängen. Ähnliche Maßnahmen wurden bereits in anderen Ländern ergriffen, wo xxAI aufgefordert wurde, Maßnahmen zur Eindämmung dieser Bedrohung zu entwickeln.
Wie in Korea haben auch andere Länder erhebliche Geldstrafen angekündigt, falls das Unternehmen keine Schritte entwickelt und einen Bericht darüber vorlegt, wie es unternommen hat, um den Anstieg dieser Bedrohung einzudämmen.
Wenn Sie dies lesen, sind Sie bereits einen Schritt voraus. Bleiben Sie mit unserem Newsletter auf dem Laufenden.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com Wir übernehmen keine Haftung für Investitionen, die auf den auf dieser Seite bereitgestellten Informationen basieren. Wir empfehlen dringend, vor jeglichen Anlageentscheidungen eine unabhängige Recherche durchzuführen und/oder einen qualifizierten Fachmann zu konsultieren.
Owotunse Adebayo
Adebayo ist ein Autor mit vier Jahren Erfahrung im Krypto-Bereich. Er absolvierte das Studium der Stadt- und Regionalplanung an der Universität von Lagos. Adebayo arbeitete bei Tokenhell und CryptoTicker, wo er Nachrichten zu Kryptowährungen und Fintech verfasste. Derzeit ist er als News-Beitragender für Cryptopolitan tätig.
