Spanien startet rechtliche Schritte gegen X, Meta und TikTok wegen Risiken des KI-Missbrauchs
- Spanien hat Staatsanwälte aufgefordert, X, Meta und TikTok wegen angeblich KI-generierter Inhalte zur sexuellen Ausbeutung von Kindern zu untersuchen.
- Ministerpräsident Pedro Sánchez hat Artikel 8 angewendet, um eine formelle rechtliche Untersuchung auszulösen.
- Dieser Schritt erfolgt im Kontext weiterer europäischer Maßnahmen, darunter eine EU-Strafe in Höhe von 120 Millionen Euro gegen X sowie neue Ermittlungen in Frankreich, Großbritannien und Irland.
Spanien hat rechtliche Schritte gegen X, Meta und TikTok eingeleitet, weil behauptet wird, dass deren KI-Modelle bei der Erstellung und Verbreitung von kinderpornografischem Material geholfen haben.
Der spanische Premierminister Pedro Sánchez sagte am Dienstag, die Regierung werde Artikel 8 des Organischen Gesetzes der Staatsanwaltschaft anrufen. Er schrieb:
„Heute wird der Ministerrat Artikel 8 des Organischen Gesetzes der Staatsanwaltschaft anrufen, um zu verlangen, dass die Straftaten untersucht werden, die X, Meta und TikTok möglicherweise durch die Erstellung und Verbreitung von Kinderpornografie mittels ihrer KI begehen.“
Pedor fügte hinzu: „Diese Plattformen greifen die psychische Gesundheit, die Würde und die Rechte unserer Söhne und Töchter an. Der Staat kann dies nicht zulassen. Die Straflosigkeit der Giganten muss enden.“
Zwei Wochen vor diesem Rechtsantrag hatte Pedro neue Pläne zur Bekämpfung von Online-Missbrauch in Spanien vorgestellt und versprochen, den Zugang zu sozialen Medien für alle unter 16 Jahren zu blockieren.
Im November, Pedro sagte, das Parlament in Spanien würde Meta wegen möglicher Datenschutzverletzungen untersuchen, die Facebook- und Instagram-Nutzer betreffen.
Daten der britischen Internet Watch Foundation zeigen, wie schnell das Problem wächst. Im letzten Jahr markierte sie 3.440 KI-generierte Videos von sexuellem Missbrauch von Kindern. Im Jahr davor meldete sie nur 13.
Europa verschärft weiterhin die Durchsetzung gegen große Tech-Unternehmen
Die Aktion aus Spanien trägt zu den steigenden Spannungen zwischen europäischen Regierungen und großen amerikanischen Tech-Unternehmen bei. Diese Unternehmen haben Unterstützung von der Verwaltung von Donald Trump, dem 47. Präsidenten der Vereinigten Staaten, der 2024 gewählt wurde und 2026 im Amt ist.
Europäische Führer argumentieren, dass Plattformen die Nutzer schützen müssen. US-Politiker und Tech-Executives argumentieren, dass strenge Regulierung die Redefreiheit einschränken könnte. Die Uneinigkeit spielt sich nun vor Gerichten und Aufsichtsbehörden ab.
Im Dezember verhängte die Europäische Union gegen X eine Geldstrafe von 120 Millionen Euro, etwa 140 Millionen US-Dollar, gemäß dem Digital Services Act. Es war die erste Strafe, die unter diesem Gesetz verhängt wurde. In diesem Monat durchsuchten französische Polizisten die lokalen Büros von X im Rahmen einer Cyberkriminalitätsuntersuchung zur Verbreitung von Kinderpornografie und Holocaust-Leugnung auf der Plattform.
Die irische Datenschutzkommission ist ebenfalls eingeschritten. Die Aufsichtsbehörde, die die Datenschutz-Grundverordnung der Europäischen Union durchsetzt, sagte am späten Montag, sie habe eine formelle Untersuchung zur Erstellung und Veröffentlichung dessen eröffnet, was sie als „potenziell schädliche“ sexualisierte Bilder, die von Grok erstellt wurden, bezeichnete.
Die Sorge besteht darin, dass diese Bilder die Verarbeitung personenbezogener Daten von Nutzern in der EU beinhaltet haben könnten.
Grok ist direkt in den Social-Media-Feed von X integriert. Es wurde von Elons KI-Unternehmen xAI entwickelt, das X letztes Jahr kaufte. Anfang diesen Monats fusionierte xAI mit Musks Raketenunternehmen SpaceX. Die Transaktion schuf eine kombinierte Gruppe, die 1,5 Billionen US-Dollar wert ist.
Die irische Untersuchung ist die neueste Maßnahme, die von Aufsichtsbehörden weltweit gegen X ergriffen wurde. Anfang Januar wurden Tausende sexualisierter Deepfake-Bilder von Frauen mit Grok generiert. Die Bilder verbreiteten sich schnell online. Die Gegenreaktion war sofort. Nutzer, Online-Sicherheits-Experten und Politiker reagierten stark.
Graham Doyle, der stellvertretende Kommissar der irischen Aufsichtsbehörde, sagte, die Agentur habe bereits Kontakt mit X aufgenommen, nachdem die Medienberichte vor Wochen erschienen waren. Er sagte, diese Berichte beschwerten sich, dass Nutzer den @Grok-Account auf X auffordern könnten, sexualisierte Bilder von realen Personen, einschließlich Kindern, zu generieren.
Die klügsten Krypto-Köpfe lesen bereits unseren Newsletter. Lust dabei? Mach mit.
Jai Hamid
Jai Hamid berichtet seit sechs Jahren über Kryptowährungen, Aktienmärkte, Technologie, die globale Wirtschaft und geopolitische Ereignisse, die die Märkte beeinflussen. Sie hat für auf Blockchain spezialisierte Publikationen wie AMB Crypto, Coin Edition und CryptoTale Marktanalysen, Berichte über große Unternehmen, Regulierung und makroökonomische Trends verfasst. Sie hat die London School of Journalism besucht und dreimal Krypto-Marktanalysen in einem der führenden Fernsehsender Afrikas vorgestellt.
