Die irische Datenschutzkommission war überrascht über die Verwendung von Nutzerdaten durch X für das KI-Training

X, ehemals Twitter, wird derzeit von der zuständigen europäischen Aufsichtsbehörde wegen des mutmaßlichen Missbrauchs von Nutzerinhalten zum Trainieren des KI-Chatbots Grok untersucht. Die irische Datenschutzkommission (DPC) zeigte sich überrascht über das Vorgehen von X, das offenbar ohne Benachrichtigung oder Rücksprache mit den Nutzern erfolgte. 

X Premium-Nutzer können aktuell Grok nutzen, einen neuen und verbesserten Chatbot, der die Suche mithilfe eines komplexen Sprachmodells optimiert. Ursprünglich basierte Grok auf offenen Daten, mittlerweile hat X den Funktionsumfang aber auch auf nutzergenerierte Inhalte ausgeweitet. 

Nutzer diskutieren Bedenken hinsichtlich des Datenschutzes und Opt-out-Optionen

X hat das neue System standardmäßig aktiviert, Benutzer können es jedoch in den Web-App-Einstellungen deaktivieren. Ist es aktiviert, ermöglicht diese Einstellung die Nutzung von Benutzerbeiträgen und Interaktionen mit Grok für Trainingszwecke. Die gesammelten Informationen können auch an das Partnerunternehmen von X, xAI, weitergeleitet werden. 

Die Europazentrale von X in Dublin positioniert die irische Datenschutzkommission (DPC) als wichtige Regulierungsbehörde. Laut Financial Times stand die DPC in dieser Angelegenheit bereits seit mehreren Monaten mit X in Kontakt; der letzte Austausch fand einen Tag vor der Pressemitteilung von X statt. Die DPC zeigte sich überrascht vom Zeitpunkt der Entscheidung von X und verwies auf die Problematik der Kontrolle von Nutzerdaten. 

„Wir stehen schon seit geraumer Zeit mit X in Dialog zu diesem Thema. Die jüngsten Entwicklungen warenangesichts unserer letzten Gespräche unerwartet.“

DPC-Sprecher

Die Art und Weise, wie X Nutzerdaten für Grok gesammelt hat, gibt Anlass zur Sorge. Kevin Schawinski, CEO eines Schweizer KI-Unternehmens, kritisierte das Vorgehen und bezeichnete es als „SCHLECHT“, da X nicht transparent darlegt, wie die Nutzerdaten verwendet werden. 

Die Sammlung von KI-Trainingsdaten stellt soziale Medien vor Herausforderungen

Auch der genaue Zeitpunkt, an dem X mit der Datenerfassung begann, ist unbekannt. Das Unternehmen veröffentlichte Grok im November 2023 und behauptete damals, der Chatbot sei nicht mit X-Daten trainiert worden. Die Veröffentlichung einer neuen Version im März 2024 lenkte jedoch die Aufmerksamkeit auf die Trainingsdaten.

X ist jedoch nicht die einzige Social-Media-Plattform, die sich mit dem Problem des Datenschutzes auseinandersetzen muss. Auch die Praktiken von Meta, TikTok und Reddit stehen in Europa aufgrund der strengen Durchsetzung der Datenschutz-Grundverordnung (DSGVO) unter Beobachtung. 

Metas Plan, Beiträge und Bilder europäischer Nutzer für das KI-Training zu sammeln, stieß auf heftige Kritik und führte aufgrund von Bedenken hinsichtlich der DSGVO zu einer vorläufigen Einstellung des Projekts. Auch Google hatte ähnliche Probleme bei der Veröffentlichung seiner generativen KI, deren Nutzung von der irischen Datenschutzbehörde genehmigt werden musste. Derzeit ist X mit mehreren Verfahren vor der irischen Datenschutzkommission befasst.