Britische Aufsichtsbehörde untersucht Snapchats KI-Chatbot wegen Bedenken hinsichtlich des Datenschutzes von Kindern

Das britische Information Commissioner's Office (ICO) hat Bedenken hinsichtlich Snapchats KI-Chatbot „My AI“ und dessen potenziellen Auswirkungen auf die Privatsphäre von Kindern und anderen Nutzern geäußert. Die am Freitag veröffentlichten vorläufigen Ergebnisse des ICO deuten darauf hin, dass Snap, das US-amerikanische Unternehmen hinter Snapchat, die mit „My AI“ verbundenen Datenschutzrisiken vor dem Start im April möglicherweise nicht ausreichend geprüft hat.

Die britische Datenschutzbehörde ICO untersucht derzeit, wie „My AI“ die personenbezogenen Daten der rund 21 Millionen Snapchat-Nutzer in Großbritannien verarbeitet, darunter auch Kinder und Jugendliche im Alter von 13 bis 17 Jahren. Obwohl diese Erkenntnisse nicht unmittelbar auf einen Verstoß gegen britische Datenschutzgesetze hindeuten, geben sie Anlass zu ernsthaften Bedenken hinsichtlich Snaps Umgang mit Datenschutzmaßnahmen.

Snapchats KI steht wegen Datenschutzrisiken für Kinder in der Kritik

Informationsbeauftragter John Edwards äußerte seine Besorgnis und erklärte: „Die vorläufigen Ergebnisse unserer Untersuchung lassen auf ein besorgniserregendes Versäumnis von Snap schließen, die Datenschutzrisiken für Kinder und andere Nutzer vor der Einführung von ‚My AI‘ angemessen zudentund zu bewerten.“

Sollte Snap die Bedenken des ICO nicht zufriedenstellend ausräumen, kann die Aufsichtsbehörde Maßnahmen gegen das Unternehmen ergreifen. Diese Maßnahmen könnten von Geldstrafen bis hin zum vollständigen Verbot von „My AI“ in Großbritannien reichen – eine Entscheidung, die einen erheblichen Teil der Snapchat-Nutzerbasis betreffen würde.

Snap reagierte auf die Mitteilung des ICO und erklärte, die Ergebnisse zu prüfen und weiterhin dem Datenschutz verpflichtet zu sein. Ein Sprecher von Snap sagte: „Unsere KI durchlief einen umfassenden rechtlichen und datenschutzrechtlichen Prüfprozess, bevor sie öffentlich zugänglich gemacht wurde. Wir werden weiterhin konstruktiv mit dem ICO zusammenarbeiten, um sicherzustellen, dass dieser mit unseren Risikobewertungsverfahren einverstanden ist.“

„My AI“ basiert auf ChatGPT von OpenAI, einem der bekanntesten Beispiele für generative KI. Weltweit ringen politische Entscheidungsträger mit der Frage, wie solche KI-Systeme aufgrund von Bedenken hinsichtlich Datenschutz und Sicherheit reguliert werden sollen. Diese Untersuchung des ICO beleuchtet die Herausforderungen, die mit dem Einsatz von KI auf Plattformen verbunden sind, die von jüngeren Zielgruppen genutzt werden.

Minderjährige Nutzer in sozialen Medien

Soziale Medien wie Snapchat verlangen in der Regel ein Mindestalter von 13 Jahren für die Nutzung ihrer Dienste. Allerdings haben diese Plattformen Schwierigkeiten, diese Altersbeschränkungen effektiv durchzusetzen. Im August berichtete Reuters, dass die britische Datenschutzbehörde ICO Informationen sammelt, um festzustellen, ob Snapchat angemessene Maßnahmen ergreift, um minderjährige Nutzer von seiner Plattform auszuschließen.

Snapchats KI-Chatbot „My AI“ wird vom britischen Information Commissioner’s Office (ICO) wegen Bedenken hinsichtlich des Datenschutzes von Kindern und Nutzern untersucht. Obwohl die vorläufigen Ergebnisse der Untersuchung Anlass zur Sorge geben, hat Snap sein Engagement für den Datenschutz bekräftigt und prüft die Mitteilung des ICO. Die weitergehenden Fragen rund um die Regulierung generativer KI und die Herausforderung, Minderjährige vom Zugang zu sozialen Medien fernzuhalten, bleiben wichtige Themen für Politik und Technologieunternehmen.