Britische Aufsichtsbehörde untersucht Snapchat-KI-Chatbot wegen Bedenken hinsichtlich des Kinderschutzes

Das britische Informationskommissariat (ICO) hat Bedenken hinsichtlich des künstlichen Intelligenz (KI)-Chatbots „My AI“ von Snapchat und dessen potenzieller Auswirkungen auf die Privatsphäre von Kindern und anderen Nutzern geäußert. Die vorläufigen Ergebnisse des ICO, die am Freitag veröffentlicht wurden, deuten darauf hin, dass Snap, das US-Unternehmen hinter Snapchat, die Datenschutzrisiken im Zusammenhang mit „My AI“ vor der Einführung im April möglicherweise nicht angemessen bewertet hat.

Das ICO untersucht derzeit, wie „My AI“ die persönlichen Daten von etwa 21 Millionen Snapchat-Nutzern im Vereinigten Königreich, einschließlich Kindern im Alter von 13 bis 17 Jahren, verarbeitet. Während diese Ergebnisse nicht sofort einen Verstoß gegen britische Datenschutzgesetze implizieren, signalisieren sie ernsthafte Bedenken hinsichtlich von Snaps Ansatz im Hinblick auf Datenschutzmaßnahmen.

Snapchats KI steht wegen Datenschutzrisiken für Kinder in der Kritik

Information Commissioner John Edwards äußerte seine Besorgnis und sagte: „Die vorläufigen Ergebnisse unserer Untersuchung deuten auf eine besorgniserregende Versäumnis von Snap hin, die Datenschutzrisiken für Kinder und andere Nutzer vor der Einführung von ‚My AI‘ angemessen zu identifizieren und zu bewerten.“

Wenn Snap die Bedenken des ICO nicht zufriedenstellend adressiert, kann der Regulierer Durchsetzungsmaßnahmen gegen das Unternehmen ergreifen. Diese Maßnahmen könnten von Geldstrafen bis hin zum vollständigen Verbot von „My AI“ im Vereinigten Königreich reichen, eine Entscheidung, die einen erheblichen Teil der Snapchat-Nutzerbasis betreffen würde.

Snap reagierte auf die Mitteilung des ICO mit der Aussage, dass es die Ergebnisse überprüft und sich weiterhin zum Datenschutz der Nutzer bekennt. Ein Sprecher von Snap erwähnte: „My AI hat vor der öffentlichen Verfügbarkeit einen robusten rechtlichen und datenschutzrechtlichen Überprüfungsprozess durchlaufen. Wir werden weiterhin konstruktiv mit dem ICO zusammenarbeiten, um sicherzustellen, dass sie mit unseren Risikobewertungsverfahren zufrieden sind.“

„My AI“ wird von OpenAIs ChatGPT angetrieben, einem der prominentesten Beispiele für generative KI. Politiker weltweit kämpfen damit, wie sie solche KI-Systeme regulieren sollen, aufgrund von Bedenken hinsichtlich Datenschutz und Sicherheit. Diese Untersuchung des ICO wirft Licht auf die Herausforderungen, die mit der Bereitstellung von KI auf Plattformen verbunden sind, die von jüngeren Demografien genutzt werden.

Minderjährige Nutzer in sozialen Medien

Soziale Medienplattformen, einschließlich Snapchat, verlangen in der Regel, dass Nutzer mindestens 13 Jahre alt sind, um auf ihre Dienste zugreifen zu können. Diese Plattformen haben jedoch Schwierigkeiten, Altersbeschränkungen effektiv durchzusetzen. Im August berichtete Reuters, dass das ICO Informationen sammelte, um festzustellen, ob Snapchat angemessene Maßnahmen ergreift, um minderjährige Nutzer von seiner Plattform zu entfernen.

Der KI-Chatbot von Snapchat, „My AI“, steht wegen Bedenken hinsichtlich der Datenschutzrisiken für Kinder und Nutzer unter der Lupe des britischen Informationskommissariats (ICO). Während die vorläufigen Ergebnisse der Untersuchung Bedenken aufwerfen, hat Snap sein Engagement für den Datenschutz der Nutzer bekundet und überprüft die Mitteilung des ICO. Die breiteren Fragen rund um die Regulierung generativer KI und die Herausforderung, minderjährige Nutzer vom Zugang zu sozialen Medienplattformen abzuhalten, bleiben bedeutende Probleme für politische Entscheidungsträger und Technologieunternehmen gleichermaßen.