EU will Verbot von sozialen Medien und KI-Chatbots für unter 15-Jährige vorschlagen

Die Europäische Union erarbeitet einen Vorschlag für Richtlinien, die Kindern unter 15 Jahren die Nutzung von sozialen Medien, Videoplattformen, KI-Chatdiensten und Online-Spielen untersagen sollen. Sollte dieser Vorschlag Gesetz werden, würden seine Bestimmungen im EU-Kindergesetz verankert und Technologieunternehmen verpflichten, das Alter ihrer Nutzer zu überprüfen, bevor sie ihnen Zugang zu ihren Diensten gewähren. Bislang handelt es sich jedoch lediglich um einen Vorschlag, der noch von den EU-Mitgliedstaaten und dem Europäischen Parlament gebilligt werden muss.

Für KI-Unternehmen ist der nächste Schritt ungewiss. In Europa werden die Länder voraussichtlich damit beginnen, Dienste altersabhängig zu fördern. Dies zwingt KI-Unternehmen, in Altersverifizierung, Kindersicherungsfunktionen und die Trennung von Diensten für Minderjährige und Erwachsene zu investieren. Es wird jedoch erwartet, dass größere Unternehmen diese Kosten leichter tragen können als kleinere Wettbewerber.

Warum der Bericht des Gremiums jetzt wichtig ist

Grundlage dieser Politik bildet ein Bericht vom Juli , der von Prof. Dr. Jörg M. Fegert und Dr. Maria Melchior, den Ko-Vorsitzenden des Sonderausschusses der Europäischen Kommission für Online-Kindersicherheit, veröffentlicht wurde. Ihre Ernennung erfolgte im März, nachdem Ursula von der Leyen das Thema erstmals in ihrer Rede zur Lage der Union 2025.

Das Gremium führte von März bis Juni drei Sitzungen durch und nutzte Informationen, die es von Akademikern, Vertretern junger Menschen und Eltern sowie Institutionen aus der EU und anderen Ländern wie Australien und Brasilien erhalten hatte.

In ihrem Bericht ordnet die Expertengruppe risikoreiche KI-Systeme, wie beispielsweise KI-Begleiter, einer größeren Produktgruppe zu, die sie „Social Media+“ nennt. Diese umfasst Dienste mit Funktionen wie unbegrenztem Scrollen, Autoplay und Empfehlungsalgorithmen. Durch diese übergeordnete Klassifizierung wird verständlicher, warum die Experten Altersbeschränkungen als potenzielle Sicherheitsmaßnahme ansehen, obwohl die Sicherheitsbedenken noch nicht vollständig ausgeräumt sind.

Laut Fegert und Melchior sind Altersbeschränkungen „möglicherweise eine notwendige Vorsichtsmaßnahme“, bis nachgewiesen ist, dass Social-Media+-Plattformen effektiv sind und kein Risiko für Kinder darstellen.

Ihre Empfehlung bedeutet kein Verbot des Zugangs zu den Produkten. Sie überträgt die Verantwortung lediglich auf die Unternehmen, die die Sicherheit ihrer Produkte für junge Kunden nachweisen müssen, bevor die Zugangsbeschränkungen gelockert werden können.

Die Altersversicherung ist der Hebel, der das Ganze zum Funktionieren bringt

Die Durchsetzung einer Altersgrenze gestaltet sich schwierig, wenn keine zuverlässigen Methoden zur Altersverifizierung zur Verfügung stehen. Die Kommission veröffentlichte am 14. Juli 2025 ein Dokument, in dem sie ihren Lösungsvorschlag zur Altersverifizierung. Die Lösung erreichte am 15. April 2026 ihre volle Funktionsfähigkeit.

Die datenschutzfreundliche „Mini-Wallet“ erfordert von Nutzern keine Offenlegung ihrer Identität oder persönlicher Daten, um ihr Alter nachzuweisen. Sie dient der Altersverifizierung für Nutzer ab 18 Jahren, kann aber auch für Nutzer ab 13 Jahren angepasst werden.

Es wird erwartet, dass die Mitgliedstaaten bis Ende 2026 über die notwendigen Instrumente verfügen. Die Kommission plant die Einführung eines EU-weiten Altersverifizierungssystems, das zuverlässige Dienstleister und Lösungen miteinander verbinden und so einen neuen Markt für die Einhaltung von Vorschriften imdentIdentität, Datenschutz und Sicherheit schaffen soll.

Minderjährige verlassen sich bereits auf KI

Jegliche Einschränkung der KI-Nutzung wird sich auf die bereits aufgebaute junge Zielgruppe auswirken. Laut einer Umfrage von Common Sense Media aus dem Jahr 2026, an der 1.204 US-amerikanische Kinder und Jugendliche im Alter von 9 bis 17 Jahren teilnahmen, haben 86 % bereits KI-Lösungen genutzt oder mit ihnen interagiert, während mehr als 20 % von ihnen KI-Lösungen fast täglich verwenden.

Regelmäßige Nutzer berichten von stärkeren Einsamkeitsgefühlen und geringerem Glücksgefühl. Die Forscher betonen jedoch, dass es aufgrund der Gestaltung der Umfrage unmöglich ist,dent, ob der Einsatz von KI diese Folgen mit sich bringt.

Unternehmen, die KI-Lösungen entwickeln, gehen bereits in Richtung der Entwicklung von Produkten mit Altersbeschränkung. Wie berichtete Cryptopolitan, hat OpenAI beispielsweise ChatGPT für Teenager auf den Markt gebracht, das für Jugendliche zwischen 13 und 17 Jahren konzipiert ist und für Kinder unter 13 Jahren nicht zugänglich ist.

Den Zugriff blockieren oder den Chatbot überwachen

Europa ist nicht der einzige Staat, der Maßnahmen ergreift. Auch die USA und Kalifornien entwickeln Kinderschutzbestimmungen, konzentrieren sich dabei aber eher auf das Verhalten von Plattformen und Chatbots als auf die vollständige Sperrung des Zugangs.

Am 29. Juni 2026 verabschiedete das US-Repräsentantenhaus den KIDS Act mit 267 zu 117 Stimmen. Dieser verpflichtet Chatbots, sich als nicht-menschliche Wesen zudentund gleichzeitig Ressourcen zur psychischen Gesundheit bereitzustellen sowie Nutzer zu Pausen aufzufordern.

Kalifornien ist noch einen Schritt weiter gegangen, nachdem Gouverneur Gavin Newsom am 10. September ein Gesetzespaket zum Kinderschutz unterzeichnet hat. Dieses Gesetz verpflichtet Chatbots zur Anwendung von Krisenreaktionsrichtlinien und zur Durchführungdent Prüfungen hinsichtlich Kindersicherheit und Kontrollmechanismen für soziale Medien für Nutzer unter 16 Jahren.

Der Ansatz der EU ist jedoch strenger, da er sich nicht nur hauptsächlich auf die Sicherheit der Produkte stützt, sondern auch eine Altersverifizierung vorschreibt.

Wer trägt die Kosten?

Der Markt selbst wächst weiterhin. Gartner prognostiziert, dass die weltweiten Ausgaben für KI-Modelle und -Plattformen im Jahr 2026 64 Milliarden US-Dollar erreichen werden, ein Anstieg um 63,4 % gegenüber 2025. Sensor Tower geht davon aus, dass sich die für generative KI-Anwendungen aufgewendete Zeit von 17,2 Milliarden Stunden im ersten Halbjahr 2025 auf 36 Milliarden Stunden im ersten Halbjahr 2026 mehr als verdoppeln wird.

Regulierung wirkt sich somit weniger bremsend auf die KI-Nachfrage aus als vielmehr auf eine Kostenumverteilung. Große Plattformen können Altersprüfungen, Audits und die Entwicklung jugendgerechter Produkte besser finanzieren. Kleinere KI-Unternehmen im Konsumbereich sehen sich höheren Hürden bei der Einhaltung von Vorschriften gegenüber, während Anbieter von Altersverifizierung, KI-Sicherheit und Compliance-Lösungen davon profitieren könnten.