Kaliforniens Gouverneur Gavin Newsom unterzeichnete am Montag ein neues Gesetz, das klare Schutzmaßnahmen für neue und aufkommende Technologien wie künstliche Intelligenz festlegt. Das neue Gesetz zielt darauf ab, den Schutz von Kindern im Internet bei der Nutzung von KI-Chatbots weiter zu stärken.
Das Gesetz beinhaltet Schutzmaßnahmen für Chatbots, wie etwa Altersverifizierung, Protokolle zum Umgang mit Suizid und Selbstverletzung, Warnhinweise zu sozialen Medien und zugehörigen Chatbots sowie strenge Strafen für diejenigen, die mit illegalen Deepfakes Profit machen. Der Gouverneur ist überzeugt, dass die Initiative dazu beitragen wird, die Sicherheit von Kindern in Kalifornien weiterhin in den Vordergrund zu stellen.
Newsom merkte an , dass neue Technologien wie Chatbots und soziale Medien zwar inspirieren, bilden und vernetzen können, es aber dringend wirksamer Schutzmaßnahmen bedarf, da Technologie Kinder auch ausbeuten, irreführen und gefährden kann. Er argumentierte, Kalifornien könne weiterhin eine Vorreiterrolle im Bereich KI und Technologie einnehmen, müsse dies aber verantwortungsvoll tun.
Die erste Mitarbeiterin des Gouverneurs, Jennifer Siebel Newsom, ist überzeugt, dass alles, was Menschen tun, mit ihren Kindern beginnt – mit deren Sicherheit, Gesundheit und Wohlergehen. Sie erklärte, Kalifornien sei zwar seit jeher Vorreiter in Sachen Innovation, doch wahre Führung bedeute auch, Kindern in den entscheidenden Momenten Grenzen zu setzen. Siebel fügte hinzu, das Gesetz schaffe Leitlinien, die die Gesundheit und Sicherheit von Kindern schützen und gleichzeitig gewährleisten, dass Innovationen verantwortungsvoll vorangetrieben werden.
„Wir haben einige wirklich entsetzliche und tragische Beispiele von jungen Menschen gesehen, die durch unregulierte Technologien geschädigt wurden, und wir werden nicht tatenlos zusehen, wie Unternehmen ohne die notwendigen Beschränkungen und Verantwortlichkeit weitermachen. Die Sicherheit unserer Kinder ist nicht käuflich.“
–Gavin Newsom, Gouverneur von Kalifornien.
Kalifornien hat beim Schutz von Kindern vor den Gefahren neuer Technologien stets eine Vorreiterrolle eingenommen. Der Staat hat bereits andere Gesetze verabschiedet, um Kinder vor der Sucht nach sozialen Medien zu schützen,tronDatenschutzbestimmungen einzuführen und landesweit führende Transparenzmaßnahmen umzusetzen.
Das Gesetz zielt darauf ab, zu schaffen , indem es vorschreibt, dass Chatbots Protokolle entwickeln müssen, umdentund darauf zu reagieren. Der Gesetzentwurf verpflichtet Plattformen außerdem, offenzulegen, dass die Interaktionen künstlich generiert werden.
Dem Gesetzentwurf zufolge müssen Chatbot-Plattformen Pausenhinweise geben und Kinder vor sexuell expliziten Bildern schützen, die vom Chatbot generiert werden. Chatbots sind außerdem verpflichtet, dem Gesundheitsamt Protokolle zur Prävention von Selbstverletzungen sowie Statistiken darüber, wie häufig sie Nutzer an Kriseninterventionsstellen verweisen, zur Verfügung zu stellen. Gemäß der neuen Gesetzgebung ist es Chatbots untersagt, sich als Angehörige der Gesundheitsberufe auszugeben.
Das neue Gesetz verpflichtet Betriebssysteme und App-Store-Anbieter zur Einführung von Altersverifizierungsprotokollen, um Kinder vor dem Zugriff auf ungeeignete oder gefährliche Online-Inhalte zu schützen. Chatbot-Plattformen müssen zudem Warnhinweise zu sozialen Medien anzeigen, um junge Nutzer über die potenziellen Gefahren einer längeren Nutzung dieser Plattformen aufzuklären.
Das neue Gesetz siehttronvor Strafen , darunter eine zivilrechtliche Entschädigung von bis zu 250.000 US-Dollar pro Klage gegen Dritte, die wissentlich die Verbreitung einvernehmlichen, sexuell expliziten Materials ermöglichen oder unterstützen. Newsom drängte außerdem auf Richtlinien gegen Cybermobbing und verpflichtete das kalifornische Bildungsministerium (CDE), bis zum 1. Juni 2026 eine Musterrichtlinie zum Umgang mit gemeldeten Fällen von Cybermobbing außerhalb der Schulzeit zu verabschieden. Lokale Schulbehörden sind verpflichtet, diese Richtlinie oder eine ähnliche, unter Einbeziehung lokaler Interessengruppen entwickelte Richtlinie zu übernehmen.
Gouverneur Newsom forderte zudem klare Verantwortlichkeit für Schäden, verursacht werden . Die Initiative zielt darauf ab, zu verhindern, dass Entwickler, Veränderer oder Anwender künstlicher Intelligenz sich der Haftung entziehen, indem sie behaupten, die Technologie habe autonom gehandelt.
Mehrere weitere Gesetze wurden verabschiedet, um Kinder zu schützen und die Sicherheit von Technologien und Online-Plattformen zu verbessern. Dazu gehören: Warnhinweise in sozialen Medien (Abgeordnete Rebecca Bauer-Kahan), Schutz vor künstlicher Intelligenz (Abgeordnete Maggie Krell), Deepfake-Pornografie (Abgeordneter Josh Lowenthal aus Long Beach), Kontosperrung (Abgeordnete Pilar Schiavo), das California Cybersecurity Integration Center: Künstliche Intelligenz (Abgeordnete Jacqui Irwin) und weitere.
