Le gouverneur de Californie, Gavin Newsom, a promulgué lundi une nouvelle loi établissant des garanties claires pour les technologies émergentes, telles que l'intelligence artificielle. Ce texte vise à renforcer la protection des enfants en ligne lors de l'utilisation de chatbots basés sur l'IA.
La législation prévoit des mesures de protection pour les chatbots, telles que la vérification de l'âge, des protocoles de prévention du suicide et de l'automutilation, des avertissements concernant les réseaux sociaux et les chatbots associés, ainsi que des sanctions sévères pour ceux qui tirent profit de deepfakes illégaux. Le gouverneur estime que cette initiative contribuera à garantir que la sécurité des enfants demeure une priorité absolue en Californie.
Newsom a souligné que les technologies émergentes comme les chatbots et les réseaux sociaux peuvent inspirer, éduquer et créer des liens, mais qu'il est indispensable de mettre en place de véritables garde-fous, car la technologie peut aussi exploiter, induire en erreur et mettre en danger les enfants. Il a affirmé que la Californie peut rester à la pointe de l'IA et des technologies, mais qu'elle doit le faire de manière responsable.
La première conseillère du gouverneur, Jennifer Siebel Newsom, estime que toutes les actions humaines commencent par le bien-être des enfants : leur sécurité, leur santé et leur épanouissement. Elle a déclaré que si la Californie a toujours été à la pointe de l’innovation, un véritable leadership implique aussi de fixer des limites aux enfants, surtout lorsque cela compte le plus. Mme Siebel a ajouté que la loi établit des garde-fous qui protègent la santé et la sécurité des enfants tout en garantissant une innovation responsable.
« Nous avons été témoins d'exemples véritablement horribles et tragiques de jeunes victimes de technologies non réglementées, et nous ne resterons pas les bras croisés face à des entreprises qui persistent sans les limites et l'obligation de rendre des comptes nécessaires. La sécurité de nos enfants n'est pas à vendre. »
–Gavin Newsom, gouverneur de Californie.
La Californie a toujours été pionnière en matière de protection des enfants contre les dangers des nouvelles technologies. L'État a déjà promulgué d'autres lois visant à protéger les enfants contre la dépendance aux réseaux sociaux, àtrondes exigences strictes en matière de protection de la vie privée et à mettre en place des mesures de transparence parmi les plus rigoureuses du pays.
Cette législation vise à renforcer la protection des chatbots IA en imposant l'élaboration de protocoles permettant d'identifierdentde prendre en charge les idées suicidaires ou les comportements d'automutilation des utilisateurs. Le projet de loi exige également des plateformes qu'elles indiquent clairement que les interactions sont générées artificiellement.
Selon le projet de loi, les plateformes de chatbots doivent proposer des rappels de pause et empêcher les enfants de consulter des images à caractère sexuel générées par le chatbot. Les chatbots devront également transmettre au ministère de la Santé publique des protocoles de prévention de l'automutilation ainsi que des statistiques sur la fréquence à laquelle ils envoient aux utilisateurs des notifications de prévention vers les centres de crise. La nouvelle législation interdit aux chatbots de se présenter comme des professionnels de santé.
Le nouveau projet de loi exige que les systèmes d'exploitation et les plateformes de téléchargement d'applications mettent en place des protocoles de vérification de l'âge afin d'empêcher les enfants d'accéder à des contenus inappropriés ou dangereux en ligne. Les plateformes de chatbot devront également afficher des avertissements sur les réseaux sociaux pour informer les jeunes utilisateurs des risques potentiels liés à une utilisation prolongée de ces plateformes.
La nouvelle législation prévoit destronplus sévères sanctions la diffusion de contenus pornographiques truqués (deepfakes) dans les chatbots, notamment une indemnisation civile pouvant atteindre 250 000 dollars par action contre les tiers qui facilitent ou contribuent sciemment à la diffusion de contenus sexuellement explicites consentis. Le gouverneur Newsom a également insisté sur la nécessité de mettre en place des directives contre le cyberharcèlement, exigeant du Département de l'Éducation de Californie (CDE) l'adoption, d'ici le 1er juin 2026, d'une politique modèle relative aux cas de cyberharcèlement signalés en dehors des heures de classe. Il impose également aux établissements scolaires locaux d'adopter cette politique ou une politique similaire élaborée en concertation avec les acteurs locaux.
Le gouverneur Newsom a également plaidé pour une responsabilisation claire en cas de préjudice causé par l'intelligence artificielle. Cette initiative vise à empêcher les concepteurs, les modificateurs et les utilisateurs d'intelligence artificielle de se soustraire à leurs responsabilités en invoquant l'autonomie de la technologie.
Plusieurs autres projets de loi ont été adoptés pour protéger les enfants et renforcer la sécurité des technologies et des plateformes en ligne. Parmi eux : les étiquettes d’avertissement sur les réseaux sociaux (députée Rebecca Bauer-Kahan), la protection contre l’intelligence artificielle (députée Maggie Krell), la lutte contre la pornographie truquée (députée Josh Lowenthal, de Long Beach), la suppression des comptes (députée Pilar Schiavo), le Centre d’intégration de la cybersécurité de Californie et l’intelligence artificielle (députée Jacqui Irwin), et bien d’autres.
