El gobernador de California, Gavin Newsom, firmó el lunes un nuevo proyecto de ley que establece salvaguardas claras para las tecnologías nuevas y emergentes, como la inteligencia artificial. La nueva legislación busca fortalecer aún más la protección del estado para los niños en línea cuando utilizan chatbots de IA.
La legislación incluye salvaguardas para los chatbots, como la verificación de edad, protocolos para abordar el suicidio y la autolesión, advertencias sobre las redes sociales y los chatbots acompañantes, y sanciones severas para quienes se lucren con deepfakes ilegales. El gobernador cree que la iniciativa ayudará a garantizar que la seguridad infantil siga siendo una prioridad en California.
Newsom señaló que las tecnologías emergentes, como los chatbots y las redes sociales, pueden inspirar, educar y conectar, pero es necesario establecer límites claros, ya que la tecnología también puede explotar, engañar y poner en peligro a los niños. Sostuvo que California puede seguir liderando en inteligencia artificial y tecnología, pero debe hacerlo de manera responsable.
La primera colaboradora del gobernador, Jeniffer Siebel Newsom, cree que todo lo que hacemos comienza con nuestros hijos: su seguridad, su salud y su bienestar. Afirmó que, si bien California siempre ha sido pionera en innovación, el verdadero liderazgo también implica establecer límites para los niños cuando más importa. Siebel añadió que la legislación establece medidas que protegen la salud y la seguridad de los niños, a la vez que garantizan que la innovación avance de forma responsable.
Hemos visto ejemplos verdaderamente horribles y trágicos de jóvenes perjudicados por tecnología no regulada, y no nos quedaremos de brazos cruzados mientras las empresas sigan sin imponer los límites ni la rendición de cuentas necesarios. La seguridad de nuestros hijos no está en venta
–Gavin Newsom, Gobernador de California.
California ha liderado constantemente la protección infantil contra los peligros de las tecnologías emergentes. El estado ya ha promulgado otras leyes para proteger a los niños de la adicción a las redes sociales, contronrequisitos de privacidad y medidas de transparencia líderes a nivel nacional.
La legislación busca establecer nuevas medidas de seguridad para los chatbots de IA, exigiendo que estos creen protocolos para identificardentabordar las ideas suicidas o las expresiones de autolesión de los usuarios. El proyecto de ley también exige que las plataformas informen que las interacciones se generan artificialmente.
Según el proyecto de ley, las plataformas de chatbots deben proporcionar recordatorios de descansos e impedir que los niños vean imágenes sexualmente explícitas generadas por el chatbot. Los chatbots también deberán compartir protocolos para combatir la autolesión y estadísticas que muestren la frecuencia con la que envían notificaciones de prevención del centro de crisis al Departamento de Salud Pública. Según la nueva legislación, los chatbots tienen prohibido hacerse pasar por profesionales de la salud.
El nuevo proyecto de ley exige que los sistemas operativos y los proveedores de tiendas de aplicaciones implementen protocolos de verificación de edad para evitar que los niños accedan a contenido inapropiado o peligroso en línea. Las plataformas de chatbots también deberán mostrar etiquetas de advertencia en redes sociales para informar a los jóvenes sobre los posibles daños asociados con el uso prolongado de estas plataformas.
La nueva legislación establecetronseveras sanciones para la pornografía deepfake en chatbots, incluyendo una compensación civil para las víctimas de hasta $250,000 por acción contra terceros que, a sabiendas, faciliten o ayuden en la distribución de material sexualmente explícito consensuado. Newsom también impulsó una guía contra el ciberacoso, exigiendo al Departamento de Educación de California (CDE) que adopte una política modelo para abordar los actos de ciberacoso denunciados que ocurran fuera del horario escolar antes del 1 de junio de 2026. También exige que las agencias educativas locales adopten la política resultante o una política similar desarrollada con la participación local.
El gobernador Newsom también exigió una rendición de cuentas clara por los daños causados por la tecnología de IA. La iniciativa busca evitar que quienes desarrollan, alteran o utilizan inteligencia artificial eludan la responsabilidad alegando que la tecnología actuó de forma autónoma.
Se han aprobado varios otros proyectos de ley para proteger a los niños y mejorar la seguridad de la tecnología y las plataformas en línea. Entre ellos se incluyen: Redes sociales: etiquetas de advertencia, de la asambleísta Rebecca Bauer-Kahan; Defensas contra la inteligencia artificial, de la asambleísta Maggie Krell; Pornografía deepfake, del asambleísta Josh Lowenthal de Long Beach; Cancelación de cuentas, de la asambleísta Pilar Schiavo; Centro de Integración de Ciberseguridad de California: inteligencia artificial, de la asambleísta Jacqui Irwin; y más.
