O governador da Califórnia, Gavin Newsom, sancionou na segunda-feira um novo projeto de lei que estabelece salvaguardas claras para tecnologias novas e emergentes, como a inteligência artificial. A nova legislação visa fortalecer ainda mais a proteção das crianças online no estado ao utilizarem chatbots com IA.
A legislação inclui medidas de segurança para chatbots, como verificação de idade, protocolos para lidar com suicídio e automutilação, avisos sobre redes sociais e chatbots complementares, além de penalidades rigorosas para quem lucra com deepfakes ilegais. O governador acredita que a iniciativa ajudará a garantir que a segurança das crianças continue sendo prioridade na Califórnia.
Newsom observou que tecnologias emergentes como chatbots e mídias sociais podem inspirar, educar e conectar, mas é necessário haver mecanismos de proteção eficazes, já que a tecnologia também pode explorar, enganar e colocar crianças em perigo. Ele argumentou que a Califórnia pode continuar liderando em inteligência artificial e tecnologia, mas deve fazê-lo de forma responsável.
A primeira-dama da Casa Branca, Jeniffer Siebel Newsom, acredita que tudo o que as pessoas fazem começa com seus filhos: sua segurança, sua saúde e seu bem-estar. Ela afirmou que, embora a Califórnia sempre tenha sido pioneira em inovação, a verdadeira liderança também significa estabelecer limites para as crianças quando isso mais importa. Siebel acrescentou que a legislação estabelece diretrizes que protegem a saúde e a segurança das crianças, ao mesmo tempo que garantem que a inovação avance de forma responsável.
“Temos visto exemplos verdadeiramente horríveis e trágicos de jovens prejudicados por tecnologias não regulamentadas, e não ficaremos de braços cruzados enquanto as empresas continuam sem os limites e a responsabilização necessários. A segurança de nossas crianças não está à venda.”
–Gavin Newsom, Governador da Califórnia.
A Califórnia tem consistentemente liderado o caminho na proteção de crianças contra os perigos das tecnologias emergentes. O estado já promulgou outras leis para proteger crianças do vício em redes sociais, comtronexigências de privacidade e medidas de transparência pioneiras no país.
A legislação visa criar novas salvaguardas para chatbots de IA, estabelecendo requisitos para que esses chatbots criem protocolos para identificardentlidar com ideações suicidas ou manifestações de autolesão dos usuários. O projeto de lei também exige que as plataformas divulguem que as interações são geradas artificialmente.
De acordo com o projeto de lei, as plataformas de chatbots devem fornecer lembretes de pausas e impedir que crianças visualizem imagens sexualmente explícitas geradas pelo chatbot. Os chatbots também serão obrigados a compartilhar protocolos para lidar com a automutilação e estatísticas que mostrem a frequência com que enviam aos usuários notificações de prevenção de crises para o Departamento de Saúde Pública. Segundo a nova legislação, os chatbots estão proibidos de se apresentarem como profissionais de saúde.
O novo projeto de lei exige que os sistemas operacionais e as lojas de aplicativos implementem protocolos de verificação de idade para ajudar a impedir que crianças acessem conteúdo inadequado ou perigoso online. As plataformas de chatbots também precisarão exibir avisos sobre os riscos das redes sociais para informar os jovens usuários sobre os possíveis danos associados ao uso prolongado dessas plataformas.
A nova legislação estabelecetronseveras penalidades para pornografia deepfake em chatbots, incluindo indenização civil para vítimas de até US$ 250.000 por ação contra terceiros que, conscientemente, facilitem ou auxiliem na distribuição de material sexualmente explícito consensual. Newsom também pressionou por diretrizes contra o cyberbullying, exigindo que o Departamento de Educação da Califórnia (CDE) adote uma política modelo para lidar com relatos de cyberbullying que ocorram fora do horário escolar até 1º de junho de 2026. A lei também exige que as agências educacionais locais adotem a política resultante ou uma política similar desenvolvida com a participação das autoridades locais.
O governador Newsom também pediu responsabilização clara pelos danos causados pela tecnologia de IA. A iniciativa visa impedir que aqueles que desenvolvem, alteram ou usam inteligência artificial se esquivem da responsabilidade, alegando que a tecnologia agiu de forma autônoma.
Diversas outras propostas de lei foram aprovadas para proteger crianças e aumentar a segurança da tecnologia e das plataformas online. Entre elas, destacam-se: Redes sociais: avisos sobre o conteúdo, de autoria da Deputada Estadual Rebecca Bauer-Kahan; Defesas contra inteligência artificial, de autoria da Deputada Estadual Maggie Krell; Pornografia deepfake, de autoria do Deputado Estadual Josh Lowenthal, de Long Beach; Cancelamento de contas, de autoria da Deputada Estadual Pilar Schiavo; Centro de Integração de Segurança Cibernética da Califórnia: inteligência artificial, de autoria da Deputada Estadual Jacqui Irwin; e outras.
