Reino Unido endurece regras sobre chatbots de IA para proteger crianças online

O governo do Reino Unido está se movendo para apertar a regulamentação sobre o uso de chatbots de inteligência artificial para proteger melhor as crianças contra conteúdo prejudicial e ilegal. 

O primeiro-ministro Keir Starmer tem revelada um processo para preencher uma lacuna legal que permitia que provedores de chatbots operassem fora das principais leis de segurança online. Isso forçará as empresas que criam e operam chatbots de IA a combater ativamente o conteúdo ilegal e garantir que suas plataformas sejam seguras para usuários mais jovens. 

Agora, o governo afirma que mudará a forma como a Lei de Segurança Online (Online Safety Act) éaplicada e especificará como os chatbots devem cumprir a lei. A regulamentação foi criada muito antes no processo, mas principalmente adaptada às demandas de plataformas de mídia social e fóruns públicos onde as pessoas podem postar seu conteúdo. Nem aqueles que operam chatbots de IA privados nem aqueles que os usam receberam cobertura igual, e suas responsabilidades permanecem pouco claras. Starmer prometeu fechar essa brecha em breve.

As empresas de chatbots precisam aderir às mesmas obrigações legais que outras empresas online, ele alertou, ou serão penalizadas. O governo diz que essa mudança deve garantir que os provedores de chatbots monitorem ativamente seus sistemas e bloqueiem material ilegal. Antes de seu anúncio, Starmer disse que nenhuma empresa de tecnologia estaria isenta da lei.

O governo também teme que tratar os chatbots de IA de forma diferente das plataformas de redes sociais possa deixar as crianças vulneráveis a conteúdos prejudiciais ou inadequados. Os funcionários acreditam que, se os chatbots de IA devem alcançar seu público-alvo, especialmente adolescentes e jovens, são necessárias proteções mais rigorosas.

Novos poderes para enfrentar a tecnologia em rápida mudança

Além de preencher lacunas legais, o governo criará novos poderes que permitirão uma ação mais rápida quando os riscos surgirem. Em vez de esperar que o Parlamento aprove leis inteiramente novas, os reguladores responderão à tecnologia mais rapidamente. 

Esta é uma maneira de garantir que as proteções acompanhem o rápido progresso na inteligência artificial. As ferramentas de IA estão melhorando rapidamente e entrando em novas áreas. Como resultado, os riscos podem se manifestar subitamente, e os reguladores exigem flexibilidade para abordá-los. 

Starmer apontou recentemente os riscos de conteúdo prejudicial gerado por IA, como casos em que a tecnologia está sendo usada para criar imagens sexualizadas de pessoas sem o seu consentimento. 

Ele chamou esses usos de inaceitáveis e disse que as leis existentes devem ser aplicadas contra eles. O governo disse que uma melhor aplicação forçaria as empresas a projetar sistemas mais seguros desde o início. 

Isso poderia incluir proteções incorporadas ao software do chatbot para identificar e impedir conteúdo ilegal antes que os usuários o vejam. As empresas de tecnologia também serão responsabilizadas pelo comportamento de seus sistemas de IA. 

Isso significa que eles precisam monitorar as saídas, melhorar os recursos de segurança para tornar os sistemas mais seguros e responder rapidamente quando falhas forem detectadas.

Medidas do governo para proteger as crianças de danos

O endurecimento dos chatbots de IA faz parte do desafio maior da segurança infantil em praticamente qualquer plataforma digital. O governo está considerando novas ações que poderiam reduzir ainda mais o risco. 

Uma sugestão em andamento é um requisito de que os usuários tenham uma certa idade para acessar as redes sociais. Os funcionários também estão explorando como limitar recursos como rolagem infinita pode desencorajar o tempo excessivo de tela, bem como tornar mais difícil para os jovens se desligarem de conteúdo prejudicial ou viciante. 

Essas mudanças podem ocorrer após consultas públicas sobre o bem-estar das crianças online. Pais, educadores e especialistas em segurança estão preocupados com o impacto das plataformas digitais na saúde mental dos jovens e na quantidade de exposição a conteúdo inadequado. 

O objetivo mais amplo do governo é criar um ambiente online mais seguro onde as crianças possam se beneficiar da tecnologia sem serem expostas a danos graves.