As novas regras de IA da China levam a ByteDance e a Alibaba a desativarem seus bots de apoio

A ByteDance e o Alibaba estão descontinuando suas ferramentas de IA para assistentes virtuais criadas por usuários, em antecipação à nova legislação que regulamenta as interações entre humanos e IA na China. 

O Doubao, da ByteDance, desativará sua função de criação de personas de IA personalizadas em 15 de julho. A empresa explicou que a descontinuação faz parte de "ajustes nas funções do produto"

A empresa também observou que excluirá todos os dados restantes ou os arquivará em segurança até 15 de outubro. Seguindo o mesmo caminho, a Qwen, , anunciou que removerá seus bots com aparência humana em 10 de julho e encerrará todas as funções de agentes em 15 de julho.

O encerramento dessas plataformas significará uma perda de personalização para seus usuários. Esses aplicativos ofereciam uma variedade de agentes personalizados, criados tanto por usuários quanto por empresas, que podiam executar tarefas específicas usando estilos de linguagem distintos. Os usuários podiam transformar seu chatbot em um assistente pessoal, tutor ou companheiro.

A China promulgou um quadro regulamentar para as interações entre humanos e inteligência artificial

Doubao e Qwen fizeram seus anúncios poucos dias depois de Yuanbao, da Tencent, já ter removido suas próprias ferramentas de agentes de IA. Yuanbao explicou que, após a desativação do ponto de entrada, os usuários não veriam mais as conversas relacionadas, que seriam apagadas de acordo com as políticas de retenção de dados da plataforma. 

Essas paralisações estão relacionadas à promulgação de um novo conjunto de leis em vigor desde 15 de julho. Propostas em abril, as “Medidas Interinas para a Administração de Serviços Interativos Humanizados Baseados em Inteligência Artificial” buscam regulamentar a IA que imita traços de personalidade e estilo cognitivo humanos, bem como relações emocionais prolongadas.

A legislação foi motivada pelo receio de que as pessoas se tenham tornado demasiadodent emocionalmente da IA ​​realista. Os legisladores apontaram para graves danos à saúde mental dos menores, violações da segurança de dados, riscos para a saúde pública e compromissos éticos. Assim, o novo quadro regulamentar proíbe as plataformas de criarem conteúdo que manipule as emoções dos menores ou que os leve a escolher um amigo de IA em detrimento da vida real. Além disso, as plataformas estão proibidas de utilizar o histórico de conversas pessoais para treinar os seus futuros modelos de IA.

No entanto, as novas regras excluem assistentes no local de trabalho, chatbots de atendimento ao cliente, ferramentas educacionais e plataformas de pesquisa, desde que não facilitem um envolvimento emocional prolongado. 

Em seu anúncio oficial, a ByteDance esclareceu ainda que o aplicativo Cat Box manterá suas funcionalidades para a criação de novos agentes inteligentes e o lançamento de serviços de diálogo. 

Existe uma necessidade crescente de regulamentar os chatbots de IA em todo o mundo?

Globalmente, as plataformas tecnológicas com IA realista estão sendo alvo de muitas críticas. Para começar, a OpenAI e a Character.AI, apoiada pela Alphabet, enfrentam uma série de processos judiciais de alto risco nos EUA. Os críticos argumentam que esses chatbots, que imitam características humanas, criam laços emocionais perigosos entre os usuários, podendo até levar ao suicídio nos casos mais graves.

Em setembro passado, Matthew Raine, pai de um adolescente de 16 anos, Adam, que tragicamente tirou a própria vida, declarou a um painel do Senado dos EUA que o ChatGPT da OpenAI manipulou seu filho para levá-lo ao suicídio. Ele afirmou: "Estamos aqui porque acreditamos que a morte de Adam era evitável e que, ao denunciarmos o ocorrido, podemos evitar o mesmo sofrimento para famílias em todo o país."

Quase simultaneamente, a Comissão Federal de Comércio (FTC) abriu investigações sobre a xAI de Elon Musk, a Snap Inc. e a Character Technologies Inc., em meio a preocupações de que seus bots de IA representem um perigo para as crianças. 

Uma mãe também acusou a Character AI de ter contribuído para o agravamento do estado mental de seu filho. Ela alegou que o chatbot tornou seu filho agressivo e contribuiu para seus padrões de automutilação.

Enquanto isso, a China está considerando regulamentações contra o hardware físico. Duas entidades da indústria robótica chinesa estão pressionando por salvaguardas éticas aprimoradas para robôs de companhia e humanoides de tamanho real, dado o seu aumento expressivo ao longo dos anos. Pesquisadores do Morgan Stanley chegam a prever que, até 2050, haverá cerca de 1 bilhão de robôs humanoides no mundo, representando uma indústria de US$ 7,5 trilhões.

Nos Estados Unidos, preocupações semelhantes em relação aos humanoides também foram levantadas. Até o momento, os fabricantes de humanoides afirmam que seus robôs não causaram ferimentos graves ou mortes. Mas, à medida que essas máquinas chegam a pesar quase 90 quilos, os trabalhadores temem os danos que um robô ambulante poderia causar caso sofresse uma pane elétrica repentina.