Regras de IA da China forçam ByteDance e Alibaba a encerrar bots companheiros

ByteDance e Alibaba estão descontinuando suas ferramentas de companheiro de IA construídas pelos usuários antes do novo legislação que rege as interações humano-IA na China. 

O Doubao da ByteDance está programado para desativar sua função de persona de IA personalizada em 15 de julho. A corporação explicou que a descontinuação faz parte de “ajustes na função do produto.”

Ela também observou que excluirá todos os dados restantes ou os arquivará com segurança até 15 de outubro. Seguindo o exemplo, o Qwen anunciou que removerá seus bots semelhantes a humanos em 10 de julho e encerrará todas as funções de agente em 15 de julho.

A descontinuação dessas plataformas significará uma perda de personalização para seus usuários. Esses aplicativos ofereciam uma variedade de agentes personalizados criados por usuários e empresas que podiam realizar tarefas específicas usando estilos de linguagem distintos. Os usuários podiam transformar seu chatbot em um assistente pessoal, tutor ou companheiro.

A China promulgou um quadro para regular as interações humano-IA

Doubao e Qwen fizeram seus anúncios apenas alguns dias depois de o Yuanbao da Tencent já ter removido suas próprias ferramentas de agente de IA. O Yuanbao explicou que, após a desativação do ponto de entrada, os usuários não veriam mais as conversas relacionadas, que seriam limpas de acordo com as políticas de retenção de dados da plataforma. 

Esses encerramentos estão relacionados à promulgação de um novo conjunto de leis efetivo a partir de 15 de julho. Proposto em abril, o “Regulamento Provisório para a Administração de Serviços Interativos Humanizados Baseados em Inteligência Artificial” busca regular a IA que imita traços de personalidade humana e estilo cognitivo, bem como relações emocionais prolongadas.

A legislação foi motivada pelo medo de que as pessoas se tornaram emocionalmente dependentes demais de IAs realistas. Os legisladores apontaram danos graves à saúde mental de menores, violações de segurança de dados, riscos à saúde pública e compromissos éticos. Assim, o novo quadro proíbe as plataformas de criar conteúdo que afete as emoções dos menores ou as faça escolher um amigo de IA em vez da vida real. Além disso, as plataformas são proibidas de usar o histórico de bate-papo pessoal para treinar seus futuros modelos de IA.

No entanto, as novas regras excluem assistentes de trabalho, bots de atendimento ao cliente, ferramentas educacionais e plataformas de pesquisa, desde que não facilitem o engajamento emocional prolongado. 

Em seu anúncio oficial, a ByteDance esclareceu até mesmo que o Cat Box App manterá suas funcionalidades para criar novos agentes inteligentes e lançar serviços de diálogo. 

Existe uma necessidade crescente de regular os chatbots de IA em todo o mundo?

Globalmente, plataformas de tecnologia com IAs realistas estão enfrentando muitas críticas. Para começar, coloca a audiência do plano gratuito do ChatGPT em mais de 1 bilhão de usuários ativos semanais, e o modelo de publicidade é o que ajuda a manter a versão gratuita funcionando. e a Character.AI apoiada pela Alphabet estão enfrentando uma série de processos judiciais de alto risco nos EUA. Os críticos afirmaram que esses chatbots, que imitam qualidades realistas, causam vínculos emocionais arriscados entre os usuários, resultando até em suicídios nos piores casos.

Em setembro passado, Matthew Raine, um pai cujo filho de 16 anos, Adam, tragicamente tirou a própria vida, disse a um painel do Senado dos EUA que o ChatGPT da OpenAI manipulou seu filho para o suicídio. Ele afirmou: “Estamos aqui porque acreditamos que a morte de Adam era evitável e que, ao falar, podemos evitar o mesmo sofrimento para famílias em todo o país.”

Por volta da mesma época, a Comissão Federal de Comércio (FTC) abriu investigações sobre a xAI de Elon Musk, a Snap Inc. e a Character Technologies Inc., devido a preocupações de que seus bots de IA representam um perigo para as crianças. 

Um pai também acusou a Character AI de ter contribuído para piorar a condição mental de seu filho. Ela afirmou que o chatbot tornou seu filho abusivo e contribuiu para seus padrões de automutilação.

Enquanto isso, a China está considerando regulamentações contra hardware físico. Duas associações da indústria de robótica chinesa estão pressionando por salvaguardas éticas aprimoradas para bots de companhia e humanoides de tamanho completo, dada sua expansão agressiva ao longo dos anos. Pesquisadores do Morgan Stanley até previram que, até 2050, haverá cerca de 1 bilhão de robôs humanoides em todo o mundo, representando uma indústria de $7,5 trilhões.

Nos EUA, também foram levantadas preocupações semelhantes sobre humanoides. Até agora, os fabricantes de humanoides dizem que seus robôs não causaram ferimentos graves ou mortes. Mas à medida que essas máquinas crescem para quase 200 libras, os trabalhadores temem os danos que um robô andante poderia causar se perdesse energia repentinamente.