Chinês é preso por usar o ChatGPT para escrever notícias

Num caso inovador envolvendo inteligência artificial (IA), um homem na China foi preso por supostamente usar o ChatGPT para fabricar uma notícia falsa sobre um acidente de trem que causou nove mortes.

Esta ação representa a primeira medida coercitiva tomada na China sob uma lei sem precedentesdentà IA, destacando os esforços do país para regulamentar e controlar o uso de tecnologia avançada.

Odent de notícias falsas do ChatGPT

Um homemdentapenas como Hong foi detido pela polícia na província de Gansu, no noroeste da China, por supostamente ter criado uma notícia falsa sobre umdent de trem usando o ChatGPT.

O artigo falso foi publicado em uma plataforma de blogs pertencente à gigante chinesa de buscas Baidu por mais de 20 contas e acumulou mais de 15.000 visualizações.

Para burlar as verificações de duplicidade na plataforma, Hong é acusado de usar o ChatGPT para gerar versões ligeiramente diferentes da notícia falsa.

Desenvolvido pela OpenAI, empresa sediada nos EUA, o ChatGPT é um chatbot que utiliza tecnologia de IA generativa. Essa tecnologia permite que o software gere respostas com base em instruções e perguntas do usuário, como, por exemplo, criar uma história a partir de passos específicos.

Embora o ChatGPT esteja bloqueado na China, ainda é possível acessá-lo por meio de uma rede privada virtual (VPN), que permite contornar as restrições de internet do país.

Em resposta à crescente popularidade e aos riscos potenciais de tecnologias de IA como o ChatGPT, as autoridades chinesas introduziram este ano uma lei inédita que regulamenta as “tecnologias de síntese profunda”

A lei abrange o uso de IA para gerar texto, imagens, vídeos ou outras mídias e proíbe a disseminação de notícias falsas por meio de serviços de síntese profunda.

Abordagem cautelosa das gigantes chinesas da tecnologia

Embora o ChatGPT esteja ganhando trace se tornando viral, o cenário da internet na China, fortemente censurado e controlado, levou o governo a criar leis que abordem novas tecnologias que possam representar desafios para as autoridades centrais.

Consequentemente, as gigantes chinesas da tecnologia têm sido cautelosas em sua abordagem às aplicações de IA, evitando a ampla disponibilidade de chatbots como o ChatGPT e, em vez disso, concentrando-se em casos de uso específicos.

A Alibaba, por exemplo, está trabalhando em seu produto de IA, o Tongyi Qianwen, que eventualmente será implementado em seu software de comunicação corporativa DingTalk e no Tmall Genie, um fornecedor de eletrodomésticos inteligentes.

Acredita-se que essa abordagem estratégica seja uma resposta às preocupações dos órgãos reguladores e do governo.

A prisão de Hong sob a nova lei que regulamenta as tecnologias de síntese profunda serve como um forte lembrete das potenciais consequências do uso indevido de IA na China.

Com o avanço contínuo da tecnologia, é fundamental que países como a China estabeleçam diretrizes e regulamentações que abordem as potenciais ameaças representadas pela IA, especialmente no âmbito das notícias falsas e da desinformação.

O desenvolvimento contínuo de chatbots e aplicativos com inteligência artificial por gigantes da tecnologia chinesas provavelmente prosseguirá sob supervisão cuidadosa, com foco em casos de uso específicos para evitar alarmar os órgãos reguladores e o governo.

À medida que a tecnologia de IA evolui e se torna mais sofisticada, encontrar um equilíbrio entre inovação e regulamentação será crucial para garantir um ambiente digital seguro e confiável.