Inteligência artificial gera notícias falsas que levam à prisão de homem na China: Relatório

Um homem conhecido apenas como "Hong" foi preso no distrito de Gansu, na China, após supostamente usar o serviço ChatGPT para gerar notícias falsas. A prisão de Hong ocorreu após uma investigação sobre um artigo sem fundamento relacionado a um acidente ferroviário, descoberto em um popular site de blogs hospedado pelo conglomerado chinês de tecnologia Baidu. Especialistas em segurança cibernética descobriram que pelo menos 20 contas haviam publicado simultaneamente a notícia falsa, o que levou à prisão de Hong.

A China possui algumas das leis mais rigorosas do mundo em relação ao uso de mídias sociais, e Hong foi preso por "usar tecnologia de inteligência artificial para criar informações falsas e inverídicas", infringindo uma lei contra "provocar brigas e tumultos", que abrange especificamente a disseminação de notícias falsas e boatos na internet. Se for indiciado, Hong pode pegar até cinco anos de prisão, de acordo com a lei padrão, mas a pena pode chegar a 10 anos se os tribunais considerarem a ofensa particularmente grave.

Embora o serviço ChatGPT esteja atualmente proibido na China, seu uso pode ser disfarçado por redes virtuais privadas (VPNs). No entanto, serviços de IA desenvolvidos localmente, como o "Tongyi Qianwen" da Alibaba, recentemente anunciado como um modelo de IA generativa treinado para responder perguntas em inglês e mandarim, receberam a aprovação do governo chinês. Ainda não se sabe se o Tongyi Qianwen terá as mesmas capacidades criativas do ChatGPT.

Crescente preocupação com o uso indevido da tecnologia de IA

A falta de modelos robustos de inteligência artificial generativa na China pode ter um efeito inibidor no cenário tecnológico do país, particularmente em setores como fintech e negociação de criptomoedas, onde o uso do ChatGPT e de produtos baseados na API GPT da OpenAI explodiu em popularidade. É provável que o governo chinês continue monitorando o uso de tecnologias de inteligência artificial e reprimindo aqueles que as utilizam para disseminar informações falsas.

Odent também destaca a crescente preocupação com o uso indevido da tecnologia de inteligência artificial. Embora a inteligência artificial tenha um enorme potencial para transformar diversos setores, ela também apresenta riscos significativos. A capacidade de gerar notícias falsas convincentes de forma rápida e fácil pode ter sérias consequências para a confiança pública na mídia e no governo. À medida que a inteligência artificial continua a avançar, é crucial que desenvolvamos estratégias eficazes para prevenir seu uso indevido e garantir que ela seja utilizada para o bem público.