IA gera notícias falsas levando à prisão de homem na China: Relatório

Um homem conhecido apenas como “Hong” foi preso no distrito de Gansu, na China, após supostamente usar o serviço ChatGPT para gerar notícias falsas. A prisão de Hong veio após uma investigação sobre um artigo não fundamentado relacionado a um acidente de trem foi descoberta em um popular site de blogs hospedado pelo conglomerado de tecnologia chinês Baidu. Especialistas em segurança cibernética descobriram que pelo menos 20 contas postaram simultaneamente o artigo de notícias falsas, levando à prisão de Hong.

A China tem algumas das leis mais rigorosas do mundo em relação ao uso de redes sociais, e Hong foi preso por “usar tecnologia de inteligência artificial para fabricar informações falsas e não verdadeiras”, violando uma ordem contra “provocar confusão e provocar problemas”, que cobre especificamente a disseminação de notícias falsas e rumores na internet. Se acusado, Hong enfrenta até cinco anos de prisão sob a estatuto normal, mas pode ser condenado a até 10 anos se os tribunais considerarem o delito particularmente grave.

Embora o serviço ChatGPT esteja atualmente banido na China, seu uso pode ser ofuscado por redes privadas virtuais (VPNs). No entanto, serviços de IA nacionais, como o ‘Tongyi Qianwen’ da Alibaba, que foi recentemente anunciado como um modelo de IA generativa treinado para responder perguntas em inglês e mandarim, receberam a bênção do governo chinês. Ainda não está claro se o Tongyi Qianwen terá as mesmas capacidades criativas do ChatGPT.

Preocupação crescente com o uso indevido da tecnologia de IA

A falta de modelos robustos de inteligência artificial generativa na China pode potencialmente ter um efeito resfriador na cena tecnológica da nação, particularmente em setores como fintech e negociação de criptomoedas, onde o uso do ChatGPT e produtos construídos na API GPT da OpenAI explodiu em popularidade. É provável que o governo chinês continue a monitorar o uso de tecnologias de inteligência artificial e reprimir aqueles que as usam para espalhar informações falsas.

O incidente também destaca a crescente preocupação com o uso indevido da tecnologia de inteligência artificial. Embora a inteligência artificial tenha um enorme potencial para transformar uma variedade de indústrias, ela também apresenta riscos significativos. A capacidade de gerar histórias de notícias falsas convincentes rápida e facilmente pode ter consequências sérias para a confiança pública na mídia e no governo. À medida que a inteligência artificial continua a avançar, é crucial que desenvolvamos estratégias eficazes para prevenir seu uso indevido e garantir que seja usada para o bem público.