Um homem conhecido apenas como “Hong” foi preso no distrito de Gansu, na China, após supostamente usar o serviço ChatGPT para gerar notícias falsas. A prisão de Hong ocorreu depois que uma investigação sobre um artigo sem fundamento relacionado a um acidente de trem foi descoberto em um popular site de blogs hospedado pelo conglomerado de tecnologia chinês Baidu. Especialistas em segurança cibernética descobriram que pelo menos 20 contas postaram simultaneamente a notícia falsa, levando à prisão de Hong.
A China tem algumas das leis mais rígidas do mundo em relação ao uso de mídia social, e Hong foi preso por “usar tecnologia de inteligência artificial para inventar informações falsas e falsas”, infringindo uma lei contra “provocar brigas e provocar problemas”. cobre especificamente a disseminação de notícias falsas e rumores na internet. Se acusado, Hong pode pegar até cinco anos de prisão sob o estatuto normal, mas pode ser condenado a até 10 anos se os tribunais considerarem o crime particularmente flagrante.
Embora o serviço ChatGPT esteja atualmente banido na China, seu uso pode ser ofuscado por redes privadas virtuais (VPNs). No entanto, serviços de IA locais , como o 'Tongyi Qianwen' do Alibaba, que foi recentemente anunciado como um modelo de IA generativo treinado para responder a perguntas em inglês e mandarim, receberam a bênção do governo chinês. Ainda não está claro se Tongyi Qianwen terá as mesmas habilidades criativas do ChatGPT.
Crescente preocupação com o uso indevido da tecnologia de IA
A falta de modelos robustos de inteligência artificial generativa na China pode ter um efeito assustador no cenário tecnológico do país, particularmente em setores como fintech e comércio de criptomoedas, onde o uso do ChatGPT e produtos construídos na API GPT da OpenAI explodiram em popularidade. É provável que o governo chinês continue monitorando o uso de tecnologias de inteligência artificial e reprimindo aqueles que as utilizam para divulgar informações falsas.
O dent também destaca a crescente preocupação com o uso indevido da tecnologia de inteligência artificial. Embora a inteligência artificial tenha um enorme potencial para transformar uma série de setores, ela também apresenta riscos significativos. A capacidade de gerar notícias falsas convincentes de forma rápida e fácil pode ter sérias consequências para a confiança do público na mídia e no governo. À medida que a inteligência artificial continua avançando, é crucial que desenvolvamos estratégias eficazes para evitar seu uso indevido e garantir que ela seja usada para o bem público.
