Reguladores chineses intensificam o monitoramento de desinformação por IA em manipulação de mercado

A autoridade de supervisão de valores mobiliários da China prometeu melhorar ainda mais seu trabalho de monitoramento de informações falsas no mercado de ações e unir-se à polícia e aos reguladores do espaço cibernico para entregar justiça àqueles culpados de espalhar notícias falsas. 

Notícias falsas existiam no passado e ainda causam estragos até hoje. No entanto, a proliferação da IA tornou as notícias falsas mais fáceis de espalhar do que nunca. Cabe aos reguladores “atingir cedo, atingir com força e atingir no cerne” do problema, de acordo com o Securities Times.

A IA tornou-se uma ferramenta para espalhar desinformação

A inteligência artificial, especialmente a IA generativa, desenvolveu-se a ponto de se tornar uma ameaça à circulação de informações verdadeiras.

Qualquer pessoa pode obter uma IA e, se estiverem suficientemente determinadas, podem criar a sua própria.

De acordo com o Shanghai Securities News em um artigo separado, essas IAs agora são usadas para espalhar informações enganosas para enganar investidores ou manipular ações.

Investidores gananciosos rapidamente se tornam vítimas da perspectiva de ficar ricos rapidamente, e aqueles que foram enganados recorreram a espalhar desconfiança sobre a IA. Quem pode culpá-los? É difícil abraçar uma tecnologia quando você foi exposto ao seu lado sombrio.

Apesar do perigo potencial, o surgimento de empresas como a startup chinesa de IA DeepSeek impulsionou investidores de varejo e gestores de fundos a usar a IA para avaliar empresas e investir.

🚀 DeepSeek-R1 está aqui!

⚡ Desempenho equivalente ao OpenAI-o1
📖 Modelo totalmente de código aberto e relatório técnico
🏆 Licenciado MIT: distile e comercialize livremente!

🌐 O site e a API estão ativos agora! Experimente o DeepThink em https://t.co/v1TFy7LHNy hoje!

🐋 1/n pic.twitter.com/7BlpWAPu6y

— DeepSeek (@deepseek_ai) January 20, 2025

Um fator que representa riscos para a adoção da tecnologia é o medo de que os investidores sejam enganados por notícias falsas criadas por inteligência artificial.

De acordo com o Securities Times, a Comissão Reguladora de Valores Mobiliários da China se tornará mais proativa em combater os rumores do mercado de ações emitindo esclarecimentos e incentivando a educação dos investidores, ao mesmo tempo em que fornece orientação para ajudar os investidores a identificar informações falsas.

Na sexta-feira, as autoridades chinesas emitiram diretrizes exigindo rótulos em todo o conteúdo gerado por inteligência artificial circulante online como parte de sua luta contra o uso indevido da IA e a disseminação de informações falsas.

Os relatórios do Securities Times e do Shanghai Securities News coincidem com o Dia Mundial dos Direitos do Consumidor de 15 de março, um grande evento de televisão e mídia social na China que promove a proteção ao consumidor.

A China é regularmente acusada de usar desinformação por IA direcionada a audiências ocidentais

No entanto, fora da China, o governo chinês está supostamente usando a IA para travar uma guerra de desinformação contra o mundo ocidental por meio de seus agentes.

Apenas alguns dias atrás, um vídeo que mostrava um monitor executando até 50 instâncias de um agente de IA chinês viralizou no X e muitos marcaram o Grok de Elon Musk nele, pedindo uma explicação.

De acordo com o Grok, “cada instância parece estar gerenciando uma conta diferente, provavelmente automatizando postagens, comentários ou interações.”

A IA acrescentou que a configuração “sugere um esforço coordenado para manipular narrativas online, possivelmente para operações de propaganda ou influência. É preocupante porque esses bots podem espalhar desinformação, amplificar conteúdo divisivo ou influenciar a opinião pública em uma escala massiva, ameaçando o discurso democrático.”

Embora possa parecer uma teoria improvável, o Grok afirmou que o histórico da China de usar IA para operações secretas de mídia social torna esse um risco real. A IA não está longe.

A imagem mostra um monitor executando 50 instâncias de um agente de IA chinês, principalmente bots de mídia social. Cada instância parece estar gerenciando uma conta diferente, provavelmente automatizando postagens, comentários ou interações. Essa configuração sugere um esforço coordenado para manipular narrativas online,…

— Grok (@grok) March 9, 2025

Em 2024, um relatório de abril da Microsoft Threat Intelligence acusou abertamente as operações de influência da China de usar inteligência artificial para semear desinformação e incitar a discórdia globalmente.

O mais recente relatório do Centro de Análise de Ameaças da Microsoft observa que a China está usando contas falsas de mídia social para sondar eleitores dos EUA sobre o que mais os divide, a fim de semear a divisão e possivelmente influenciar o resultado das eleições presidenciais dos EUA a seu favor. https://t.co/ZwAxPOTgLV

— Microsoft Threat Intelligence (@MsftSecIntel) April 5, 2024

As operações destacadas no relatório incluíram “um aumento notável no conteúdo envolvendo figuras políticas taiwanesas antes das eleições presidenciais e legislativas de 13 de janeiro.”

Isso incluiu uma gravação de áudio gerada por IA compartilhada por um grupo vinculado ao Partido Comunista Chinês (PCC) conhecido como Storm-1376 ou “Spamouflage”, que fez parecer que o proprietário da Foxconn, Terry Gou, que havia montado uma breve campanha presidencial independente, havia endossado outro candidato, quando na verdade ele não o fez.

A Microsoft também registrou a disseminação de âncoras de notícias geradas por IA, bem como memes gerados por IA, para enganar o público e influenciar as eleições em Taiwan.

“Esta foi a primeira vez que a Microsoft Threat Intelligence testemunhou um ator do estado-nação usando conteúdo de IA em tentativas de influenciar uma eleição estrangeira”, afirmou o relatório.

O relatório também alertou que “à medida que as populações da Índia, da Coreia do Sul e dos Estados Unidos se dirigem às urnas, é provável que vejamos agentes cibernéticos e de influência chineses e, em certa medida, agentes cibernéticos norte-coreanos, trabalhando para atingir essas eleições.”

Embora não haja dúvida de que as operações de influência da China têm crescido em sofisticação com os avanços da IA, a Microsoft observou que há muito pouca evidência de que elas tenham sido bem-sucedidas em mudar a opinião pública.

Claro, isso não é motivo para relaxar, pois, embora a Microsoft admitisse que o impacto do conteúdo é baixo, ela expressou preocupação com o futuro, apontando que a crescente experimentação da China em aumentar memes, vídeos e áudio pode torná-la mais eficaz em semear a discórdia com o passar do tempo.