Reguladores chineses intensificam o monitoramento de desinformação causada por IA em casos de manipulação de mercado

O órgão regulador do mercado de ações da China prometeu aprimorar ainda mais seu trabalho de monitoramento de informações falsas no mercado de ações e unir forças com a polícia e os reguladores do ciberespaço para levar à justiça os culpados pela disseminação de notícias falsas. 

Notícias falsas sempre existiram e continuam causando estragos até hoje. No entanto, a proliferação da inteligência artificial tornou a disseminação de notícias falsas mais fácil do que nunca. Cabe aos órgãos reguladores "agir cedo, agir com firmeza e atacar o cerne" do problema, segundo o Securities Times.

A IA tornou-se uma ferramenta para disseminar desinformação

A inteligência artificial, especialmente a IA generativa, desenvolveu-se a tal ponto que se tornou uma ameaça à circulação de informações verdadeiras.

Qualquer pessoa pode ter acesso a uma IA e, se estiver suficientemente determinada, pode criar a sua própria.

Segundo o Shanghai Securities News, em um artigo separado, essas IAs agora são usadas para disseminar informações enganosas com o objetivo de ludibriar investidores ou manipular ações.

Investidores gananciosos caem facilmente na armadilha de enriquecer rapidamente, e aqueles que foram enganados acabam espalhando desconfiança em relação à IA. Quem pode culpá-los? É difícil abraçar uma tecnologia quando se conhece seu lado sombrio.

Apesar do perigo potencial, o surgimento de empresas como a startup chinesa de IA DeepSeek levou investidores de varejo e gestores de fundos a usar IA para avaliar empresas e investir.

🚀 DeepSeek-R1 chegou!

⚡ Desempenho equivalente ao OpenAI-o1
📖 Modelo e relatório técnico totalmente de código aberto
🏆 Licença MIT: Destile e comercialize livremente!

🌐 O site e a API já estão disponíveis! Experimente o DeepThink em https://t.co/v1TFy7LHNy hoje mesmo!

🐋 1/n pic.twitter.com/7BlpWAPu6y

– DeepSeek (@deepseek_ai) 20 de janeiro de 2025

Um fator que representa riscos para a adoção da tecnologia é o receio de que os investidores sejam enganados por notícias falsas criadas por inteligência artificial.

Segundo o Securities Times, a Comissão Reguladora de Valores Mobiliários da China (CSRC) adotará uma postura mais proativa no combate aos rumores do mercado de ações, emitindo esclarecimentos, incentivando a educação dos investidores e fornecendo orientações que os ajudarão a identificar informações falsas.

Na sexta-feira, as autoridades chinesas emitiram diretrizes exigindo a rotulagem de todo o conteúdo gerado por inteligência artificial que circula online, como parte de sua luta contra o uso indevido de IA e a disseminação de informações falsas.

As reportagens do Securities Times e do Shanghai Securities News coincidem com o Dia Mundial dos Direitos do Consumidor, celebrado anualmente em 15 de março, um importante evento na China, transmitido pela televisão e pelas redes sociais, que promove a proteção do consumidor.

A China é regularmente acusada de disseminar desinformação sobre inteligência artificial direcionada ao público ocidental

No entanto, fora da China, o governo chinês estaria usando inteligência artificial para travar uma guerra de desinformação contra o mundo ocidental por meio de seus agentes.

Há poucos dias, um vídeo que mostrava um monitor executando até 50 instâncias de um agente de IA chinês viralizou no X e muitos marcaram o Grok de Elon Musk na publicação, pedindo uma explicação.

Segundo a Grok, “cada instância parece estar gerenciando uma conta diferente, provavelmente automatizando postagens, comentários ou interações”

A inteligência artificial acrescentou que a configuração "sugere um esforço coordenado para manipular narrativas online, possivelmente para fins de propaganda ou operações de influência. Isso é preocupante porque esses bots podem disseminar desinformação, amplificar conteúdo divisivo ou influenciar a opinião pública em larga escala, ameaçando o discurso democrático."

Embora possa parecer uma teoria rebuscada, a Grok afirmou que o histórico da China de usar IA para operações secretas em redes sociais torna isso um risco real. A IA não está muito longe de se tornar realidade.

A imagem mostra um monitor executando 50 instâncias de um agente de IA chinês, em sua maioria bots de mídias sociais. Cada instância parece estar gerenciando uma conta diferente, provavelmente automatizando publicações, comentários ou interações. Essa configuração sugere um esforço coordenado para manipular narrativas online…

-Grok (@grok) 9 de março de 2025

Em abril de 2024, um relatório da Microsoft Threat Intelligence acusou abertamente as operações de influência da China de usarem inteligência artificial para semear desinformação e fomentar a discórdia globalmente.

O relatório mais recente do Centro de Análise de Ameaças da Microsoft observa que a China está usando contas falsas em redes sociais para sondar eleitores americanos sobre o que mais os divide, com o objetivo de semear a discórdia e possivelmente influenciar o resultado da eleição presidencial dos EUAdentseu favor. https://t.co/ZwAxPOTgLV

— Microsoft Threat Intelligence (@MsftSecIntel) 5 de abril de 2024

Entre as operações destacadas no relatório, estava "um aumento notável no conteúdo com figuras políticas taiwanesas antes das eleiçõesdente legislativas de 13 de janeiro"

Isso incluiu uma gravação de áudio gerada por IA, compartilhada por um grupo ligado ao Partido Comunista Chinês (PCC) conhecido como Storm-1376 ou "Spamouflage", que dava a entender que o proprietário da Foxconn, Terry Gou, que havia lançado uma breve campanhadentdent havia apoiado outro candidato, quando na verdade não o fez.

A Microsoft também registrou a disseminação de apresentadores de notícias gerados por IA, bem como memes gerados por IA, para enganar o público e influenciar as eleições em Taiwan.

“Esta foi a primeira vez que a Microsoft Threat Intelligence testemunhou um agente estatal utilizando conteúdo de IA em tentativas de influenciar uma eleição estrangeira”, afirmou o relatório.

O relatório também alertou que “à medida que as populações da Índia, Coreia do Sul e Estados Unidos se dirigem às urnas, é provável que vejamos agentes cibernéticos e de influência chineses, e em certa medida agentes cibernéticos norte-coreanos, trabalhando para atacar essas eleições”

Embora não haja dúvidas de que as operações de influência da China tenham se tornado cada vez mais sofisticadas com os avanços na IA, a Microsoft observou que há pouquíssimas evidências de que elas tenham sido bem-sucedidas em mudar a opinião pública.

É claro que isso não é motivo para relaxar, pois, embora a Microsoft tenha admitido que o impacto do conteúdo é baixo, expressou preocupação com o futuro, apontando que a crescente experimentação da China em aprimorar memes, vídeos e áudios pode torná-los mais eficazes em semear discórdia com o passar do tempo.