中国监管机构加强监控AI在市场操纵中的虚假信息

中国的证券监管机构誓言要更好地履行监控股市虚假信息的职责，并与警察和网络空间监管机构合作，对散布假新闻的罪犯伸张正义。 

假新闻过去存在，至今仍在造成巨大破坏。然而，人工智能的普及使得虚假信息的传播比以往任何时候都更加容易。据《证券时报》称，监管机构必须“早出手、重拳出击、直击要害”。

人工智能已成为传播错误信息的工具

人工智能，尤其是生成式人工智能，已发展到对真实信息传播构成威胁的程度。

任何人都可以接触到人工智能，如果他们足够坚定，就能创建自己的模型。

据《上海证券报》另一篇文章称，这些人工智能现在被用来传播误导性信息，以欺骗投资者或操纵股票。

贪婪的投资者很快成为一夜暴富前景的受害者，而那些被骗的人则转而散布对人工智能的不信任。这能怪谁呢？当你接触到其阴暗面时，很难拥抱这项技术。

尽管存在潜在危险，但像中国人工智能初创公司DeepSeek这样的公司的出现，促使散户投资者和基金经理使用人工智能来评估公司和进行投资。

🚀 DeepSeek-R1 来了！

⚡ 性能与 OpenAI-o1 相当
📖 完全开源模型及技术报告
🏆 MIT 许可：自由蒸馏和商业使用！

🌐 网站和API现已上线！今天就在https://t.co/v1TFy7LHNy尝试DeepThink！

🐋 1/n pic.twitter.com/7BlpWAPu6y

— DeepSeek (@deepseek_ai) January 20, 2025

阻碍该技术采用的一个因素是，人们担心投资者会被人工智能制造的假新闻误导。

据《证券时报》报道，中国证券监督管理委员会将通过发布澄清和鼓励投资者教育，变得更加积极主动地消除股市谣言，同时提供指导，帮助投资者识别虚假信息。

周五，中国当局发布了指南要求在所有在线传播的人工智能生成内容上添加标签，作为其打击AI滥用和虚假信息传播的一部分。

《证券时报》和《上海证券报》的报道恰逢3月15日一年一度的“世界消费者权益日”，这是中国促进消费者保护的主要电视和社交媒体活动。

中国经常因针对西方受众的人工智能虚假信息而受到指责

然而，在中国境外，据报道，中国政府正通过其代理人使用人工智能对西方世界发动虚假信息战。

就在几天前，一段显示一台显示器运行多达50个中国人工智能代理实例的视频在X平台上疯传，许多人将其与埃隆·马斯克的Grok联系起来，要求解释。

据Grok称，“每个实例似乎都在管理不同的账户，可能是在自动化发布帖子、评论或互动。”

该人工智能补充道，这种设置“表明这是一场协调一致的努力，旨在操纵网络叙事，可能是为了宣传或影响力行动。这令人担忧，因为这些机器人可以传播虚假信息、放大分裂性内容，或在大规模上影响公众舆论，威胁民主话语。”

虽然这看起来像是一个牵强的理论，但Grok指出，中国使用AI进行隐蔽社交媒体行动的历史使这成为一个真正的风险。AI的判断并不遥远。

图片显示一台显示器正在运行50个中国人工智能代理实例，大多数是社交媒体机器人。每个实例似乎都在管理不同的账户，可能是在自动化发布帖子、评论或互动。这种设置表明这是一场协调一致的努力，旨在操纵网络叙事，…

—— Grok (@grok) 3月 9, 2025

2024年，微软威胁情报部门在4月的一份报告中直接指控中国的影响力行动利用人工智能在全球散布虚假信息并煽动不和。

微软威胁分析中心（Microsoft Threat Analysis Center）的最新报告指出，中国正在使用虚假的社交媒体账户对美国选民进行民意调查，以了解他们最分歧的地方，从而制造分裂并可能影响美国总统大选的结果以利于中国。https://t.co/ZwAxPOTgLV

— Microsoft Threat Intelligence (@MsftSecIntel) April 5, 2024

报告中提到的行动包括“在1月13日总统和立法选举前夕，涉及台湾政治人物的内容显著增加。”

其中包括一个由与中国共产党的（CCP）关联组织Storm-1376或“Spamouflage”分享的AI生成音频录音，该录音让人误以为曾短暂发起独立总统竞选的富士康创始人郭台铭支持另一位候选人，而事实上他并未支持。

微软还记录了AI生成的新闻主播以及AI生成的模因的传播，以误导受众并影响台湾的选举。

“这是微软威胁情报部门首次见证一个国家行为体使用AI内容试图影响外国选举，”报告声称。

报告还警告称，“随着印度、韩国和美国的人口前往投票站，我们可能会看到中国的网络和影响力行为体，以及在某种程度上朝鲜的网络行为体，致力于针对这些选举。”

虽然毫无疑问，随着人工智能的进步，中国的影响力行动变得越来越复杂，但微软指出，几乎没有证据表明它们成功地改变了公众舆论。

当然，这绝不是放松警惕的理由，因为即使微软承认内容的影响较低，它仍对未来的担忧表示关切，指出中国不断增加在增强模因、视频和音频方面的实验，可能会随着时间的推移使其在制造不和方面变得更加有效。