中国证监会誓言要进一步加强对股市虚假信息的监控，并与警方和网络监管机构携手合作，将散布虚假新闻者绳之以法。.
虚假新闻过去就存在，至今仍造成严重危害。然而，人工智能的普及使得虚假新闻的传播比以往任何时候都更加容易。《证券时报》指出，监管机构必须“及早采取行动，强力打击，直击问题核心”。.
人工智能已成为传播虚假信息的工具
人工智能，特别是生成式人工智能，已经发展到对真实信息传播构成威胁的地步。.
任何人都可以接触到人工智能，如果他们足够坚定，他们甚至可以创造出自己的人工智能。.
据《上海证券报》另一篇文章报道，这些人工智能现在被用来散布误导性信息以欺骗投资者或操纵股票。.
贪婪的投资者很容易被快速致富的诱惑所蒙蔽，而那些被骗的人则开始散播对人工智能的不信任。谁又能责怪他们呢？当你接触过一项技术的阴暗面后，很难再接受它。.
尽管存在潜在危险，但像中国人工智能初创公司DeepSeek这样的公司的出现，已经促使散户投资者和基金经理使用人工智能来评估公司和进行投资。.
🚀 DeepSeek-R1 来了！
⚡ 性能与 OpenAI-o1 相当
📖 完全开源的模型和技术报告
🏆 MIT 许可：可自由提取和商业化！🌐 网站和 API 现已上线！https://t.co/v1TFy7LHNy ！
🐋 1/n pic.twitter.com/7BlpWAPu6y
— DeepSeek (@deepseek_ai) 2025 年 1 月 20 日
阻碍该技术普及的一个风险因素是，投资者担心人工智能制造的虚假新闻会误导他们。.
据《证券时报》报道，中国证监会将更加积极主动地消除股市谣言，通过发布澄清声明、鼓励投资者教育以及提供指导来帮助投资者识别虚假信息。
周五，中国当局发布指导方针，要求对所有在网上流传的人工智能生成内容进行标注，这是其打击滥用人工智能和传播虚假信息的一部分。
《证券时报》和《上海证券报》的报道恰逢3月15日世界消费者权益日，这是中国一项重要的电视和社交媒体活动，旨在促进消费者权益保护。.
中国经常被指控利用人工智能向西方受众散布虚假信息。
然而，据报道，在海外，中国政府正在利用人工智能通过其代理人对西方世界发动虚假信息战。.
就在几天前，一段显示一台显示器上运行着多达 50 个中国人工智能代理实例的视频在 X 上疯传，许多人还标记了埃隆·马斯克的 Grok，要求其做出解释。.
据 Grok 称，“每个实例似乎都在管理不同的帐户，很可能是自动发布帖子、评论或互动。”
该人工智能补充说，这种设置“表明有人在有组织地操纵网络舆论，可能是为了进行宣传或影响力行动。这令人担忧，因为这些机器人可以传播虚假信息、放大分裂性内容或大规模地左右公众舆论，从而威胁民主对话。”
虽然这听起来像是一个牵强的理论，但格罗克指出，中国过去曾利用人工智能进行秘密社交媒体行动，这使得这种风险成为现实。人工智能的出现指日可待。
图片显示一台显示器上运行着50个中国人工智能代理程序，其中大部分是社交媒体机器人。每个程序似乎都在管理不同的账户，很可能是自动发布帖子、评论或进行互动。这种设置表明有人在协同操纵网络舆论……
— Grok (@grok) 2025 年 3 月 9 日
2024 年 4 月，微软威胁情报发布的一份报告直接指责中国的影响力行动利用人工智能散布虚假信息，煽动全球不和。.
微软威胁分析中心最新报告指出，中国正利用虚假社交媒体账户就美国选民最关心的问题进行民意调查，以制造分裂，并可能影响美国总统dent，使其朝着有利于中国的方向发展。https ://t.co/ZwAxPOTgLV
— 微软威胁情报 (@MsftSecIntel) 2024年4月5日
报告中重点提及的运营情况包括“在 1 月 13 日dent和立法委员选举前夕，以台湾政治人物为主题的内容显著增加”。
这其中包括一段由与中国共产党有关联的名为“Storm-1376”或“Spamouflage”的组织分享的人工智能生成的录音，该录音让人觉得富士康老板郭台铭（曾短暂地进行过dentdent竞选）支持了另一位候选人，而事实上他并没有。.
微软还记录了人工智能生成的新闻主播和人工智能生成的表情包的传播，目的是误导受众并影响台湾的选举。.
报告称：“这是微软威胁情报首次发现有国家行为体利用人工智能内容试图影响外国选举。”.
报告还警告说，“随着印度、韩国和美国的民众前往投票站，我们可能会看到中国网络和影响力行动者，以及在某种程度上朝鲜网络行动者，试图干扰这些选举。”
虽然毫无疑问，随着人工智能的进步，中国的影响力运作手段越来越复杂，但微软指出，几乎没有证据表明这些手段已经成功改变了公众舆论。.
当然，这并不是放松的理由，因为尽管微软承认这些内容的影响很小，但它对未来表示担忧，指出中国在增强表情包、视频和音频方面的不断尝试，可能会随着时间的推移，使其在散播不和方面更加有效。
