中国当局、市場操作における AI による誤情報監視を強化

中国証券監督当局は、株式市場における偽情報の監視機能をさらに強化し、警察やサイバー空間規制当局と連携して、虚偽のニュースを流した者に対して厳正な処罰を下すことを誓った。 

過去にも偽情報は存在し、現在も混乱を引き起こしている。しかし、AIの普及により、偽情報がこれまでにないほど容易に拡散されるようになった。『証券時報』によると、規制当局は問題の核心を「早期に、強く、的確に」打つ必要があるという。

AIは誤情報を拡散する手段として利用されている

人工知能、特に生成AIは、真実の情報流通に対する脅威となるまで発展してしまった。

誰でもAIを利用できるようになり、決意さえあれば自分自身でAIを作成することも可能だ。

別の記事で『上海証券報』が報じたところによれば、これらのAIは投資家を欺くためや株価を操作するために誤解を招く情報を広めるために使用されている。

欲速則不达の投資家は、短期間で巨富を得られるという幻想に陥りやすく、詐欺被害に遭った人々はAIに対する不信感を広める手段として頼ってきました。彼らを責めることはできません。その暗い側面に晒された技術を受け入れるのは難しいものです。

潜在的な危険性があるにもかかわらず、中国のAIスタートアップであるDeepSeekのような企業の登場により、個人投資家やファンドマネージャーが企業評価や投資判断にAIを活用する動きが進んでいます。

🚀 DeepSeek-R1が登場！

⚡ OpenAI-o1と同等のパフォーマンス
📖 完全オープンソースモデル＆技術レポート公開
🏆 MITライセンス：自由にディストリビューション・商用利用可能！

🌐 ウェブサイトとAPIが稼働中！今すぐDeepThinkを https://t.co/v1TFy7LHNy でお試しください

🐋 1/n pic.twitter.com/7BlpWAPu6y

— DeepSeek (@deepseek_ai) 20月 2025日

技術の普及を阻む要因の一つは、人工知能によって作成された偽情報に投資家が騙されるのではないかという懸念です。

証券時報によると、中国証券監督管理委員会は、声明の発行や投資家教育の促進を通じて 株式市場の流言を排除 し、投資家が偽情報を見抜けるようガイダンスを提供することで、より積極的な姿勢を示す予定である。

金曜日、中国当局はAIの悪用と誤情報の拡散への対抗措置の一環として、オンライン上で流通するすべての人工知能生成コンテンツに 表示を義務付ける ガイドラインを発表した。

『証券時報』と『上海証券報』の報道は、消費者保護を推進する中国における主要なテレビ・ソーシャルメディアイベントである3月15日の「世界消費者権利の日」と一致しています。

中国は、西洋の聴衆を対象としたAIによる誤情報拡散で頻繁に非難されています。

しかし、中国国外では、中国政府が自らのエージェントを通じて、西洋世界に対してAIを用いた誤情報戦争を仕掛けていると報じられています。

わずか数日前、中国のAIエージェントが最大50インスタンスで動作している様子を示す動画がXでバズり、多くのユーザーがElon MuskのGrokにタグ付けして説明を求めました。

Grokによると、「各インスタンスは異なるアカウントを管理しており、投稿、コメント、またはやり取りの自動化を行っている可能性が高い」とのことです。

このAIはさらに、この設定は「オンライン上のナラティブを操作するための調整された取り組みを示唆しており、プロパガンダや影響力を持つ作戦のためである可能性があります。懸念されるのは、これらのボットが誤情報を拡散し、分断的なコンテンツを増幅したり、大規模な世論を操作したりする可能性があるため、民主的な議論を脅かす点です」と述べています。

一見すると荒唐無稽な理論のように思えるが、Grok は 指摘した 通り、中国が非公開のソーシャルメディア運用にAIを活用してきた歴史を踏まえると、これは現実的なリスクであり、その懸念は的を射ている。

画像には、主にソーシャルメディアのボットである中国のAIエージェントが50インスタンスで動作しているモニターが映っています。各インスタンスは異なるアカウントを管理しており、投稿、コメント、またはやり取りの自動化を行っている可能性があります。この設定は、オンライン上のナラティブを操作するための調整された取り組みを示唆しています,…

— Grok (@grok) 9月 2025日

2024年4月、Microsoftの脅威インテリジェンス部門は、中国の影響力作戦が人工知能を用いて世界的に誤情報を流布し、対立を煽っていると明確に非難する報告書を発表しました。

Microsoft Threat Analysis Centerの最新レポートによると、中国は米国の有権者を最も分断している要因について調査するため、偽のソーシャルメディアアカウントを利用し、社会の分断を煽り、米国大統領選挙の結果を自国に有利に導こうとしている可能性がある。 https://t.co/ZwAxPOTgLV

— Microsoft Threat Intelligence (@MsftSecIntel) 2024 年 4 月 5 日

報告中強調的行動包括「在 1 月 13 日總統及立法委員選舉前夕，出現顯著增加涉及台灣政治人物的內容」。

其中包括由與中國共產黨（CCP）有關聯、名為 Storm-1376 或「Spamouflage」的群體分享的 AI 生成音頻錄音，該錄音讓人誤以為曾短暫以獨立候選人身份參選的鴻海創辦人郭台銘支持了另一位候選人，但實際上他並未 endorsing。

微軟也記錄到，有人利用 AI 生成的新聞主播和 AI 生成的迷因來誤導受眾並影響台灣的選舉。

報告聲稱：「這是微軟威脅情報團隊首次見證國家行為者使用 AI 內容試圖影響外國選舉。」

報告還警告稱：「隨著印度、韓國和美國選民即將前往投票站，我們很可能會看到中國網絡與影響力行為者，以及在一定程度上北韓國際網絡行為者，針對這些選舉展開行動。」

AI の進展に伴い、中国の影響力行使が高度化していることに疑いの余地はないが、マイクロソフトは、世論を変えたという明確な証拠はほとんどないとの見解を示した。

もちろん、Microsoft 認めたように影響が低いとしても、油断はできません。同社は将来への懸念を表明し、中国がミーム、動画、音声の強化における実験をさらに進めることで、時間が経つにつれて分断を煽る効果がより高まる可能性がある点を指摘しました。