中国規制当局、市場操作におけるAI誤情報の監視を強化

中国の証券監督機関は、株式市場における偽情報の監視をさらに強化し、警察やサイバースペース規制当局と連携して偽ニュースを拡散した者に正義をもたらすと誓った。. 

フェイクニュースは過去にも存在し、現在もなお大きな混乱を引き起こしています。しかし、AIの普及により、フェイクニュースの拡散はかつてないほど容易になっています。証券時報によると、規制当局は「早期に、強力に、そして核心を突く」必要があるとのことです。.

AIは誤情報を拡散するツールとなっている

人工知能、特に生成型AIは、真の情報の流通にとって脅威となるまでに発展しました。.

誰でも AI を入手することができ、十分な決意があれば独自の AI を作成することもできます。.

上海証券報の別の記事によると、これらのAIは現在、投資家を騙したり株価を操作したりするために誤解を招く情報を広めるのに使用されているという。.

貪欲な投資家は、あっという間に金持ちになれるという期待に簡単に騙され、騙された人たちはAIへの不信感を広めるようになりました。彼らを責めることができるでしょうか？テクノロジーのダークサイドを目の当たりにしてしまうと、なかなか受け入れることができません。.

潜在的な危険性にもかかわらず、中国のAIスタートアップ企業DeepSeekのような企業の出現により、個人投資家やファンドマネージャーは企業を評価し投資するためにAIを利用するようになった。.

🚀 DeepSeek-R1 が登場しました!

⚡ OpenAI-o1 と同等のパフォーマンス
📖 完全オープンソースのモデルと技術レポート
🏆 MIT ライセンス: 自由に蒸留および商用化できます!

🌐 ウェブサイトとAPIが稼働開始しました！ https://t.co/v1TFy7LHNy 今すぐDeepThinkをお試しください！

🐋 1/n pic.twitter.com/7BlpWAPu6y

— DeepSeek (@deepseek_ai) 2025年1月20日

この技術の導入にリスクをもたらす要因の一つは、投資家が人工知能によって作り出された偽のニュースに惑わされるのではないかという懸念だ。.

証券時報によると、中国証券監督管理委員会は、 払拭する だろう。

中国当局は金曜日、 ことを義務付ける AIの悪用や偽情報の拡散との戦いの一環として、オンラインで流通するすべてのAI生成コンテンツにラベルを付ける

証券時報と上海証券報の報道は、中国で消費者保護を促進する主要なテレビとソーシャルメディアのイベントである、毎年恒例の3月15日の世界消費者権利デーと同時期に行われた。.

中国は欧米の視聴者をターゲットにしたAIの誤情報を流していると頻繁に非難されている

しかし、中国国外では、中国政府がAIを使い、エージェントを通じて西側諸国に対して偽情報戦争を仕掛けていると報じられている。.

ほんの数日前、モニターで最大50の中国製AIエージェントのインスタンスを実行している様子を示すビデオがXで話題となり、多くの人がイーロン・マスクのGrokをタグ付けして説明を求めた。.

Grok によれば、「各インスタンスは異なるアカウントを管理しているようで、投稿、コメント、またはやり取りを自動化している可能性があります。」

AIはさらに、この設定は「オンライン上の言説を操作するための組織的な取り組みを示唆しており、おそらくプロパガンダや影響力行使を目的としている。これらのボットは誤情報を拡散し、分断を招くコンテンツを増幅させ、大規模な世論操作を行い、民主的な議論を脅かす可能性があるため、懸念される」と述べた。

突飛な理論のように思えるかもしれないが、グロック氏は、 考える と、これは現実的なリスクだと述べている。AIの登場はそう遠くない。

この画像は、主にソーシャルメディアボットである中国製AIエージェントのインスタンス50個が稼働しているモニターを示しています。各インスタンスはそれぞれ異なるアカウントを管理しているようで、投稿、コメント、またはインタラクションを自動化しているようです。この構成は、オンライン上の言説を操作しようとする組織的な取り組みを示唆しています。

— Grok (@grok) 2025 年 3 月 9 日

2024年4月にマイクロソフト脅威インテリジェンスが発表した報告書は、中国が人工知能を利用して偽情報を広め、世界的に不和を煽っていると公然と非難した。.

マイクロソフト脅威分析センターの最新レポートによると、中国は偽のソーシャルメディアアカウントを使って、米国有権者の間で最も意見が分かれる点について世論調査を行い、分断を煽り、ひいては米国大統領選挙の結果を自国に有利な方向に誘導しようとしているとのことですdent: //t.co/ZwAxPOTgLV

— Microsoft Threat Intelligence (@MsftSecIntel) 2024年4月5日

報告書で強調されている活動には、「1月13日のdent選挙と立法府選挙を前に、台湾の政治家を特集したコンテンツの顕著な増加」が含まれていた。

これには、Storm-1376または「Spamouflage」として知られる中国共産党（CCP）関連のグループが共有したAI生成の音声録音が含​​まれており、短期間の独立dent 選挙運動を展開したフォックスコンのオーナー、テリー・dent氏が別の候補者を支持したかのように思わせたが、実際にはそうではなかった。.

マイクロソフトはまた、視聴者を欺き、台湾の選挙に影響を与えるために、AI生成のニュースキャスターやAI生成のミームの配信も記録した。.

「マイクロソフト脅威インテリジェンスが、国家レベルの攻撃者がAIコンテンツを使って外国の選挙に影響を与えようとしているのを目撃したのはこれが初めてだ」と報告書は主張している。.

また、「インド、韓国、米国の国民が投票に向かう中、中国のサイバー勢力や影響力のある組織、そしてある程度は北朝鮮のサイバー勢力が、これらの選挙を標的に活動する可能性が高い」と警告した。

中国による影響力行使がAIの進歩とともに巧妙化していることに疑いの余地はほとんどないが、マイクロソフトは、中国による世論操作が成功していることを示す証拠はほとんどないと指摘した。.

もちろん、だからといって安心できるわけではない。マイクロソフトは と認めつつ 、将来への懸念を表明し、中国がミーム、動画、音声の活用において実験を重ねるにつれ、それが時間の経過とともに不和を煽る上でより効果的になる可能性があると指摘した。