中国はAIを使用して検閲と弾圧を強化している

漏洩したデータによると、中国は大規模言語モデルを使用して検閲機械を強化している。

最近の漏洩により、13万3,000件のユーザーコンテンツの例に基づいて構築された洗練されたAIシステムが、政府によって機密と見なされるあらゆる素材をフラグ付けするために設計されていることが明らかになった。 

このデータセットはセキュリティ研究者によって発見され、 TechCrunchによって確認されたが、中国が天安門事件のようなトピックを超えてオンライン上の支配を拡大しようとしていることが示されている。

中国は現代技術を使用してオンラインコンテンツをフィルタリングしている

2024年12月までの最新のエントリーを含むこの漏洩は、中国当局またはその関連企業が新しい技術を使用してオンラインコンテンツをフィルタリングしている明確な兆候である。 

データベースには、中国の農村部の貧困に関する苦情、腐敗した共産党員に関するニュース報道、起業家を脅迫する腐敗した警察官への助けの叫びが含まれている。 

各コンテンツは、公衆の反発を煽る可能性のあるトピックを検出するために大規模言語モデル（LLM）に供給される。

中国の検閲を研究するUCバークレーの研究者、シャオ・チアン氏は、TechCrunchに対し、漏洩したデータは政府がLLMを使用して弾圧を改善する意図の「明確な証拠」であると語った。 

チアン氏は、従来の方法がキーワードフィルタリングと手動レビューに人間の労働を依存しているのに対し、LLMは微妙な批判でさえも迅速かつ正確に識別でき、国家主導の情報管理をより効率的かつ広範囲にするため、従来の方法とは異なると説明した。

このシステムは政治的なトピックの検閲だけでなく、社会生活や軍事問題の機密な領域にも拡張されている。漏洩したデータセットの詳細によると、汚染、食品安全スキャンダル、金融詐欺、労働争議に関連するあらゆるコンテンツは、検閲に対して「最高優先度」が与えられる。 

データによると、2012年のシファンの反汚染抗議などのトピックは、公衆の混乱を防ぐために慎重に監視されている。現在の政治指導者に向けた政治風刺や歴史的なアナロジーでさえ即座にフラグ付けされる。台湾政治に関連するコンテンツも標的とされており、軍事問題、つまり動き、演習、兵器の詳細に関する報告は厳重に監視されている。

中国の検閲データセットに「台湾」が15,000回出現

漏洩したコンテンツの注目すべき詳細は、台湾を意味する中国語（台湾）が1万5,000回以上出現しており、公式の物語に挑戦する可能性のあるあらゆる議論に焦点が当てられていることを強調している。 

データセット内の他の機密コンテンツには、台湾の軍事能力に関するコメントや、新しい中国製ジェット戦闘機に関する詳細が含まれている。微妙な形の dissent でさえ免れることはなく、データベースで見つかった一例は、権力の儚さを示す一般的な中国のことわざ「樹木が倒れれば猿は散る」を用いた逸話である。

セキュリティ研究者のNetAskariは、 データセットを発見し、これはBaiduサーバー上の保護されていないElasticsearchデータベースに保存されていた。 

「世論工作」とは、強力な中国国家インターネット情報弁公室（CAC）が監督する検閲とプロパガンダの取り組みを指す用語である。人権団体Article 19のアジアプログラムマネージャーであるマイケル・カスター氏は、この取り組みは政府の物語がオンラインで支配的であり続けることを確保するために設計されていると説明した。 

補完的な提出 レポート 先月OpenAIからの報告書によると、中国から操作している可能性のある未確認のアクターが生成AIを使用してソーシャルメディアの会話を監視し、特に人権抗議を呼びかけるものについて、その情報を中国政府に転送していた。同じ報告書は、この技術が著名な中国の活動家である蔡霞氏を強く批判するコメントを生成するために使用されたことも指摘した。

中国の伝統的な検閲は、しばしば「天安門事件」や「習近平」などのブラックリスト用語を含むコンテンツを自動的にブロックする基本的なアルゴリズムに依存してきた。ユーザーはDeepSeekのようなツールを通じてこれを firsthand で経験している。しかし、新しいシステムは大規模なスケールで微妙な批判を検出でき、より多くのデータを供給されるにつれて改善される。