中国は現在、検閲と抑圧を強化するためにAIを利用している

漏洩したデータは、中国が大規模な言語モデルを使用して検閲システムを強化していることを示している。.

最近の漏洩により、133,000件のユーザーコンテンツ例に基づいて構築された高度なAIシステムが、政府が機密とみなすあらゆるコンテンツにフラグを立てるように設計されていることが明らかになった。. 

セキュリティ研究者が発見し、 TechCrunch、中国が天安門事件などの話題をはるかに超えてオンライン統制を拡大する措置を講じていることを示している。

中国は最新技術を使ってオンラインコンテンツをフィルタリングしている

2024年12月までの最新のエントリーまで遡るこの漏洩は、中国当局またはその関係機関がオンラインコンテンツをフィルタリングするために新しい技術を使用していることを明確に示しています。. 

データベースには、中国の農村部の貧困に関する苦情、腐敗した共産党員に関するニュース報道、起業家を脅迫する腐敗した警官に対する助けを求める声などが含まれている。. 

各コンテンツは大規模言語モデル (LLM) に送られ、世論の反発を呼ぶ可能性のあるトピックがスキャンされます。.

中国の検閲を研究しているカリフォルニア大学バークレー校の研究者、シャオ・チアン氏は、漏洩したデータは、政府が法学修士号を利用して弾圧を強化しようとする意図の「明確な証拠」だとテッククランチに語った。. 

強氏は、キーワードのフィルタリングや手作業によるレビューに人力に頼る従来の方法とは異なり、LLM は些細な批判でも迅速かつ正確にdentできるため、国家主導の情報統制がより効率的かつ広範囲に及ぶようになると説明した。.

このシステムは政治トピックの検閲にのみ使用されるのではなく、社会生活や軍事におけるデリケートな領域にも及んでいます。漏洩したデータセットの詳細によると、汚染、食品安全スキャンダル、金融詐欺、労働争議に関連するコンテンツは、検閲の「最優先事項」となっています。. 

データによると、2012年の十方公害反対運動のようなトピックは、公共の不安を煽らないよう厳重に監視されている。現職政治家を狙った政治風刺や歴史的類似性でさえ、即座にフラグが立てられる。台湾の政治に関するコンテンツも標的にされており、軍事関連情報（移動、演習、兵器の詳細など）は厳重に監視されている。.

中国の検閲データセットに「台湾」が1万5000回出現

漏洩した内容で注目すべき点は、中国語で「台湾」を意味する単語が1万5000回以上登場し、公式見解に異議を唱える可能性のあるあらゆる議論に焦点が当てられていることを強調している。. 

データセットに含まれるその他のセンシティブなコンテンツには、台湾の軍事力に関する解説や、中国の新型ジェット戦闘機に関する詳細などが含まれます。些細な反対意見でさえも例外ではありません。例えば、データベースには、中国の慣用句「木が倒れると猿が散る」を用いて権力の儚さを説いた逸話が含まれています。

セキュリティ研究者のNetAskari氏は データセット、Baiduサーバー上の安全でないElasticsearchデータベースに保存されていた 

「世論工作」とは、強力な権力を持つ中国サイバースペース管理局（CAC）が監督する検閲とプロパガンダ活動を指す用語です。人権団体Article 19のアジアプログラムマネージャー、マイケル・キャスター氏は、この活動は政府の言説がオンライン上で支配的であり続けるようにするために行われていると説明しました。. 

不明 の 先月OpenAIが発表した報告書によると、中国を拠点とすると思われる正体dentdentdentdentdentdentdentdentdent 蔡霞氏を厳しく批判するコメントを生成するために使用されたことも指摘している。

中国における従来の検閲は、「天安門事件」や「習近平」といったブラックリストに載っている用語を含むコンテンツをmaticにブロックする基本的なアルゴリズムに頼ることが多かった。ユーザーはDeepSeekなどのツールを使ってこれを直接体験してきた。しかし、新しいシステムは、微妙な批判さえも大規模に検知できるようになり、より多くのデータを入力するほど精度が向上している。.