中国サイバースペース管理局は、新たな規則案の一環として、人工知能（AI）によって作成されたすべてのコンテンツにラベルを貼付することを検討している。報道によると、中国のインターネット規制当局である同局は、既にすべてのデジタルプラットフォームとオンラインサービスプロバイダーに対し、AI生成コンテンツにAIマークを付記するよう求める草案を策定している。.
発表で、この措置によりAI生成コンテンツのコンテンツ識別dent、国家安全保障とプラットフォームを利用する個人および組織の利益が保護されると述べた。
規制当局は法案草案を発表し、10月14日までパブリックコメントを募集している。発表によると、一般市民は電子メールで[email protected]、または手紙で国家インターネット情報局のネットワーク管理技術局にコメントを送信できる。
一般からの意見が規則の最終草案に影響を及ぼす可能性はあるが、中国当局は意見に基づいて規則草案に大幅な変更を加えることでは知られていないため、提案された規則は最小限の変更で現在の形で可決される可能性が高いと専門家は考えている。.
草案の規則では、AIコンテンツにロゴや音声プロンプトを追加することが求められている。
草案では、AIによって作成されたテキスト、動画、画像ファイルには、AIによって生成されたことを示すロゴを記載することが提案されています。これにより、そのようなコンテンツを閲覧するすべての人に、AIによって生成されたことが効果的に通知されます。ユーザーがラベルに気付くように、この規則では、動画の冒頭、末尾、その他の関連する瞬間にラベルを表示することを求めています。.
音声ファイルの場合、作成者は、AI生成コンテンツを視聴しようとしていることをユーザーに知らせる音声プロンプトを追加する必要があります。このプロンプトは、音声コンテンツの様々な部分をユーザーに通知するものです。音声コンテンツを再生するすべてのソフトウェアにも、AIコンテンツの視聴開始時にユーザーに通知するプロンプトが必須となります。.
提案された規則の第 4 条は次のとおりです。
「サービスプロバイダーが提供する生成合成サービスがインターネット情報サービス深層合成管理規則第17条第1項に該当する場合、生成された合成コンテンツには、以下の要件に従って明示的なロゴを追加しなければならない。」
一方、この規則案では、ファイルに埋め込まれたメタデータにAI生成であることが反映されることが義務付けられており、これにより、そのようなコンテンツにラベルを付けることが可能になっています。しかし、メタデータがない場合、コンテンツがAI生成であると疑われる場合、サービスプロバイダーがコンテンツを分析し、AI生成であるとラベル付けすることになります。.
これらの規則は中国のインターネットユーザーにも適用されます。AI生成コンテンツを投稿する個人は、そのコンテンツにラベルを付ける必要があります。他のプラットフォームでAIツールを使用する場合、提案されている法律では個人情報の提供が義務付けられており、AI生成プラットフォームはユーザーの活動記録を6か月間保存します。.
一方、計画草案には、ソーシャルメディアプラットフォームがAIコンテンツを検出するための技術を他のプラットフォームと共有しなければならないという要件も含まれており、これはプロセスを標準化し、AIコンテンツを検出する能力を向上させることを目的としている。.
中国では、コンテンツモデレーションがインターネット利用において常に重要な要素となっていることを考えると、今回の新規則は驚くべきものではない。しかし、ディープフェイクなどのAI生成コンテンツが、多くの人々によって詐欺などの違法行為に利用されていることを考えると、AIコンテンツへの重点的な取り組みはより重要になっているように思われる。.
Facebook、Instagram、TikTokなど、中国国外の人気ソーシャルメディアプラットフォームでは、既にコンテンツモデレーションの一環としてAIコンテンツにラベルを付けています。しかし、これらのプラットフォームの検出ツールは完璧ではなく、多くのハイパーリアリスティックコンテンツが依然としてAIタグの対象外となっています。
