中国の草案規則、AI生成コンテンツの明確な表示を要求

中国の国家インターネット情報弁公室（Cyberspace Administration of China）は、新しい草案規則の一部として、人工知能によって作成されたすべてのコンテンツにラベルを付けることを検討しています。報道によると、中国のインターネット当局である規制当局は、すべてのデジタルプラットフォームおよびオンラインサービスプロバイダーに、AI生成コンテンツにAIマークを追加するよう求める草案計画をすでに準備しています。

9月14日の発表で、規制当局は、この動きがAI生成コンテンツのコンテンツ識別プロセスを標準化し、プラットフォームを使用する個人および組織の国家安全保障と利益を保護すると述べました。

規制当局は、10月14日まで一般からのコメントを受け付ける草案法をリリースしました。発表によると、一般は[email protected]へのメールまたは国家インターネット情報弁公室のネットワーク管理技術局への手紙でコメントを送信できます。

一般からのコメントが最終的な規則の草案に影響を与える可能性がありますが、専門家は、中国当局はコメントに基づいて草案規則に劇的な変更を加えることで知られていないため、提案された規則は現在の形で最小限の変更で通過する可能性が高いと信じています。

草案規則は、AIコンテンツにロゴと音声プロンプトの追加を要求します

草案規則は、AIによって作成されたテキスト、ビデオ、または画像ファイルには、それがAI生成であることを示すロゴを含めることを提案しており、これによりそのようなコンテンツに遭遇する任何人に通知します。ユーザーがラベルに気づくことを確保するため、規則はビデオの開始時、終了時、およびその他の関連する瞬間に表示されることを求めています。

音声ファイルの場合、作成者は、AI生成コンテンツを聴く前にユーザーに通知する音声プロンプトを追加する必要があり、そのようなプロンプトは音声コンテンツのさまざまな部分について通知します。音声コンテンツを再生するすべてのソフトウェアも、ユーザーがAIコンテンツの聴取を開始したときに通知するプロンプトを備えることが要求されます。

提案された規則の4条は次のように読みます：

「サービス提供者が提供する生成合成サービスが『インターネット情報サービスの深層合成管理規定』第17条第1項に該当する場合、生成された合成コンテンツには、以下の要件に従って明示的なロゴを追加しなければならない。」

一方、草案規則は、ファイルに埋め込まれたメタデータにもAI生成であることを反映することを要求しており、これによりそのようなコンテンツにラベルを付けることが可能になります。ただし、メタデータがない場合、サービスプロバイダーがコンテンツを分析し、AI生成であると疑われる場合にそれをラベル付けすることが求められます。

規則は中国のインターネットユーザーにも適用されます。AI生成コンテンツを投稿する個人は、それをラベル付けする必要があります。他のプラットフォームでAIツールを使用する場合、提案された法律は個人情報を提供することを要求し、AI生成プラットフォームは6ヶ月間その活動をログに記録します。

中国はインターネットプラットフォームに技術の共有を要求

一方、草案計画には、ソーシャルメディアプラットフォームがAIコンテンツを検出するための技術を他者と共有することを要求する規定も含まれており、これはプロセスを標準化し、AIコンテンツを検出する能力を向上させることを目的としています。

中国ではコンテンツモデレーションがインターネット利用の重要な部分であったため、新しい規則は驚きではありません。しかし、ディープフェイクや他のAI生成コンテンツが詐欺や他の違法行為を行うために多くの人々によって使用されている現状を考えると、AIコンテンツへの焦点はより関連性が高いと思われます。

Facebook、Instagram、TikTokなど、中国以外のいくつかの人気ソーシャルメディアプラットフォームは、すでにコンテンツモデレーションの一部としてAIコンテンツにラベルを付けています。しかし、それらの検出ツールは完璧ではなく、これらのプラットフォームでは複数の超現実的なコンテンツがAIタグを回避しています。