中国、自殺やギャンブルを助長するAIチャットボットを否定

中国の規制当局は、人々を自傷感情や自傷行為、ギャンブルへと駆り立てるAI搭載チャットボットに対する取り締まりを計画しています。この動きは、中国の主要なチャットボット企業2社が最近香港でIPO（新規株式公開）を申請した時期と重なっています。

報道によると、土曜日に発表された新たに提案される措置は、中国で一般向けに提供され、テキスト、画像、音声、またはビデオを通じて人間の人格を模倣し、感情的に関与するAI製品またはサービスに適用されるとされています。

中国の提案は、未成年者を自傷行為から守ることが期待されています。

サイバー空間管理局が土曜日に発表した草案規則によると、これらは同局が「人間のような対話型 AI サービス」と呼ぶものを対象としており、これは中国語文書の CNBC による翻訳に基づくものです。

草案規則にはいくつかの提案が含まれています。例えば、 AI チャットボット は、自殺や自傷を促すコンテンツの生成、ユーザーの精神健康を損なう可能性のある口頭での暴力や感情的な操作を行ってはなりません。

さらに、AIチャットボットは性的に露骨な内容、暴力的な内容、およびギャンブルに関連するコンテンツを作成してはなりません。草案規則によれば、ユーザーが自殺を提案した場合、AI企業は人間が会話を引き継ぎ、直ちにそのユーザーの保護者または指定された個人に連絡する体制を整える必要があります。

草案規則 ではまた、未成年者が感情的な伴侶としての利用を行うには保護者の同意が必要であり、利用時間にも制限を設けることを提案しています。新規則では、AI プラットフォームは年齢の開示の有無にかかわらず、ユーザーが成人か未成年かを判断することが期待されています。疑義が生じた場合は、プラットフォームは未成年者向けの設定を適用し、異議申し立ての機会も提供しなければなりません。

一旦確定，這些規則將標誌著全球首次嘗試規範具有人類或擬人特徵的 AI，據紐約大學法學院教授溫斯頓·馬（Winston Ma）所述。此舉正值企業迅速開發 AI 伴侶和數位名人的時期。

在與中國 2023 年生成式 AI 監管進行比較時，馬認為該版本「標誌著從內容安全向情感層面的跨越」。

これらの提案は、中国の AI チャットボットスタートアップである Z.ai と Minimax が今月香港で株式公開（IPO）を出願したタイミングで行われました。Minimax は、ユーザーが仮想キャラクターとチャットできる Talkie AI アプリで国際的に最も知られています。

據 CNBC 報導，該應用及其國內中文版「星野」佔該公司今年前三季營收的三分之一以上，期間月活躍用戶平均超過 2,000 萬。

Zhipu としても知られる Z.ai は、社名を Knowledge Atlas Technology で提出しましたが、月間アクティブユーザー数は開示していません。しかし、この AI 企業は、その技術がスマートフォン、パーソナルコンピュータ、スマート車両を含む約 8,000 万台のデバイスに搭載されていることを明らかにしました。

Cryptopolitanが以前報じた通り、アリババとテンセントの両社から支援を受けている2つのAIスタートアップは、来年1月上旬に香港証券取引所での上場を目指しています。