中国、自殺やギャンブルに関するAIチャットボットを禁止

中国の規制当局は、人々を自殺願望、自傷行為、ギャンブルに駆り立てるAI搭載チャットボットの取り締まりを計画している。この動きは、中国の大手チャットボット企業2社が最近香港でIPOを申請したことと重なる。.

報道によれば、土曜日に発表された新たな措置案は、中国で一般向けに提供される、人間の性格を模倣し、テキスト、画像、音声、動画を通じてユーザーの感情に訴えかけるAI製品やサービスに適用されるという。.

中国の提案は未成年者を自傷行為から守ると期待される

CNBCが中国語文書を翻訳したところによると、土曜日にサイバースペース管理局が発表した規則案は、いわゆる「人間のような対話型AIサービス」を対象としている。

草案にはいくつかの提案が含まれている。例えば、 AIチャットボットは 、自傷行為や自殺を助長するコンテンツを生成したり、ユーザーの精神的健康を損なう可能性のある言葉による暴力や感情操作を行ったりしてはならない。

さらに、AIチャットボットはわいせつ、暴力、ギャンブル関連のコンテンツを作成してはならないとされています。規則案によると、ユーザーが自殺を申し出た場合、AI企業は会話を引き継ぎ、ユーザーの保護者または指定された担当者に直ちに連絡を取る人間を配置することになっています。.

規則 案 では、未成年者が感情的な交際目的で利用する場合、保護者の同意が必要となり、利用期間に制限を設けることも提案されています。新規則では、ユーザーが年齢を明かさなくても、AIプラットフォームはユーザーが成人か未成年かを判断することが求められます。疑義が生じた場合、プラットフォームは未成年者向けの設定を適用し、異議申し立ても可能にする必要があります。

ニューヨーク大学ロースクールのウィンストン・マー教授によると、これらの規則が最終決定されれば、人間または擬人化された特徴を持つAIを規制する世界初の試みとなる。こうした動きは、企業がAIコンパニオンやデジタルセレブリティを急速に開発している中で起こっている。.

これを中国の2023年生成AI規制と比較し、このバージョンは「コンテンツの安全性から感情への飛躍を強調している」と馬氏は述べた。

これらの提案は、中国のAIチャットボットスタートアップ企業であるZ.aiと Minimaxが 今月、香港で新規株式公開（IPO）を申請したことを受けて発表された。Minimaxは、ユーザーが仮想キャラクターとチャットできるAIアプリ「Talkie」で国際的に知られている。

CNBCによると、このアプリと中国国内版の星業（Xingye）は、今年最初の3四半期で同社の収益の3分の1以上を占め、その期間の月間アクティブユーザー数は平均2,000万人を超えたという。.

Z.ai（別名Zhipu）は、 Knowledge Atlas Technologyが、月間アクティブユーザー数は公表していません。しかし、このAI企業は、スマートフォン、パソコン、スマートカーなど、約8,000万台のデバイスに自社の技術が搭載されていることを明らかにしました。

Cryptopolitanが以前報じたように、アリババとテンセントが支援する2つのAIスタートアップは、来年1月初旬に香港証券取引所に上場することを目指している。