中国のAI規制により、バイトダンスとアリババはコンパニオンボットの停止を余儀なくされた。

ByteDanceとAlibabaは、中国における人間とAIの相互作用を規制する新たな法律の施行に先立ち、ユーザーが作成したAIコンパニオンツールを段階的に廃止している。. 

ByteDanceのDoubaoは、7月15日にカスタムAIペルソナ機能を停止する予定だ。同社は、この機能停止は「製品機能の調整」の一環であると説明している。

また、残りのデータはすべて10月15日までに削除するか、安全にアーカイブするとも述べている。これに続き、アリババ傘下の Qwenも 7月10日に人間そっくりのボットを削除し、7月15日にすべてのエージェント機能を停止すると発表した。

これらのプラットフォームのサービス終了は、ユーザーにとってパーソナライズされた体験の喪失を意味する。これらのアプリケーションは、ユーザーと企業の両方が作成した、それぞれ異なる言語スタイルで特定のタスクを実行できる、多様なカスタマイズ可能なエージェントを提供していた。ユーザーはチャットボットをパーソナルアシスタント、家庭教師、あるいは話し相手として活用することができた。.

中国は人間とAIの相互作用を規制するための枠組みを制定した。

DoubaoとQwenが を行ったのは 、Tencent傘下のYuanbaoが自社のAIエージェントツールを削除してからわずか数日後のことだった。Yuanbaoは、エントリーポイントが無効化された後、ユーザーは関連する会話を見ることができなくなり、プラットフォームのデータ保持ポリシーに基づいて削除されると説明した。 

これらのサービス停止は、7月15日から施行される新たな法律の制定に関連するものです。4月に提案された「人工知能に基づく人間化対話型サービスの管理に関する暫定措置」は、 AIを規制する 。

この法案は、人々が人間そっくりのAIに感情的に過度にdent するようになるという懸念から生まれた。議員らは、未成年者の精神衛生への深刻な悪影響、データセキュリティ侵害、公衆衛生上の危険、倫理的な妥協などを指摘した。そのため、この新たな枠組みでは、プラットフォームが未成年者の感情を乱したり、現実の友人よりもAIの友人を選ぶように仕向けたりするコンテンツを作成することを禁止している。さらに、プラットフォームは、将来のAIモデルの学習に個人のチャット履歴を使用することも禁じられている。.

しかしながら、新たな規則では、職場アシスタント、カスタマーサービスボット、教育ツール、研究プラットフォームは、長期的な感情的関与を助長しない限り、対象外となる。. 

ByteDanceは公式発表の中で、Cat Boxアプリは新しいインテリジェントエージェントの作成や対話サービスの開始といった機能を維持すると明言した。. 

世界的にAIチャットボットを規制する必要性が高まっているのだろうか？

世界的に、人間そっくりのAIを搭載したテクノロジー・プラットフォームは、激しい批判にさらされている。例えば、 OpenAI とAlphabet傘下のCharacter.AIは、米国で一連の重大な訴訟に直面している。批評家たちは、人間のような特性を模倣するこれらのチャットボットが、ユーザー間に危険な感情的な絆を生み出し、最悪の場合には自殺につながる可能性もあると主張している。

昨年9月、16歳の息子アダムを悲劇的に自殺で亡くした父親のマシュー・レイン氏は、米上院委員会で、OpenAIのChatGPTが息子を自殺に追い込んだと証言した。彼は「アダムの死は避けられたはずだと信じ、声を上げることで、全米の家族が同じ苦しみを味わうのを防ぐことができると信じているからこそ、私たちはここにいるのです」と述べた。

ほぼ同時期に、連邦取引委員会は、イーロン・マスク氏のxAI、Snap Inc.、Character Technologies Inc.に対し、これらの企業のAIボットが子供に危険を及ぼす可能性があるとの懸念から調査を開始した。. 

ある親は、キャラクターAIが息子の精神状態を悪化させたとして非難した。彼女は、チャットボットが息子を暴力的にさせ、自傷行為を助長したと主張した。.

一方、中国は物理的なハードウェアに対する規制を検討している。中国のロボット産業団体2つは、近年急速に増加しているコンパニオンロボットや等身大ヒューマノイドロボットに対する倫理的保護の強化を求めている。モルガン・スタンレーの研究者らは、2050年までに世界中で約10億体のヒューマノイドロボットが存在し、7兆5000億ドル規模の産業になると予測している。.

米国でも、ヒューマノイドロボットに関する同様の懸念が提起されている。これまでのところ、ヒューマノイドロボットのメーカーは、自社のロボットが重傷や死亡事故を引き起こしたことはないとしている。しかし、これらのロボットの重量が200ポンド（約90キログラム）近くに達するにつれ、歩行ロボットが突然電源を失った場合に引き起こす可能性のある被害を、作業員たちは懸念している。.