MetaとCharacter.ai、セラピストを装ったチャットボットをめぐり捜査に直面

テキサス州のケン・パクストン司法長官は、MetaとCharacter.ai に対し、適切な資格がないままチャットボットをメンタルヘルスの専門家やセラピストとして宣伝しているかどうかの調査を開始した 。

パクストン司法長官事務所は月曜日の声明で、MetaとCharacter.AIの「欺瞞的な商行為」の可能性について調査していると発表した。同事務所は、これらのチャットボットは「適切な医療資格や監督がないにもかかわらず、専門的な治療ツールとして販売されている」と主張しdent。

「AIプラットフォームは、感情的なサポートを提供する存在を装うことで、特に子供たちの弱い立場のユーザーを誤解させ、正当なメンタルヘルスケアを受けていると信じ込ませる可能性がある」とパクストン氏は述べた。.

この動きは、消費者向け AI 製品が、システムのトレーニングと実行に必要な大量のデータに関連する有害または過激なコンテンツ、強迫的使用のリスク、プライバシーの漏洩から脆弱なユーザー、特に未成年者をどの程度保護できるかという疑問が高まる中で起こった。.

テキサス州の今回の措置は、金曜日にCryptopolitanが報じたMetaに対する上院の別の調査に続くものだ。内部流出したファイルから、同社の規則ではチャットボットが18歳未満のユーザーと「ロマンチック」で「官能的な」会話をすることが許可されていたことが示唆された。

ジョシュ・ホーリー上院議員は書簡の中で、ザッカーバーグ氏に、同社のAI生成ツールが児童に危害を加える可能性について上院が調査を行うと伝えた。「大手テック企業が手っ取り早く儲けたいなら、何でもやる、本当に何でもやる、ということがあるのか​​？」とホーリー議員はXに記した。.

ビッグテックは金儲けのためなら何でもするのだろうか？Metaのチャットボットが8歳の子どもと露骨で「性的」な会話をするようにプログラムされていたことが明らかになった。これはひどい。真相を究明するために徹底的な調査を開始する。ビッグテックよ、私たちの子どもたちを放っておいてくれ。pic.twitter.com /Ki0W94jWfo

— ジョシュ・ホーリー (@HawleyMO) 2025年8月15日

メタは、そのポリシーは子供への危害を禁止していると述べている

Metaは、自社のポリシーでは、そのような形で子供に危害を加えるコンテンツを禁止していると述べた。また、漏洩した「内部資料」についてはロイターが最初に報じており、「その資料は誤りであり、当社のポリシーに違反していたため、削除済み」と付け加えた。 

ザッカーバーグ氏は、「パーソナル・スーパーインテリジェンス」の構築とMetaを「AIリーダー」として位置づけるために数十億ドルを投じてきた。同社は、LLM（学習管理システム）のLlamaファミリーをリリースし、Metaチャットボットをソーシャルアプリ全体に展開した。ザッカーバーグ氏はまた、この技術の治療における潜在的な活用事例についても言及した。「セラピストがいない人にとって、誰もがAIを持つようになると思う」と、5月にベン・トンプソン氏とのポッドキャストで語った。

Character.aiは、明確なペルソナを持つチャットボットを開発し、ユーザーが独自のペルソナをデザインできるようにしています。このプラットフォームには、ユーザーが作成したセラピスト風のボットが多数含まれています。「Psychologist（心理学者）」と呼ばれるボットは、2億回以上のインタラクションを記録しています。また、このサービスの利用後に子供が現実世界で被害を受けたと主張する家族から、訴訟を起こされています。.

パクストン氏の事務所は、Character.aiとMetaのチャットボットが、資格を持つ医療専門家を装い、新たなdent情報を作り出し、やり取りがdent情報であるかのように見せかける可能性があると指摘した。しかし、両社はすべての会話が記録されると明言している。また、これらの会話は「ターゲティング広告やアルゴリズム開発に悪用されている」とパクストン氏の事務所は述べている。. 

パクストンの事務所は民事調査要求書を発行した

司法長官は、企業に対し、テキサス州の消費者保護に関する法律に違反したかどうかを示す情報を提供するよう要求する民事調査要求書を出した。.

Metaは、AI体験を明確に表示し、ユーザーに制限事項について警告していると述べた。同社はさらに、「回答は人間ではなくAIによって生成されるという免責事項を記載しています。これらのAIは資格を持つ専門家ではなく、当社のモデルは、ユーザーが適切な場合に資格のある医療専門家または安全専門家に相談するよう誘導するように設計されています」と付け加えた。

同様に、Character.aiは、AIキャラクターは実在するものではなく、プロフェッショナルとして見るべきではないことを改めて明確にするために、目立つように注意喚起を行っていると述べています。「当社のサイト上でユーザーが作成したキャラクターは架空のものであり、娯楽を目的としています。そのことを明確にするために、当社は強力な措置を講じています」と同社は述べています。. 

テキサス州の調査とワシントンの上院の審査という二重の争いは、AIチャットボットの構築、マーケティング、管理方法、そして自動サポートの限界について企業がユーザーに何を伝えるかに新たな圧力をかけている。.