Meta、新しいロールアウト前にティーン向けAIキャラクターを無効化

Metaは、世界中のすべてのアプリでティーンのエクスプレスのAIキャラクターへのアクセスをすべて無効にすると発表しました。

「今後数週間で、更新された体験が準備できるまで、ティーンは当社のアプリ全体でAIキャラクターにアクセスできなくなります」とMetaはブログ投稿で書きました。

同社は更新されたブログ投稿で、このルールはティーンの誕生日を提供した人々、および年齢予測技術によってティーンであると疑われているが大人であると主張する人々をカバーすると述べています。

Metaは、親がティーンのAIインタラクションに関する明確な情報と制御を要求した際にアクセスを停止しました。

同社は今年これらの機能をリリースする計画でしたが、AIキャラクターを完全に無効化することを決定しました。

Metaは年齢別AIキャラクターを計画

同社はティーン専用の特別なAIキャラクターを作成することを目指しています。 Meta ティーン向けの新しいAIキャラクターには親の制御が含まれると述べています。

新しいキャラクターは、年齢に適した返信を提供し、教育、スポーツ、趣味に焦点を当てます。

10月、Metaはティーンがアプリ上でAIとどのように関わるかをカスタマイズするための親の制御を導入しました。新しい機能は、PG-13評価に触発され、ティーンが極端な暴力、ヌード、グラフィックな薬物使用を閲覧することを制限しました。

数日後、同社はAIキャラクターの管理ツールを導入し、親や保護者がサブジェクトを追跡し、特定のキャラクターへのアクセスを制限できるようにしました。 Metaは、親がAIキャラクターとのチャットを完全に無効にできると述べています。

木曜日、Wired 述べた Metaがソーシャルメディアがティーンのメンタルヘルスに与える影響に関する情報収集や関連レポートを制限しようとしたと報じました。

同社は、ソーシャルメディアに関連する最近のティーンの自殺事例への言及、Metaの財務、従業員の活動、マーク・ザッカーバーグのハーバード時代への言及を削除したいと考えています。

Metaがティーン向けAIキャラクターを停止する動きは、ニューメキシコ州での裁判の直前に発生しています。Metaは、アプリ上で子供を保護しなかったとして起訴されています。

Metaは、サイト上で未成年者をオンラインでの勧誘、人身売買、性的虐待から保護しなかったとされています。

Metaは審理前の動議で、陪審員はニューメキシコ州の不公正取引法（子供への安全性と青少年のメンタルヘルスに関する）に違反したかどうかのみを決定すべきだと述べています。 

選挙干渉、誤情報、またはプライバシー侵害などの他の問題は考慮すべきではありません。

ニューメキシコ州のケースに加え、Metaは来週、ソーシャルメディア中毒を引き起こしたとして裁判に直面しています。 

19歳の原告、K.G.M.として知られる人物は、プラットフォームのアルゴリズムが中毒を引き起こし、彼女のメンタルヘルスを害したと主張しています。

CEOのマーク・ザッカーバーグは、裁判が始まると証言する可能性があります。

オンラインプラットフォーム、ティーンへのアクセスを強化

ソーシャルメディアプラットフォームとAI企業は、自傷行為に寄与したとする訴訟により、ティーン向け体験を変更しました。 

1月20、 は、ChatGPTの無料プランの視聴者を週10億人以上のアクティブユーザーと見積もっており、広告モデルが無料版の運営を支えています。 ChatGPTに年齢予測機能を導入し、若いユーザーの検出と保護の強化を図りました。

ChatGPTの年齢予測モデルは、ユーザーの申告年齢、アカウントの年齢、アクティビティの時間、使用傾向などの行動およびアカウントデータを分析します。

先週、TikTokはヨーロッパでAI技術を導入し、13歳未満のユーザーのアカウントを検出して削除しました。 

AI年齢制御システムは、プロフィールの詳細、クリップ、投稿習慣を調べ、未成年者のアカウントを特定します。この機能は数週間で展開されます。

Instagram、YouTube、TikTok、Robloxなどの他のオンラインプラットフォームも年齢制限措置を採用しました。