マーク・ザックのMetaは、親がAIキャラクターをブロックしたり、ティーンのチャットトピックを閲覧したりできるようになる。

マーク・ザッカーバーグ氏のMetaは金曜日、同社のプラットフォーム上で10代の若者がAIキャラクターとどのように会話するかを保護者が管理できるよう、新たなペアレンタルコントロールを導入すると発表した。.

保護者はまもなく、1対1のチャットをオフにしたり、特定のAIボットをブロックしたり、お子様がどのような話題を話しているかを確認したりできるようになります。同社によると、これらの機能はまだ開発中で、来年初めに提供を開始する予定です。.

「Metaプラットフォーム全体の数十億人のユーザーに影響を与えるアップデートは、慎重に行う必要があり、近日中に詳細をお知らせします」とMetaはブログに投稿した声明で述べた。今回の発表は、同社アプリに関連する10代の若者の安全とメンタルヘルスの問題に対する監視が強化される中で行われた。.

連邦取引委員会（FTC）は、Metaを含む複数のテクノロジー大手に対し、AIチャットボットが子供にどのような影響を与える可能性があるか調査を開始した。FTCは、企業が「これらのチャットボットが仲間として利用する際、その安全性を評価する」ためにどのような対策を講じているかを知りたいと述べた。

この 調査は 、ソーシャルプラットフォームが、不適切または有害となる可能性のあるAIによる会話に若者が触れることをどのように管理しているかについて、何年も国民が懸念していたことを受けて行われた。

AIボットが子供とロマンチックな会話をした後、Metaは反発に直面

8月、ロイター通信は、Metaの一部のチャットボットが未成年者と恋愛関係や官能的な会話を交わす可能性があると報じました。その例として挙げられていたのは、AIボットと8歳の子供との恋愛関係に関する会話でした。この報道は激しい非難を引き起こし、同社は直ちに対応を迫られました。.

その後、Metaはチャットボットのポリシーを更新しました。同社は現在、AIシステムが10代の若者と対話する際に、自傷行為、自殺、摂食障害、恋愛関係や性的な内容について話すことをブロックしています。また、今週、AIが「PG-13指定の映画にそぐわないような年齢にふさわしくない応答」をすることを防ぐための新たな安全対策を導入したと述べています。

これらのアップデートはすでに米国、英国、オーストラリア、カナダで展開されています。同社はさらに、10代の若者が話せるAIキャラクターは限られており、保護者には時間制限を設定したりAIチャットを監視したりするためのツールが既に提供されていると付け加えました。.

OpenAIがFTCの監視下でMetaに参加

FTCの調査対象にも挙げられているOpenAIも、10代の若者の安全とチャットボットの行動について同様の疑問に直面している。同社は最近、独自のペアレンタルコントロールをリリースし、18歳未満のユーザーに適切な設定をmaticに適用する年齢予測技術を開発している。.

子供がチャット中に精神的苦痛の兆候を示した場合、保護者は警告を受け取ることもできます。.

OpenAIは今週初め、メンタルヘルスとAIとのインタラクションへのアプローチを指導するため、8人の専門家からなる協議会を設立しました。これらの専門家は、精神医学、心理学、ヒューマンコンピュータインタラクションなどの分野から集まっています。.

同社は、協議会を正式に発足させる前に専門家らと非公式に協議を重ねてきたと述べた。最初の会合は先週、対面形式で行われた。.

FTCによるOpenAIへの調査は、10代の息子の自殺をChatGPTのせいにした家族が起こした不法死亡訴訟を受けて行われたものでもある。同社は現在、グローバル医師ネットワークの臨床医と協力してChatGPTのテストを行い、若いユーザーをより適切に保護するための新たな安全ポリシーを策定しているという。.

MetaとOpenAIは共に、自社のAIが10代の若者とどのように対話するかについて、より厳格な管理を迫られています。国民の怒り、規制圧力、そして現実世界での悲劇的な結果が重なり、これらの企業はもはやリスクを無視できなくなっています。.