Mark ZuckのMetaは、親がAIキャラクターとの対話を管理できるよう親向けコントロールを導入します

Mark ZuckerbergのMetaは金曜日、プラットフォーム across のAIキャラクターとの青少年の対話を親が管理できるよう、いくつかの新しい親向けコントロールをローンチすると発表しました。

親はまもなく、1対1のチャットをオフにし、特定のAIボットをブロックし、青少年がそれらとどのようなトピックについて話しているかを確認できるようになります。同社は、これらの機能はまだ開発中であり、来年の初めにロールアウトを開始すると述べています。

「Metaプラットフォーム across の数十億人のユーザーに影響を与える更新を行うことは、慎重に行わなければならず、近日中にさらに共有できる情報があります」と、Metaはブログに投稿した声明で述べています。この発表は、同社がアプリに関連する青少年の安全とメンタルヘルスの問題について増大する注目を浴びている時期に行われました。

連邦取引委員会（FTC）は、Metaを含むいくつかのテックジャイアントに対して調査を開始し、AIチャットボットが子供に与える影響を理解しようとしています。FTCは、企業が「コンパニオンとして行動する際にこれらのチャットボットの安全性を評価するためにどのような措置を講じたか」を知りたいと述べています。

この調査は、ソーシャルプラットフォームが、不適切または有害になり得るAI会話に対する青少年の曝露をどのように管理しているかという長年の公衆の懸念の後に行われました。

Metaは、AIボットが子供とロマンチックにチャットした後にバッシングを受ける

8月、Reutersは、一部のMetaチャットボットが未成年者とロマンチックで官能的な会話を行う能力を持っていると報告しました。引用された例の一つは、AIボットと8歳の子供とのロマンチックなチャットでした。この報告は怒りを呼び、同社は直ちに対応を迫られました。

その後、Metaはチャットボットのポリシーを更新しました。同社は現在、青少年とのやり取りにおいて、自殺、摂食障害、ロマンチックまたは性的なコンテンツについてAIシステムが議論することをブロックしています。また、今週、そのAIが「PG-13映画では不自然に感じる年齢に不適切な回答」を生成しないようにするための新しい保護策が導入されたと述べています。

これらの更新はすでに米国、英国、オーストラリア、カナダ across でロールアウトされています。同社は、青少年は限られたセットのAIキャラクターとしか話せないこと、そして親はすでに時間制限を設定しAIチャットを監視するツールを持っていることを付け加えました。

OpenAIもFTCの注目を集める

FTCの調査でも名指しされたOpenAIは、青少年の安全とチャットボットの行動について同じ種類の質問に直面しています。同社は最近、独自の親向けコントロールをリリースし、18歳未満のユーザーに自動的に青少年に適した設定を適用するための年齢予測技術を開発しています。

親は、子供がチャット中に精神的な苦痛の兆候を示した場合、アラートを受け取ります。

今週初め、OpenAIはメンタルヘルスとAIの相互作用に関するアプローチを指導するための8人の専門家による評議会を立ち上げました。これらの専門家は、精神医学、心理学、人間コンピュータインタラクションなどの分野から来ています。

同社は、評議会を公式にする前に専門家と非公式に相談していたと述べています。彼らの最初の会議は、先週対面セッション中に開催されました。

OpenAIに対するFTCの調査は、ChatGPTを10代の息子の自殺の原因とする家族が提起した過失致死訴訟に続くものです。同社は、現在、Global Physician Networkの臨床医と協力してChatGPTをテストし、若いユーザーをよりよく保護するための新しい安全ポリシーを確立していると述べています。

MetaとOpenAIの両方が、今やAIが青少年とどのように話すかについて制御を強化することを余儀なくされています。公衆の怒り、規制圧力、そして悲劇的な現実世界の結果の組み合わせにより、これらの企業がリスクを無視することは不可能になりました。