自殺訴訟の急増を受け、OpenAIがChatGPTアラートシステムを発表

OpenAIは水曜日に「Trusted Contact」機能を公開した。この機能により、ChatGPTの成人ユーザーは、同社のシステムが深刻な自傷行為に関する会話を検出した場合に、アラートを受け取る相手を選択できるようになる。.

これは、OpenAIが2025年9月に開始した、親が10代の子供のアカウントを監視できるペアレンタルコントロール機能の拡張版です。OpenAIの発表によると、18歳以上であれば誰でも利用できるようになりました。.

OpenAIのアラートは実際にはどのように機能するのか

ユーザーはまず、ChatGPTの設定で信頼できる連絡先として大人を1人追加します。候補となる「信頼できる連絡先」には、設定方法を説明する招待状が送られ、1週間以内に承諾する必要があります。承諾しない場合は、ユーザーは別の人物を選択します。.

自動監視システムが自傷行為の可能性のある会話を検知すると、 ChatGPTは ユーザーに、連絡先に通知する可能性があることを通知します。また、ユーザー自身が連絡を取るための方法も提案します。

次に、人間の審査員チームが会話内容を確認します。深刻な内容だと判断した場合、メール、テキストメッセージ、またはアプリ内通知で、ユーザーの連絡先に短いアラートを送信します。.

アラートにはユーザーの発言内容は含まれません。一般的な理由と、難しい問題を話し合うためのガイダンスへのリンクのみです。OpenAIに よると、 人間の審査は1時間以内に完了するとのことです。

ユーザーはいつでも選択した連絡先を変更または削除できます。連絡先側も、いつでも離脱できます。.

医師たちがOpenAIの信頼できる連絡先機能の開発に協力した。

OpenAIは、グローバル医師ネットワーク（60か国に260人以上の医師免許保持者）およびウェルビーイングとAIに関する専門家評議会と協力してこの取り組みを行ったと述べている。アメリカ心理学会も意見を表明した。.

「心理学の研究は一貫して、社会的つながりが、特に精神的に苦痛を感じている時期において、強力な保護因子であることを示している」と、米国心理学会のCEOであるアーサー・エバンス博士は発表の中で述べた。.

「人々が事前に信頼できる人物をdentできるよう支援しつつ、彼らの選択と自律性を尊重しれば、本当に必要な時に現実世界での支援を求めやすくなる。」

ジョージア工科大学の教授であり、評議会メンバーでもあるムンムン・デ・チョードリー博士は、これを「特に脆弱な状況にある時において、人間のエンパワーメントに向けた一歩前進だ」と評した。

OpenAIはAI自殺訴訟による圧力に直面している

このタイミングは偶然ではない。OpenAIは、ChatGPTとの長時間のセッション後に自殺した親族の遺族から、山積みの訴訟に直面している。複数のケースで、遺族は 主張している チャットボットがユーザーに愛する人から離れるよう促したり、有害な思考のループを強めたりしたと

LLMDeathCountにサイト tracによると、犠牲者の年齢は13歳から83歳までと幅広かった Cryptopolitan以前の報道。そのうち24件はChatGPTによるもので、残りはGoogleのGemini、Meta、その他のプラットフォームによるものだ。

OpenAIの新機能はオプトイン方式で、ユーザーは複数のChatGPTアカウントを運用できます。信頼できる連絡先機能を有効にしないユーザー、または別のアカウントにログインするユーザーは、この機能を回避できます。ペアレンタルコントロール機能にも同様の問題があります。.

Trusted Contactは、危機対応ホットラインに取って代わるものではありません。OpenAIによると、ChatGPTは引き続き地域の危機対応番号を表示し、会話が深刻な苦痛レベルに達した場合には、ユーザーを緊急サービスへと誘導します。.

OpenAIの「Trusted Contact」機能は、AIユーザーと現実世界の支援者を繋ぐものです。同社は、ユーザーが危機的状況に陥った際にAIがどのように対応すべきかについて、臨床医、研究者、政策立案者と引き続き協力していくと述べています。.