- OpenAIは、ユーザーが選んだ連絡先に深刻な自傷リスクを示唆する会話があった場合に通知を送るオプション機能「Trusted Contact」をChatGPTに搭載しました。
- すべてのアラートは送信前に人間によるレビューが行われ、チャット記録は連絡先には共有されません。
- この機能の導入は、ChatGPTとのやり取りがユーザーの自殺につながったとしてOpenAIが複数の訴訟に直面している時期に行われています。
OpenAIは水曜日にTrusted Contactをロールアウトしました。この機能により、成人のChatGPTユーザーは、会社のシステムが深刻な自傷行為に関する会話をフラグ付けした場合にアラートを受け取る人物を選択できます。
これは、2025年9月にOpenAIが立ち上げた親権者向けコントロールの拡張です。これにより、親はティーンエイジャーのアカウントを監視できました。OpenAIの発表によると、現在18歳以上であれば誰でもオプトインできます。
OpenAIのアラートは実際にどのように機能するか
ユーザーはまず、ChatGPTの設定で1人の成人をTrusted Contactとして追加します。潜在的な「信頼できる連絡先」は、セットアップを説明する招待を受け取り、1週間以内に承認する必要があります。承認されると、ユーザーは別の人物を選択します。
自動監視が潜在的な自傷行為の会話を検出すると、ChatGPTはユーザーに連絡先を通知する可能性があることを伝えます。また、ユーザー自身が連絡を取る方法も提案します。
その後、人間のレビューチームが会話を確認します。深刻であると確認されると、ユーザーの連絡先に短いアラートがメール、テキスト、またはアプリ内通知で送信されます。
アラートにはユーザーが発信した内容は含まれません。一般的な理由と、困難な話題について話し合うためのガイダンスへのリンクのみです。OpenAIは人間のレビューが1時間以内に完了すると述べています。
ユーザーはいつでも選択した連絡先を変更または削除できます。連絡先側からも離脱することができます。
医師たちがOpenAIの「信頼できる連絡先」機能の構築を支援
OpenAIは、60カ国で260人以上の licensed 医師で構成されるGlobal Physicians Network（グローバル医師ネットワーク）と、Well-Being and AIに関するExpert Council（エクスパート・カウンシル）と連携して作業を行ったと述べています。また、アメリカ心理学会（APA）も意見を寄せています。
「心理科学は、社会的つながりが、特に精神的な苦痛の時期において、強力な保護要因であることを一貫して示しています」と、アメリカ心理学会のCEOであるアーサー・エヴァンス博士は発表の中で述べています。
「信頼できる相手を事前に特定し、その人の選択と自律性を尊重することで、最も重要な時に現実世界のサポートにアクセスしやすくなります。」
ジョージア工科大学の教授であり、カウンシルメンバーでもあるムンムン・デ・チョードリー博士は、これを「特に脆弱な瞬間における人間のエンパワーメントへの一歩」と呼びました。
OpenAIはAI自殺訴訟からの圧力に直面
このタイミングは偶然ではありません。OpenAIは、長期間のChatGPTセッション後に自殺した家族の訴訟に直面しています。いくつかのケースでは、家族はチャットボットがユーザーに loved ones から離れるよう指示したり、有害な思考ループを強化したりしたと主張しています。
AIチャットボット関連の死亡を追跡するサイトLLMDeathCountは、2023年3月から2026年5月までの33件のケースをリストしています。Cryptopolitanの以前の報道によると、犠牲者は13歳から83歳まで多岐にわたります。そのうち24件がChatGPTに関連しています。GoogleのGemini、Meta、その他のプラットフォームが残りを占めています。
OpenAIの新しい機能はオプトイン方式であり、ユーザーは複数のChatGPTアカウントを運用できます。Trusted Contact（信頼できる連絡先）を有効にしない、または別のアカウントにログインするだけで、この機能は回避できます。保護者コントロールについても同様です。
Trusted Contactは危機ホットラインに代わるものではありません。OpenAIによると、ChatGPTは依然として地元の危機対応番号を表示し、会話が急性の苦痛レベルに達した場合はユーザーを緊急サービスへと誘導します。
OpenAIのTrusted Contact機能は、AIユーザーを現実世界のサポートと結びつけます。同社は、ユーザーが危機状態にある可能性のある場合にAIがどのように対応すべきかについて、臨床医、研究者、政策立案者と連携し、取り組みを続けていくと述べています。
これをお読みいただいているあなたは、すでに一歩先を行っています。当社のニュースレターでその先を行ってください。
よくある質問
OpenAIのTrusted Contact機能とは何ですか？
Trusted Contactは、成人ユーザーが友人や家族を指定し、OpenAIの自動システムおよび人間のレビュアーがユーザーの会話の中で深刻な自傷の懸念を検出した際に通知を受け取ることを可能にするChatGPTの安全対策ツールです。
Trusted Contactはユーザーのチャット履歴を確認できますか？
いいえ。通知にはチャットの詳細や記録は含まれず、アラートの一般的な理由と、デリケートな話題について話すための専門家のガイダンスへのリンクのみが共有されます。
AIチャットボットに関連した死亡事例はどれくらいありますか？
追跡ウェブサイト「LLMDeathCount」によると、2023年3月から2026年5月にかけて、AIチャットボットとのやり取りに関連する33人の死亡が記録されています。被害者の年齢は13歳から83歳まで多岐にわたり、そのうち24件がOpenAIのChatGPTに関連しています。
免責事項。 本情報は取引助言ではありません。Cryptopolitan.com は、本ページに記載された情報に基づいて行われた投資に対して一切の責任を負いません。投資判断を下す前に、独自の調査を行うか、資格を有する専門家にご相談することを強く推奨します。
ランダ・モーゼス
ランダ・モーゼスはCryptopolitanのエディター兼記者で、テクノロジー、AI、ロボティクス、暗号資産、詐欺、ハッキングなどを担当しています。2017年以来暗号資産分野で活動しており、Forward Protocol、AmaZix、Cryptosomniacで役職を務めました。ブラッドフォード大学で電気電子工学の学位を取得しています。
