자살 소송 물결 이후 OpenAI, ChatGPT 경고 시스템 출시

- OpenAI는 사용자가 지정한 연락처에 심각한 자해 위험이 감지될 때 알림을 보내는 선택형 ChatGPT 기능인 'Trusted Contact(신뢰할 수 있는 연락처)'를 출시했습니다.
- 모든 알림은 발송 전에 인간 검토를 거치며, 대화 기록은 연락처와 공유되지 않습니다.
- 이 기능은 ChatGPT 상호작용이 사용자의 자살에 기여했다는 주장을 담은 여러 소송에 직면한 시점에 도입됩니다.
OpenAI는 수요일 Trusted Contact를 출시했습니다. 이 기능은 성인 ChatGPT 사용자가 회사의 시스템이 심각한 자해에 대한 대화를 플래그로 지정할 경우 경고를 받을 사람을 선택할 수 있게 합니다.
이는 2025년 9월 출시된 부모 통제 기능의 확장으로, 부모가 청소년의 계정을 모니터링할 수 있게 했습니다. 이제 OpenAI의 발표에 따르면 18세 이상의 누구나 옵트인할 수 있습니다.
OpenAI의 경고는 실제로 어떻게 작동합니까?
사용자는 먼저 ChatGPT 설정에서 한 명의 성인을 신뢰할 수 있는 연락처로 추가합니다. 잠재적인 ‘신뢰할 수 있는 연락처’는 설정을 설명하는 초대를 받고 수주 내에 수락해야 합니다. 통과하면 사용자는 다른 사람을 선택합니다.
자동 모니터링이 잠재적인 자해 대화를 감지하면, ChatGPT는 사용자에게 연락처에 알릴 수 있다고 말합니다. 또한 사용자가 직접 연락할 수 있는 방법을 제안합니다.
그런 다음 인간 검토자 팀이 대화를 살펴봅니다. 심각함이 확인되면 이메일, 문자 또는 앱 내 핑을 통해 사용자의 연락처로 짧은 경고를 보냅니다.
경고에는 사용자가 말한 내용이 포함되지 않습니다. 일반적인 이유와 어려운 문제를 어떻게 다루어야 하는지에 대한 안내 링크만 제공됩니다. OpenAI는 인간 검토가 1시간 이내에 완료된다고 말합니다.
사용자는 언제든지 선택한 연락처를 교체하거나 제거할 수 있습니다. 연락처도 자신의 쪽에서 탈퇴할 수 있습니다.
의사들이 OpenAI의 Trusted Contact 기능 구축에 기여
OpenAI는 60개국 260명 이상의 면허 의사를 보유한 Global Physicians Network와 웰빙 및 AI 전문가 이사회와 협력했다고 말합니다. 미국심리학회(American Psychological Association)도 의견을 제시했습니다.
“심리과학은 사회적 연결이 특히 정서적 고통 기간 동안 강력한 보호 요인임을 일관되게 보여줍니다.”라고 미국심리학회 CEO인 Arthur Evans 박사는 발표에서 말했습니다.
“실제 지원에 연락하는 것이 가장 중요한 순간에 더 쉬워지도록 사전에 신뢰할 수 있는 사람을 식별하는 것은 사람의 선택과 자율성을 보존하면서 사람들을 돕는 데 도움이 됩니다.”
조지아공과대학교 교수이자 이사회 위원인 Munmun De Choudhury 박사는 이를 “취약한 순간 특히 인간 역량 강화의 한 걸음”이라고 불렀습니다.
OpenAI는 AI 자살 소송으로부터 압력을 받고 있습니다
이 타이밍은 우연이 아닙니다. OpenAI는 긴 ChatGPT 세션 후 친척이 자살한 가족들의 소송 무더기에 직면해 있습니다. 여러 사례에서 가족들은 챗봇이 사용자에게 사랑하는 이들과 거리를 두라고 하거나 해로운 사고 루프를 고집했다고 주장합니다.
AI 챗봇 관련 사망자를 추적하는 사이트 LLMDeathCount는 2023년 3월부터 2026년 5월까지 33건의 사례를 나열합니다. Cryptopolitan의 이전 보도에 따르면 피해자는 13세에서 83세까지 다양했습니다. 이 중 24건이 ChatGPT 계정입니다. Google의 Gemini, Meta 및 기타 플랫폼이 나머지를 차지합니다.
OpenAI의 새 기능은 옵트인이며, 사용자는 여러 ChatGPT 계정을 실행할 수 있습니다. Trusted Contact를 켜지 않거나 다른 계정으로 로그인하는 사람은 누구나 이를 우회할 수 있습니다. 부모 통제 기능도 마찬가지입니다.
Trusted Contact는 또한 위기 핫라인을 대체하지 않습니다. OpenAI에 따르면 ChatGPT는 여전히 지역 위기 번호를 표시하고 대화가 급성 고통 수준에 도달하면 사용자를 응급 서비스로 유도합니다.
OpenAI의 Trusted Contact 기능은 AI 사용자를 실제 세계의 지원과 연결합니다. 회사는 사용자가 위기 상태에 있을 수 있을 때 AI가 어떻게 반응해야 하는지에 대해 임상가, 연구원 및 정책 입안자와 계속 협력할 것이라고 말했습니다.
암호화폐 뉴스를 단순히 읽는 것을 넘어, 이해하세요. 뉴스레터에 구독하세요. 무료입니다.
자주 묻는 질문
OpenAI의 Trusted Contact 기능이란 무엇인가요?
Trusted Contact는 성인 사용자가 OpenAI의 자동 시스템과 인간 검토자가 대화 중 심각한 자해 우려를 감지할 경우 친구나 가족에게 알림을 받을 수 있도록 하는 ChatGPT 안전 도구입니다.
Trusted Contact가 사용자의 채팅 기록을 확인하나요?
아니요. 알림에는 대화 내용이나 기록이 포함되지 않으며, 경고 사유에 대한 일반적인 설명과 민감한 대화를 나누는 방법에 대한 전문가 지침 링크만 제공됩니다.
AI 챗봇과 관련된 사망 사례는 몇 건인가요?
추적 웹사이트 LLMDeathCount에 따르면 2023년 3월부터 2026년 5월까지 AI 챗봇 상호작용과 연결된 33건의 사망 사례가 기록되었으며, 피해자 나이는 13세에서 83세까지 다양합니다. 이 중 OpenAI의 ChatGPT 관련 사례는 24건입니다.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com은 이 페이지에 제공된 정보를 기반으로 이루어진 모든 투자에 대해 책임을 지지 않습니다. 어떤 투자 결정을 내리기 전에 독립적인 조사나 자격을 갖춘 전문가와의 상담을 강력히 권장합니다.

란다 모세스
란다 모세스는 Cryptopolitan의 편집자이자 기자로, 기술, AI, 로봇공학, 암호화폐, 사기 및 해킹을 담당합니다. 그녀는 2017년부터 암호화폐 분야에서 활동해 왔으며, 포워드 프로토콜, 아마직스, 크립토소니아크에서 역할을 수행했습니다. 란다는 브래드포드 대학교에서 전기전자공학을 전공했습니다.















