자살 관련 소송이 잇따르자 오픈아이얼(OpenAI)이 챗GPT(ChatGPT) 알림 시스템을 출시했습니다

OpenAI는 수요일에 Trusted Contact 기능을 출시했습니다. 이 기능은 ChatGPT의 성인 사용자들이 자해와 관련된 심각한 대화가 오갈 경우 알림을 받을 사람을 지정할 수 있도록 합니다.

이는 OpenAI가 2025년 9월에 출시한 부모가 십대 자녀의 계정을 모니터링할 수 있도록 하는 자녀 보호 기능의 확장입니다. OpenAI의 발표에 따르면 이제 18세 이상이면 누구나 이 기능을 사용할 수 있습니다.

OpenAI의 알림 기능은 실제로 어떻게 작동할까요?

사용자는 ChatGPT 설정에서 성인 한 명을 신뢰할 수 있는 연락처로 추가하는 것으로 시작합니다. 추가된 "신뢰할 수 있는 연락처"는 설정 방법을 설명하는 초대장을 받게 되며, 수락 여부는 일주일 이내에 결정해야 합니다. 만약 수락하지 않으면, 사용자는 다른 사람을 선택합니다.

자동 모니터링 시스템이 자해 가능성이 있는 대화를 감지하면 ChatGPT는 해당 사용자에게 연락처에 알림이 전송될 수 있음을 알립니다. 또한 사용자가 직접 연락할 수 있는 방법도 제시합니다.

그런 다음 담당자 팀이 대화를 검토합니다. 심각한 문제라고 판단되면 이메일, 문자 메시지 또는 앱 내 알림을 통해 사용자의 연락처에 간단한 알림을 보냅니다.

알림에는 사용자가 뭐라고 말했는지는 나와 있지 않습니다. 단지 일반적인 이유와 어려운 상황을 어떻게 해결해야 할지에 대한 안내 링크만 제공됩니다. OpenAI에 따르면 담당자의 검토는 한 시간 안에 완료됩니다.

사용자는 언제든지 선택한 연락처를 변경하거나 삭제할 수 있습니다. 연락처에 있는 사람도 언제든지 탈퇴할 수 있습니다.

의사들이 OpenAI의 신뢰할 수 있는 연락처 기능 ​​개발에 참여했습니다

OpenAI는 전 세계 60개국 260명 이상의 면허 소지 의사로 구성된 글로벌 의사 네트워크와 웰빙 및 AI 전문가 위원회와 협력했다고 밝혔습니다. 미국 심리학회도 의견을 제시했습니다.

미국심리학회 CEO인 아서 에반스 박사는 발표문에서 "심리학 연구는 사회적 연결이 특히 정서적 고통을 겪는 시기에 강력한 보호 요인이라는 것을 일관되게 보여준다"고 말했다.

"사람들이 자신의 선택과 자율성을 존중하면서 신뢰할 수 있는 사람을 미리dent돕는 것은 가장 필요할 때 실질적인 도움을 받는 데 도움이 될 수 있습니다."

조지아 공과대학 교수이자 평의회 위원인 문문 드 초두리 박사는 이를 "특히 취약한 순간에 인간의 역량을 강화하는 데 한 걸음 더 나아간 것"이라고 평가했습니다

OpenAI는 AI 자살 소송으로 압박을 받고 있습니다

이 시점은 우연이 아닙니다. 오픈아이언은 ChatGPT를 장시간 사용한 후 자살한 가족 구성원의 유족들로부터 수많은 소송에 직면해 있습니다. 여러 사례에서 유족들은 주장합니다 챗봇이 사용자에게 사랑하는 사람과의 관계를 끊으라고 하거나 해로운 생각의 악순환을 심화시켰다고

LLMDeathCount에사이트인 trac에 따르면 희생자들의 연령은 13세에서 83세까지 다양했습니다 Cryptopolitan의 이전 보도. 이 중 24건은 ChatGPT와 관련이 있으며, 나머지는 구글의 제미니, 메타 및 기타 플랫폼과 관련이 있습니다.

OpenAI의 새로운 기능은 선택 사항이며, 사용자는 여러 개의 ChatGPT 계정을 운영할 수 있습니다. 신뢰할 수 있는 연락처 기능을 켜지 않거나 다른 계정으로 로그인하는 사용자는 이 기능을 전혀 사용할 수 없습니다. 자녀 보호 기능도 마찬가지입니다.

Trusted Contact는 위기 상담 전화를 대체하는 것이 아닙니다. OpenAI에 따르면 ChatGPT는 여전히 지역 위기 상담 전화번호를 보여주고 대화 내용이 심각한 고통 수준에 도달하면 사용자를 응급 서비스로 안내합니다.

OpenAI의 Trusted Contact 기능은 AI 사용자를 실제 지원 서비스와 연결해 줍니다. 회사 측은 AI 사용자가 위기에 처했을 때 AI가 어떻게 대응해야 하는지에 대해 임상의, 연구자 및 정책 입안자들과 지속적으로 협력할 것이라고 밝혔습니다.