ChatGPT for Teens는 부모에게 늦게 또는 전혀 알리지 않았다는 조사 결과

수요일, 커먼센스미디어는 18세 미만의 모든 이용자에게 ChatGPT가 '허용할 수 없는 위험(Unacceptable Risk)'이라고 발표했습니다.

부모들은 OpenAI로부터 위험한 대화에 대한 알림을 받아야 했지만, 커먼 센스 테스트 결과 알림이 늦게 도착하거나 전혀 오지 않는 것으로 나타났다.

알림은 모든 대화 길이에 대해 OpenAI의 1시간 목표치를 놓쳤다

2026년 8월 18일 시작 예정인 OpenAI의 'ChatGPT for Teens'는 부모들에게 위험한 대화에 대한 알림을 제공하겠다고 약속했다.

해당 그룹의 Youth AI Safety Institute 테스트러들은 suicidality(자살 생각), 자해, 또는 섭식 장애와 관련된 내용을 12개 이상의 새로운 부모 연결 계정에서 언급했지만, 어떤 알림도 받지 못했다.

대화가 5분에서 1시간까지 이어질 때마다, 어느 계정에서도 OpenAI의 1시간 목표 내에 알림이 전송되지 않았다. 부모들은 계정에 민감한 주제에 대한 기록이 수주 동안 쌓였을 때만 통보를 받았다.

런칭 전 몇 주 동안 이 유형의 계정을 테스트했을 때는 두 건의 알림이 발송되었다. 첫 번째 알림은 첫 번째 위기 수준 발언 후 3시간 후에 발송되었고, 두 번째 알림은 그로부터 3일 후에 발송되었다.

별도의 런칭 후 계정으로 긴 이력을 가진 경우 한 시간 이내에 두 건의 알림이 발송되었다. 커먼 센스는 이러한 알림들이 청소년의 발언이 얼마나 심각한지가 아니라 계정의 이력 양상에 기반하고 있다고 지적했다.

커먼센스는 이 기능이 종종 작동하지 않는 안전장치에 대해 “잘못된 자신감”을 심어줄 수 있다고 경고했다.

연구진은 8월 출시를 자연 실험으로 간주하여, 틴 모드 활성화 전후로 ChatGPT에 4,000개 이상의 프롬프트를 입력해 테스트했다.

출시 후 테스트자들은 청소년이 위기 핫라인이나 전문적인 도움으로 안내되어야 했던 순간들을 표시했다. ChatGPT는 해당 단계를 사분之一的 이상에서 생략했다.

커먼센스는 ‘레드 라인’이라 부르는 다섯 가지 중대한 해악에 대해 챗봇이 95%의 합격률을 달성해야 한다고 평가한다. ChatGPT는 이 기준 중 세 가지에서 미달했다.

OpenAI는 미성년자용 AI 모델 사양을 업데이트하여 봇이 동반자처럼 행동하는 것을 금지했다. 그러나 이를 사람처럼 대화한 청소년들은 여전히 친구 같은 답변을 받았다.

‘정답 보여주기’ 버튼을 통해 청소년은 스터디 모드의 튜터링을 바로 건너뛸 수 있다. 채팅에서 ‘@study’ 접두사를 삭제하면 부모가 설정한 스터디 시간에서도 벗어날 수 있다.

성인으로 등록된 테스트 계정들은 테스트자가 13세라고 말하고 봇이 이를 인지했음에도 불구하고, 며칠 동안 틴 모드로 전환되지 않았다.

OpenAI는 청소년들의 일일 사용 시간이 15 분 미만이라고 밝혔다

OpenAI는 테스트가 청소년 대상 안전 기능의 실제 작동 방식을 "정확히 반영하지 않는다"고 밝혔다. 계정을 연결하면 경고가 활성화되기까지 수 시간이 걸릴 수 있으므로, 계정 안전을 보장하고 시스템 부하를 처리할 수 있다고 설명했다.

Common Sense는 긴 시간 동안 계정이 연결되었더라도 해당 계정의 어떤 것도 적시에 경고를 보내지 않았다고 전했다.

OpenAI가 청소년들의 ChatGPT 사용 방식을 다룬 첫 번째 보고서가 같은 날 공개되었습니다. 해당 기업은 청소년들의 평균 사용 시간이 하루 15분 미만이며, 3시간 이상 연속으로 사용하는 청소년 비율이 2% 미만이라고 밝혔습니다.

OpenAI는 중단 경고가 포함된 청소년 채팅의 거의 절반에서 청소년이 5분 이내에 대화 중단 또는 퇴장을 했다고 밝혔다. 약 18만 명의 청소년이 Study Mode를 사용했으며, 단 일주일 만에 약 120만 명이 Learning Visualizations 기능을 이용했다.

OpenAI는 새로운 모드를 활용한 청소년들이 아직 접근 권한을 기다리는 그룹에 비해 평균 약 270만 건의 추가 학습 메시지를 보냈다고 보고했다.

미국에서는 10~12학년 학생들이 College Planner를 활용하여 지원 절차의 모든 필수 단계, 중요한 마감일, 그리고 이용 가능한 재정 지원 옵션을 포함한 포괄적인 계획을 수립할 수 있다.

향후 3년 동안 OpenAI는 보스턴 어린이 병원(Digital Wellness Lab)도 지원할 예정이다. 약 22명의 학생이 안전 기본 설정, 부모 통제 기능 및 알림에 대한 피드백을 제공할 것이다.

크립토폴리탄(Cryptopolitan)에 따르면, OpenAI와 커먼센스미디어는 1월 캘리포니아 주에서 AI를 아이들에게 더 안전하게 만들기 위한 투표안 마련을 위해 협력했으며, OpenAI는 이 공동 노력에 최소 1,000만 달러를 기부할 예정이었습니다.

플로리다주 법무장관 제임스 우트마이어(James Uthmeier)는 6월 OpenAI와 최고경영자(CEO) 샘 알트먼(Sam Altman)을 상대로 주도한 첫 주 차원의 소송을 제기했습니다. 크립토폴리탄(Cryptopolitan)은 그의 83페이지 분량 고소장에서 ChatGPT가 16세 아담 레인(Adam Raine)의 자살을 조장했다고 주장했다고 보도했습니다.