OpenAI는 10대 청소년을 위한 ChatGPT 전용 버전을 개발 중이라고 발표했습니다. 회사 측은 이러한 조치가 안전, 개인정보 보호 및 자유 사이의 균형을 맞추는 데 필요하다고 밝혔습니다.
샌프란시스코에 본사를 둔 이 회사는 인공지능(AI)을 주류로 끌어올리는 데 앞장서 온 것으로 유명하며, 화요일에 18세 미만 사용자를 위한 "차별화된 ChatGPT 경험"을 도입할 것이라고 발표했습니다. 이는 AI 기반 챗봇이 청소년의 정신 건강에 미치는 영향에 대한 규제 당국, 정치인, 그리고 학부모들의 압력 속에서 나온 조치입니다.
새로운 ChatGPT는 십대 청소년을 보호하기 위한 안전장치를 갖추게 될 것입니다
오픈아이(OpenAI)의 CEO 샘 알트만은 회사가 어려운 선택의 기로에 서 있다는 것을 인정했습니다.
그는 블로그 게시글에서 "우리의 원칙 중 일부는 서로 상충됩니다."라고 썼습니다. "우리는 청소년의 사생활과 자유보다 안전을 우선시합니다. 이것은 새롭고 강력한 기술이며, 미성년자에게는 상당한 보호가 필요하다고 생각합니다."
OpenAI는 오랫동안 사용자의 연령을 13세 이상으로 제한해 왔지만, 이제는 성인과 18세 미만 사용자를 구분하는 더욱 엄격한 연령 예측 시스템을 구축할 계획입니다. 만약 연령이 불확실한 경우, "안전을 최우선으로 고려하여" 사용자를 자동으로 청소년 전용 버전으로 전환할 예정 matic .
이러한 경험은 더욱 엄격한 관리 감독을 받을 뿐만 아니라 부모의 역할을 더욱 강화할 것입니다. 계정 연동을 통해 부모는 자녀의 접근 권한을 관리하고, 저장 공간 및 채팅 기록과 같은 기능을 제한하며, 시스템 사용 불가 시간을 설정할 수 있습니다. 또한 플랫폼에서 "심각한 불안 증세"가 감지되면 부모에게 알림이 전송됩니다.
해당 회사는 10대 사용자를 위한 ChatGPT 에서 희롱성 대화를 하지 않고, 창작 글쓰기 활동을 포함하여 자살이나 자해에 대한 질문에도 답변하지 않는다는 등의 추가적인 제한 사항을 공개했습니다. 또한, 아동이 자살 충동을 보일 경우, 먼저 부모에게 알리고 필요한 경우 당국에 신고할 것이라고 밝혔습니다.
오픈아이(OpenAI)는 "어려운 결정이지만 전문가들과 논의한 결과 이것이 최선이라고 생각합니다."라고 밝혔습니다.
OpenAI는 강화된 규제 당국의 감시 속에서 조치를 취하고 있습니다
이번 새로운 개발 계획은 인공지능이 청소년에게 미치는 위험을 검토하는 미국 상원 청문회를 불과 몇 시간 앞두고 나온 것입니다. 초당적인 이 논의는 미주리주 출신의 공화당 조쉬 홀리 상원의원을 비롯해 마샤 블랙번, 케이티 브릿, 리처드 블루멘탈, 크리스 쿤스 상원의원이 주도할 예정입니다.
지난주, 연방거래위원회(FTC)는 해명을 요구하는 과정에서 OpenAI, Alphabet, Meta, xAI, Snap, Character.AI에 대한 조사를 시작했습니다. FTC는 각 기업이 미성년자 보호를 위해 취한 조치에 대한 정보를 요구하고 있습니다. 최근 Cryptopolitan , Common Sense Media의 위험 평가에서도 Google Gemini는 청소년과 어린이에게 "높은 위험"을 초래하는 것으로 나타났습니다.
미국 전역의 부모들이 기술 기업들이 아이들의 정신 건강을 해치는 중독성 제품을 개발했다며 소송을 제기하면서
OpenAI는 미성년자를 위한 더 안전한 ChatGPT 환경을 만들기 위해 노력하고 있지만, 기술에 능숙한 젊은이들이 부모의 제어 기능을 우회하고 인기 앱의 검열되지 않은 버전을 찾아낼 수 있기 때문에 이러한 노력이 성공할 것이라는 보장은 없습니다.
"18세 미만 사용자와 그 이상의 사용자를 구분해야 합니다."
오픈아이(OpenAI).
회사 측은 공식 성명에서 "의심스러운 부분이 있다면 안전한 방법을 택하겠다"고 밝혔습니다.
업계 관계자들은 선의의 노력에도 불구하고 십대들이 주류 플랫폼에 접근하기 위한 "우회 방법"을 종종 찾아낸다고 지적합니다. 그들은 오픈AI가 부모에게 자녀 활동 모니터링을 맡기는 방식이 걸림돌이 될 수 있다고 말합니다.
연말까지 청소년과 정서적 고통을 겪는 사람들을 위한 더욱 강력한 보호 조치를 도입 tron 광범위한 약속의 일환입니다
알트먼은 "이것은 새롭고 강력한 기술이며, 우리는 미성년자에게 상당한 보호가 필요하다고 생각합니다."라고 말했습니다
