오픈AI, 십대 전용 새로운 ChatGPT 개발 중

OpenAI는 10대를 위한 전용 ChatGPT 버전을 개발 중이라고 발표했으며, 이는 안전, 프라이버시 및 자유 사이의 균형을 맞추기 위해 필요하다고 밝혔습니다.

AI를 대중화하는 데 주력한 것으로 유명한 샌프란시스코 기반 회사는 화요일 18세 미만 사용자를 위해 '다른 ChatGPT 경험'을 도입할 것이라고 밝혔습니다. 이는 규제 기관, 정치인 및 부모들이 AI 기반 채팅봇이 젊은이들의 정신 건강에 미치는 영향에 대한 더 강한 검사를 촉구하는 가운데 이루어진 것입니다.

새로운 ChatGPT는 10대를 보호하기 위한 가드레일을 갖추게 됩니다

OpenAI CEO Sam Altman은 회사가 어려운 절충에 직면했다고 인정했습니다.

“우리의 일부 원칙이 충돌합니다,” 그는 블로그 게시물에 썼습니다. “우리는 10대를 위해 안전을 프라이버시와 자유보다 우선시합니다. 이는 새롭고 강력한 기술이며, 미성년자에게 상당한 보호가 필요하다고 믿습니다.”

OpenAI은 오랫동안 사용자가 최소 13세 이상이어야 한다고 요구해 왔지만, 이제 성인과 18세 미만 사용자를 구분하기 위해 더 엄격한 연령 예측 시스템을 구축할 intentions입니다. 불확실성이 있는 경우, '과잉 주의' 차원에서 자동으로 사용자를 10대 전용 버전으로 전환합니다.

그 경험은 더 엄격하게 감독될 뿐만 아니라 부모를 더 중심적인 역할로 배치합니다. 계정 링크를 통해 어머니와 아버지는 자녀의 접근을 관리하고, 메모리 및 채팅 기록과 같은 기능을 제한하며, 시스템 사용이 불가능한 블랙아웃 시간을 설정할 수 있습니다. 플랫폼이 '급성 고통'의 징후를 감지하면 부모에게도 알림이 전송됩니다.

회사는 추가 제한 사항을 공표했는데, 예를 들어 10대를 위한 ChatGPT는 구애성 대화를 하지 않으며, 창의적인 글쓰기 내에서도 자살이나 자기 손상 관련 질문에 응답하지 않습니다.如果孩子表现出自杀念头，该公司表示将首先尝试通知父母，必要时通知当局。

“이것은 어려운 결정이지만, 전문가들과 논의한 결과 이것이 최선이라고 생각합니다,” OpenAI는 썼습니다.

OpenAI는 강화된 규제 감독 속에서 행동하고 있습니다

이 새로운 제안된 개발은 AI가 10대에게 미치는 위험을 조사하기 위한 미국 상원 청문이 몇 시간 앞으로 다가온 시점에 이루어집니다. 양당 토론은 미주리 주 공화당 상원의원 Josh Hawley를 중심으로 Marsha Blackburn, Katie Britt, Richard Blumenthal, Chris Coons 상원의원들이 이끌 것입니다.

지난주, 답변을 구하는 과정에서 연방거래위원회(FTC)는 OpenAI, Alphabet, Meta, xAI, Snap 및 Character.AI에 대한 조사를 시작했습니다. 위원회는 각사가 미성년자를 보호하기 위해 취한 조치에 대한 정보 제출을 요구하고 있습니다. 최근 Cryptopolitan이 보도한 바와 같이, Common Sense Media의 위험 평가도 Google Gemini를 10대와 어린이에게 '고위험'으로 분류했습니다.

소송이 압력을 가중시키고 있습니다. 미국 전역의 부모들이 기술 회사들이 어린이의 정신 건강에 해로운 중독성 제품을 설계했다고 비난하며 불만을 제기했습니다. 이 일련의 법적 조치는 이미 YouTube와 같은 기업들이 어린이 친화적인 대안을 만들도록 강요했습니다.

OpenAI가 미성년자를 위한 더 안전한 ChatGPT를 위해 노력하고 있지만, 기술에 능숙한 청소년들이 부모 통제 장치를 우회하여 필터링되지 않은 인기 앱 버전을 찾을 수 있으므로 이 이니셔티브가 성공할 것이라는 보장은 없습니다.

“우리는 18세 미만 사용자와 그렇지 않은 사용자를 분리해야 합니다.”

OpenAI.

“의심스러운 경우, 우리는 안전을 우선시합니다,” 회사는 공개 성명에서 설명했습니다.

업계 관찰자들은 잘 의도된 노력에도 불구하고 10대들이 종종 메인스트림 플랫폼에 접근하기 위한 '우회 방법'을 찾는다며, OpenAI가 활동 모니터링을 부모에게 의존하는 것은 걸림돌이 될 수 있다고 말합니다.

새로운 이니셔티브는 OpenAI가 올해 말까지 어린 사람들과 정서적 고통을 겪는 사람들을 위한 더 강력한 보호 조치를 도입하겠다는 더 넓은 약속의 일부입니다.

Altman의 말처럼 “이것은 새롭고 강력한 기술이며, 우리는 미성년자에게 상당한 보호가 필요하다고 믿습니다.”