메타, 새로운 롤아웃 전 청소년용 AI 캐릭터 기능 비활성화

메타는 전 세계 모든 앱에서 청소년들의 AI 캐릭터 접근을 모두 비활성화한다고 발표했습니다.

“앞으로 몇 주 동안 업데이트된 경험이 준비될 때까지 청소년들은 우리 앱들에서 AI 캐릭터에 접근할 수 없게 됩니다,”라고 메타는 블로그 게시글에서 밝혔습니다.

회사는 업데이트된 블로그 게시글에서 이 규칙이 청소년 생일을 제공한 모든 사용자와, 연령 예측 기술에 의해 청소년으로 의심되지만 성인이라고 주장하는 사람들을 포함한다고 명시했습니다.

메타는 부모들이 청소년의 AI 상호작용에 대해 더 명확한 정보와 통제를 요구함에 따라 접근을 중단했습니다.

회사는 올해 이러한 기능을 출시할 계획이었지만, AI 캐릭터를 완전히 비활성화하기로 결정했습니다.

메타, 연령별 AI 캐릭터 계획

회사는 청소년 전용 특별 AI 캐릭터를 제작하는 것을 목표로 하고 있습니다. 메타 새로운 청소년용 AI 캐릭터에는 부모 통제 기능이 포함될 것이라고

밝혔습니다. 새로운 캐릭터들은 연령에 적합한 답변을 제공하고 교육, 스포츠, 취미에 중점을 둘 예정입니다.

10월, 메타는 청소년들이 앱에서 AI와 상호작용하는 방식을 사용자 정의할 수 있는 부모 통제 기능을 도입했습니다. 새로운 기능들은 PG-13 등급에서 영감을 받아 청소년들이 극단적인 폭력, 음란물, 선정적인 약물 사용 등을 viewing하지 못하도록 제한했습니다.

며칠 후, 회사는 AI 캐릭터 관리 도구를 도입하여 부모와 보호자가 주제를 추적하고 특정 캐릭터에 대한 접근을 제한할 수 있도록 했습니다. 메타는 부모들이 AI 캐릭터와의 채팅을 완전히 비활성화할 수 있다고 밝혔습니다.

목요일, 와이어드(Wired) 말했다. 메타가 소셜 미디어가 청소년 정신 건강에 미치는 영향과 관련된 보고서에 대한 정보 수집을 제한하려 했다고 보도했습니다.

회사는 소셜 미디어와 연결된 최근 청소년 자살 사례에 대한 언급과 메타의 재무 상태, 직원 활동, 마크 저커버그의 하버드 시절에 대한 참조를 제거하려 합니다.

메타의 청소년 AI 캐릭터 중단 조치는 뉴멕시코 주에서 메타가 앱에서 어린이 보호 실패 혐의로 기소된 재판 직전에 이루어졌습니다.

메타는 사이트에서 미성년자를 온라인 유인, 인신매매 및 성폭력으로부터 보호하지 않았다고 주장됩니다.

메타는 재판 전 motions에서 배심원은 메타가 뉴멕시코 주의 불공정 관행법(Unfair Practices Act)을 위반했는지 여부, 즉 아동 안전과 청소년 정신 건강 관련 사항만 결정해야 한다고 밝혔습니다. 

선거 개입, 허위 정보 유포 또는 사생활 침해와 같은 다른 문제들은 고려되지 않아야 합니다.

뉴멕시코 사건 외에도, 메타는 다음 주 소셜 미디어 중독 유발 혐의로 재판을 받게 됩니다. 

19세 원고인 K.G.M.은 플랫폼의 알고리즘이 중독을 유발하고 자신의 정신 건강에 해를 끼쳤다고 주장했습니다.

CEO 마크 저커버그는 재판이 시작되면 증언할 가능성이 높습니다.

온라인 플랫폼, 청소년 접근 제한 강화

자해에 기여했다는 소송을 이유로 소셜 미디어 플랫폼과 AI 회사들이 청소년 경험 정책을 변경했습니다. 

1월 20, OpenAI ChatGPT에 연령 예측 기능을 도입하여 younger 사용자를 감지하고 보호 장치를 강화했습니다.

ChatGPT의 연령 예측 모델은 사용자의 명시된 연령, 계정 생성일, 활동 시간 및 사용 추세와 같은 행동 및 계정 데이터를 분석합니다.

지난 주, 틱톡(TikTok)은 유럽에서 13세 미만 사용자의 계정을 감지하고 삭제하기 위한 AI 기술을 도입했습니다. 

AI 연령 제어 시스템은 프로필 세부 정보, 클립 및 게시 습관을 검토하여 미성년자 계정을 식별합니다. 이 기능은 향후 몇 주 내에 롤아웃될 예정입니다.

인스타그램, 유튜브, 틱톡, 로블록스 등 다른 온라인 플랫폼들도 연령 제한 조치를 채택했습니다.