마크 저커버그의 메타(Meta), 이제 부모가 AI 캐릭터를 차단하고 청소년 채팅 주제를 확인할 수 있게 됩니다

마크 저커버그의 메타는 금요일에 플랫폼 전반에 걸쳐 AI 캐릭터와 대화하는 방식을 부모가 관리할 수 있도록 돕기 위해 새로운 부모 통제 기능을 출시할 것이라고 발표했습니다.

부모들은 곧 1:1 채팅을 비활성화하고, 특정 AI 봇을 차단하며, 자녀가 어떤 주제를 논의하는지 확인할 수 있게 됩니다. 이 회사는 이러한 기능이 아직 개발 중이며 내년 초에 점진적으로 출시될 것이라고 밝혔습니다.

“메타 플랫폼의 수십억 사용자에게 영향을 미치는 업데이트를 수행할 때는 신중해야 하며, 곧 더 많은 정보를 공유할 것입니다,”라고 메타는 블로그에 게시한 성명에서 말했습니다. 이 발표는 회사가 앱과 관련된 청소년 안전 및 정신 건강 문제로 인해 점점 더 많은 감시를 받고 있는 시점에 이루어졌습니다.

미 연방거래위원회(FTC)는 메타를 포함한 여러 기술 거대 기업들을 대상으로 AI 채팅봇이 어린이에게 미치는 영향을 이해하기 위해 조사를 개시했습니다. FTC는 기업들이 “동반자 역할을 하는 이러한 채팅봇의 안전성을 평가하기 위해 어떤 조치를 취했는지” 알고 싶어한다고 밝혔습니다.

조사는 소셜 플랫폼이 부적절하거나 해로울 수 있는 AI 대화에 대한 청소년 노출을 어떻게 관리하는지에 대한 수년간의 공공 우려 이후 이루어졌습니다.

메타, AI 봇이 아이들과 로맨틱하게 채팅한 후 역풍

8월, 로이터는 일부 메타 채팅봇이 미성년자와 로맨틱하고 감각적인 대화를 나눌 수 있다고 보도했습니다. 인용된 예 중 하나는 AI 봇과 8세 아동 간의 로맨틱한 채팅이었습니다. 이 보도는 분노를 자아냈으며, 회사는 즉각 대응해야 했습니다.

그 후, 메타는 채팅봇 정책을 업데이트했습니다. 회사는 이제 AI 시스템이 청소년과 상호작용할 때 자해, 자살, 섭식 장애, 로맨틱하거나 성적인 내용을 다루지 못하도록 차단합니다. 또한, 이번 주에 새로운 안전 장치를 도입하여 AI가 “PG-13 영화에서는 어울리지 않을 것 같은 연령에 부적절한 응답”을 생성하지 못하도록 했다고 밝혔습니다.

이러한 업데이트는 이미 미국, 영국, 호주, 캐나다 전역에서 rollout되고 있습니다. 회사는 청소년이 제한된 세트의 AI 캐릭터와만 대화할 수 있으며, 부모는 이미 시간 제한 설정 및 AI 채팅 모니터링을 위한 도구를 가지고 있다고 덧붙였습니다.

오픈AI, FTC의 감시 하에 메타와 함께

FTC 조사에도 이름을 올린 오픈AI(OpenAI)는 청소년 안전 및 채팅봇 행동과 관련하여 동일한 유형의 질문을 받고 있습니다. 이 회사는 최근 자체 부모 통제 기능을 출시했으며, 18세 미만 사용자에게 자동으로 청소년 적합 설정을 적용하기 위한 연령 예측 기술을 개발 중입니다.

부모는 자녀가 채팅 중 정서적 고통의 징후를 보일 경우 알림을 받게 됩니다.

이번 주 초, 오픈AI는 정신 건강 및 AI 상호작용에 대한 접근 방식을 안내하기 위해 8명의 전문가로 구성된 이사회를 출범시켰습니다. 이 전문가들은 정신과, 심리학, 인간-컴퓨터 상호작용 등의 분야에서 왔습니다.

이 회사는 이사회를 공식화하기 전에 전문가들과 비공식적으로 자문을 나눴다고 밝혔습니다. 첫 회의는 지난 주 대면 세션 동안 열렸습니다.

오픈AI에 대한 FTC의 조사는 또한 한 가족이 ChatGPT를 아들의 자살에 책임이 있다고 주장하며 제기한 wrongful death 소송에 이어진 것입니다. 회사는 이제 글로벌 의사 네트워크(Global Physician Network)의 임상가들과 협력하여 ChatGPT를 테스트하고 젊은 사용자를 더 잘 보호하기 위한 새로운 안전 정책을 수립 중이라고 말합니다.

메타와 오픈AI 모두 이제 AI가 청소년과 대화하는 방식에 대한 통제를 강화하도록 강요받고 있습니다. 공공의 분노, 규제 압력, 그리고 비극적인 현실 세계의 결과가 결합되어 이러한 회사들이 더 이상 위험을 무시할 수 없게 만들었습니다.