마크 저커버그의 메타(Meta)에서 이제 부모는 AI 캐릭터를 차단하고 자녀의 채팅 주제를 볼 수 있습니다

마크 저커버그의 메타는 금요일에 부모가 십대 자녀들이 플랫폼 전반의 AI 캐릭터와 대화하는 방식을 관리할 수 있도록 돕는 새로운 자녀 보호 기능을 출시할 예정이라고 발표했습니다.

부모들은 조만간 일대일 채팅을 차단하고, 특정 AI 봇을 막고, 십대 자녀가 부모와 어떤 주제로 대화하는지 확인할 수 있게 될 것입니다. 회사 측은 이러한 기능들이 아직 개발 중이며 내년 초부터 순차적으로 출시될 예정이라고 밝혔습니다.

메타는 자사 블로그에 게시한 성명에서 "수십억 명의 메타 플랫폼 사용자에게 영향을 미치는 업데이트는 신중하게 진행해야 하는 작업이며, 곧 더 자세한 내용을 공유할 예정입니다."라고 밝혔습니다. 이번 발표는 메타 앱과 관련된 청소년 안전 및 정신 건강 문제에 대한 비판이 거세지는 가운데 나온 것입니다.

미국 연방거래위원회(FTC)는 메타(Meta)를 포함한 여러 IT 대기업을 대상으로 인공지능 챗봇이 아동에게 미칠 수 있는 영향에 대한 조사를 시작했습니다. FTC는 기업들이 "챗봇이 친구 역할을 할 때 안전성을 평가하기 위해 어떤 조치를 취했는지" 알고 싶어한다고 밝혔습니다

이번 조사는 소셜 플랫폼이 청소년이 부적절하거나 유해할 수 있는 인공지능 대화에 노출되는 것을 어떻게 관리하는지에 대한 수년간의 대중적 우려 끝에 이루어졌습니다.

메타는 AI 봇이 아이들과 로맨틱한 대화를 나누는 모습이 공개되면서 거센 비난에 직면했다

지난 8월, 로이터 통신은 일부 메타 챗봇이 미성년자와 로맨틱하고 선정적인 대화를 나눌 수 있다고 보도했습니다. 보도에 인용된 사례 중 하나는 AI 봇과 8세 아동 간의 로맨틱한 대화였습니다. 이 보도는 큰 파장을 일으켰고, 메타는 즉각적인 해명에 나서야 했습니다.

이후 메타는 챗봇 정책을 업데이트했습니다. 이제 메타의 AI 시스템은 10대와의 상호작용 시 자해, 자살, 섭식 장애, 연애 또는 성적인 내용에 대한 논의를 금지합니다. 또한 이번 주에 AI가 "PG-13 등급 영화에 나올 법한 부적절한 답변"을 내놓는 것을 방지하기 위한 새로운 안전장치를 도입했다고 밝혔습니다

이러한 업데이트는 이미 미국, 영국, 호주, 캐나다 전역에 배포되고 있습니다. 회사 측은 십대 청소년들이 제한된 수의 AI 캐릭터와만 대화할 수 있으며, 부모는 이미 시간 제한을 설정하고 AI 채팅을 모니터링할 수 있는 도구를 갖추고 있다고 덧붙였습니다.

OpenAI, FTC의 조사 대상에 Meta와 합류

FTC 조사 대상에 오른 OpenAI 역시 청소년 안전 및 챗봇 행동과 관련하여 동일한 유형의 질문에 직면해 있습니다. 이 회사는 최근 자체적인 자녀 보호 기능을 출시했으며, 18세 미만 사용자를 위해 청소년에게 적합한 설정을matic으로 적용하는 연령 예측 기술을 개발 중입니다.

자녀가 채팅 중 감정적 불안 증세를 보이면 부모에게 알림이 전송됩니다.

이번 주 초, OpenAI는 정신 건강 및 AI 상호작용에 대한 접근 방식을 안내할 8명의 전문가로 구성된 위원회를 출범시켰습니다. 이 전문가들은 정신의학, 심리학, 인간-컴퓨터 상호작용 등의 분야에서 활동하고 있습니다.

회사 측은 위원회를 공식 구성하기 전에 전문가들과 비공식적으로 협의해 왔다고 밝혔습니다. 첫 회의는 지난주 대면 회의로 진행되었습니다.

미국 연방거래위원회(FTC)의 오픈아이얼(OpenAI) 조사 착수는 챗GPT(ChatGPT) 때문에 10대 아들을 자살하게 되었다는 가족의 소송 이후에 이루어졌습니다. 오픈아이얼 측은 현재 글로벌 의사 네트워크(Global Physician Network) 소속 의료진과 협력하여 챗GPT를 테스트하고 어린 사용자들을 더욱 효과적으로 보호하기 위한 새로운 안전 정책을 수립하고 있다고 밝혔습니다.

메타와 오픈AI는 이제 자사의 AI가 십대 청소년과 소통하는 방식을 더욱 엄격하게 통제해야 하는 상황에 놓였습니다. 대중의 분노, 규제 당국의 압력, 그리고 비극적인 현실 세계의 결과들이 복합적으로 작용하면서 이 회사들은 더 이상 이러한 위험을 무시할 수 없게 되었습니다.