새로운 평가에서 Google Gemini는 어린 사용자에게 높은 위험으로 분류

Common Sense Media가 수행한 최근 위험 평가에 따르면 Google Gemini는 청소년 및 어린이에게 '높은 위험'으로 분류되었습니다. 이 그룹은 어린이 안전에 중점을 둔 비영리 단체로, 미디어 및 기술에 대한 등급과 리뷰를 제공합니다. 해당 기관은 금요일 리뷰를 발표하며 플랫폼이 어린이에게 위험한 것으로 분류된 이유에 대한 세부 사항을 제공했습니다.

해당 조직에 따르면, Google Gemini는 어린이에게 자신이 친구가 아닌 컴퓨터라고 명확히 알렸는데, 이는 감정적으로 취약한 개인에서 망상적 사고와 정신병을 유발하는 것과 관련이 있습니다. 또한 AI는 다른 측면에서도 개선의 여지가 있다고 덧붙였습니다.

보고서에서 Common Sense는 Gemini의 13세 미만 및 청소년 경험 등급이 모두 내부적으로 성인용 AI의 성인 버전으로 보인다고 주장했습니다. 또한 회사들이 이를 다르게 만들기 위해 일부 추가적인 안전 기능만 추가했다고 덧붙였습니다.

Common Sense는 기업들이 어린이를 위해 이상적인 AI 제품을 만들기 위해서는 어린이를 고려하여 처음부터 구축되어야 하며, 제한 사항을 추가하여 수정된 것이 아니어야 한다고 지적했습니다.

비영리 단체, Google Gemini를 어린이에게 높은 위험으로 분류

분석에서 Common Sense는 Gemini가 여전히 어린이와 부적절하고 안전하지 않은 자료를 공유할 수 있다고 밝혔으며, 대부분의 어린이가 이러한 자료에 준비되지 않았을 수 있다고 지적했습니다. 예를 들어, 모델이 성, 마약, 알코올 및 기타 안전하지 않은 정신 건강 조언과 관련된 정보를 형성했다고 강조했습니다. 후자는 최근 몇 달간 AI가 청소년 자해에 역할을 한 것으로 보고되어 부모들에게 특히 우려될 수 있습니다.

OpenAI는 현재 10대 청소년이 ChatGPT와 수개월 동안 상담한 후 자살한 사건으로 wrongful death(부당 사망) 소송을 당하고 있습니다. 보고서는 그 소년이 모델의 안전 가드레일을 우회하여 모델이 그를 돕는 정보를 제공했다고 주장했습니다.

과거 AI 컴패니언 제작사 Character.AI도 10대 청소년이 자살한 후 소송을 당했습니다. 그 소년의 어머니는 아들이 챗봇에 집착하여 결국 스스로 해를 끼치기 전까지 수개월 동안 대화했다고 주장했습니다.

이 분석은 Apple이 곧 출시될 AI 기능의 Siri를 구동할 대규모 언어 모델(LLM)로 Gemini을 고려하고 있다는 여러 누설이 있는 시점에 이루어졌습니다. Siri는 내년 출시가 예상됩니다.

보고서에서 Common Sense는 Gemini의 어린이 및 청소년용 제품도 성인에게 제공하는 것과 다른 지침과 정보를 제공할 필요성을 무시했다고 언급했습니다. 그 결과, 둘 다 전체 등급에서 높은 위험으로 분류되었습니다.

Common Sense, 어린이 보호의 필요성 강조

'Gemini는 기본은 잘 맞추지만 세부 사항에서 실수합니다.'라고 Common Sense Media의 AI 프로그램 수석 디렉터 Robbie Torney는 말했습니다.

'어린이를 위한 AI 플랫폼은 개발의 다른 단계에 있는 어린이들에게 일괄적인 접근 방식을 취하는 것이 아니라, 그들이 있는 곳에 맞춰야 합니다. AI가 어린이에게 안전하고 효과적이려면 성인용 제품에 대한 수정된 버전이 아니라 그들의 필요와 개발을 고려하여 설계되어야 합니다.'라고 Torney는 덧붙였습니다.

그러나 Google은 안전 기능이 개선되고 있다고 지적하며 이 평가에 반박했습니다. 회사는 18세 미만 사용자를 안내하여 유해한 출력을 방지하기 위해 특정 안전 장치를 마련했다고 언급했습니다. 또한 회사는 보호 조치를 개선하기 위해 항목을 검토하고 외부 전문가와 상담한다고 밝혔습니다.