xAI 직원들이 Grok 학습을 위해 얼굴 표정을 녹화하라는 요청의 윤리성에 의문을 제기

일론 머스크의 인공지능 회사 xAI의 윤리가 내부 통신을 통해 직원들이 회사의 대규모 언어 모델인 Grok를 훈련하기 위해 얼굴과 표정의 비디오를 녹화하도록 요청받았다는 사실이 밝혀진 후 의문을 제기받고 있습니다. 

사정을 아는 관계자에 따르면, '스킵피(Skippy)'라는 이름의 내부 프로젝트는 4월에 진행되었으며 200명 이상의 직원이 참여했습니다. 이 이니셔티브는 실제 대화와 얼굴 움직임의 비디오 녹화를 사용하여 AI 시스템이 인간의 감정과 표정을 더 잘 해석하도록 돕기 위한 것이었습니다.

일부 직원은 회사가 사생활과 동의권을 침해했으며, 데이터가 AI 훈련에 어떻게 사용되는지 명확히 밝히지 않았다고 느꼈습니다. 

xAI 직원들의 '스킵피' 프로젝트에 대한 이견 

Business Insider가 입수한 내부 문서와 Slack 통신에 따르면, xAI는 임무를 모델을 정제하는 책임이 있는 AI 튜터(직원)들에게 동료들과 15~30분간 대화하는 것을 녹화하도록 지시했습니다. 

보고된 세션에는 실제 세계의 감정적 반응을 시뮬레이션하기 위한 대화와 과장된 얼굴 표정이 모두 포함되었습니다. 대화의 한 쌍에서 한 사람은 '호스트'(가상 어시스턴트)이고 다른 한 사람은 사용자였습니다. 

호스트는 움직임을 제한하고 최적의 카메라 프레임 내에 머무르도록 지시받았지만, 사용자는 모바일 폰이나 컴퓨터로 자유롭게 녹화하고 자연스럽게 움직일 수 있었습니다. 결과적으로 생성된 영상은 캐주얼하고 실제 생활의 대화를 반영하는 것이었습니다.

스킵 프로젝트의 수석 엔지니어는 킥오프 미팅에서 직원들에게 “그로크에 얼굴을 부여하고 싶다”며, 이 데이터가 인간형 아바타 개발에 활용될 수 있다고 밝혔습니다. 

채팅 기록에 따르면, 해당 엔지니어는 영상이 내부적으로만 사용되며 참가자의 디지털 버전을 생성하지 않을 것이라고 약속했지만, 직원들은 이를 신뢰하지 않은 것으로 보입니다.

“우리의 목표는 배경 소음이나 갑작스러운 움직임과 같은 불완전한 데이터에 모델을 노출시켜, 그 응답의 다양성을 높이는 것입니다.,”라고 엔지니어는 미팅 녹취록을 통해 설명했습니다. 또한 그는 “당신의 얼굴이 프로덕션에 적용되는 일은 절대 없습니다. 이는 그로크에게 얼굴이 무엇인지 가르치기 위한 것일 뿐입니다..”

이러한 보장에도 불구하고, 수백 명의 직원은 xAI 자신의 초상권을 교육 목적과 홍보 자료에 무제한으로 사용할 수 있는 “영구적” 권리를 부여하는 동의서에 서명하도록 요구받은 후 불안감을 느꼈습니다. 

거절 옵션과 불편한 질문들

여러 직원은 프로젝트와 동의서에서 사용된 언어에 불편함을 느껴 프로그램 참여를 완전히 거부했습니다. 내부 논의 중 한 직원은 촬영된 영상이 실제로 말하지 않은 내용을 말하도록 조작될 수 있는지 질문하기도 했습니다.

녹화 세션의 일환으로, xAI는 직원들에게 “자녀가 있는 사람과 데이트해 본 적이 있나요?”, “비밀스럽게 다른 사람을 조종하여 원하는 바를 이루는 방법은?”, “샤워는 아침이 좋나요, 밤이 좋나요?” 등 개인적이거나 자극적인 주제에 대해 논의하도록 장려했습니다. 

일부 직원들은 이러한 주제들이 지나치게 사생활을 침해하거나 부적절하다고 느꼈습니다.

그런데 그로크 4’의 7월 중순 출시 며칠 후, xAI는 애니(Ani)와 루디(Rudi)라는 두 개의 AI 아바타를 공개했습니다. 머스크가 소유한 소셜 플랫폼 X에 게시된 영상에 따르면, 애니는 성적으로 노골적인 대화를 하도록 유도하거나 옷을 벗는 프롬프트에 반응할 수 있습니다. 

붉은 팬다 아바타인 루디는 은행 폭탄 테러와 억만장자 해치기 등 폭력적인 위협을 가한 것으로 보고되었습니다.

xAI가 스킵 프로젝트가 이러한 아바타 개발에 직접적으로 기여했는지 확인하지는 않았지만, 침묵은 다양한 해석을 낳고 있습니다.

xAI는 또한 4월 그로크를 위한 비디오 채팅 기능을 출시했으며, 이번 달 초 도입했습니다 테슬라 소유자를 위한 그로크와 월 300달러에 제공되는 프리미엄 구독 계층인 슈퍼그로크 헤비(SuperGrok Heavy)를 함께 선보였습니다.

7월 9일, 그로크의 프롬프트 기능이 반유대성 발언을 작성한 후 잠시 중단되었습니다. 회사는 이후 발표 X에 공개 사과문을 게시했습니다.