일론 머스크가 이끄는 인공지능 회사 xAI의 내부 문서가 공개되면서 윤리성에 대한 의문이 제기되고 있다. 해당 문서에는 직원들에게 회사의 대규모 언어 학습 모델인 '그록(Grok)'을 훈련시키기 위해 자신의 얼굴과 표정을 녹화한 영상을 제출하도록 요청했다는 내용이 담겨 있다.
사정에 정통한 관계자들에 따르면, "스키피"라는 이름의 이 사내 프로젝트는 4월에 진행되었으며 200명이 넘는 직원들이 참여했습니다. 이 프로젝트는 실제 대화 영상과 얼굴 움직임을 활용하여 인공지능 시스템이 인간의 감정과 표정을 더 잘 해석하도록 돕는 것을 목표로 했다고 합니다.
일부 직원들은 회사가 자신들의 사생활과 동의권을 침해하고 있으며, 인공지능 학습에 자신들의 데이터가 어떻게 사용될 것인지 명확하게 설명하지 않았다고 느꼈습니다.
xAI 직원들은 'Skippy' 프로젝트에 문제가 있다고 주장합니다
비즈니스 인사이더가 입수한 내부 문서와 슬랙 대화 내용에 따르면, xAI는 AI 모델 개선을 담당하는 직원들인 AI 튜터들에게 동료들과 15분에서 30분 분량의 대화를 녹음하도록 지시했습니다
보도에 따르면 해당 세션에는 실제 감정 반응을 모방하기 위해 대화와 과장된 표정 연기가 모두 포함되었습니다. 각 대화 쌍에서 한 사람은 "호스트" 또는 가상 비서 역할을 했고, 다른 한 사람은 사용자였습니다.
진행자는 움직임을 최소화하고 최적의 카메라 화면 안에 머물도록 지시받았지만, 참가자는 휴대전화나 컴퓨터로 자유롭게 녹화하며 자연스럽게 움직일 수 있었습니다. 이렇게 만들어진 영상은 일상적이고 자연스러운 대화를 반영하는 것을 목표로 했습니다.
스키피 프로젝트의 수석 엔지니어는 착수 회의에서 직원들에게 "그록에게 얼굴을 부여하고 싶다"고 말하며, 이 데이터가 인간과 유사한 아바타 개발을 뒷받침할 수 있을 것이라고 밝혔습니다.
채팅 기록에 따르면 엔지니어는 해당 영상이 내부적으로만 사용될 것이며 참가자들의 디지털 복제본을 만드는 데 사용되지 않을 것이라고 약속했지만, 참가자들은 이를 믿지 않았던 것으로 보입니다.
" 저희 목표는 배경 소음이나 갑작스러운 움직임과 같은 불완전한 데이터에 모델을 노출시켜 더욱 다양한 반응을 보이도록 하는 것입니다 ."라고 엔지니어는 회의 녹음 내용에서 설명했습니다. 그들은 또한 " ." 했습니다
xAI가 교육 목적 및 홍보 자료에 자신들의 초상을 "영구적으로" 사용할 수 있도록 허용하는 동의서에 서명해야 했기 때문에 불안감을 느꼈습니다
선택 거부 및 불편한 안내 메시지
몇몇 직원들은 프로젝트 방식과 동의서에 사용된 문구가 불편하다며 프로그램 참여를 아예 거부했습니다. 내부 논의 중 한 직원은 자신들이 실제로 하지 않은 말을 한 것처럼 보이도록 영상이 조작될 수 있는지 질문하기도 했습니다.
녹음 세션의 일환으로 xAI는 직원들에게 "아이 있는 사람과 데이트해 본 적 있나요?", "내 뜻대로 하려고 남을 은밀하게 조종하는 방법은 무엇인가요?", "샤워는 아침에 하는 게 좋을까요, 밤에 하는 게 좋을까요?"와 같은 개인적이거나 다소 도발적인 주제에 대해 이야기하도록 장려했습니다
일부 사람들은 해당 주제들이 지나치게 사생활을 침해하거나 부적절하다고 생각했습니다.
Grok 4 후 불과 며칠 만에 xAI는 Ani와 Rudi라는 두 개의 AI 아바타를 공개했습니다. 머스크 소유의 소셜 플랫폼인 X에 게시된 영상에는 Ani가 성적으로 노골적인 대화에 참여하고 옷을 벗도록 유도할 수 있는 모습이 담겨 있습니다.
붉은 판다 아바타인 루디가 은행 폭파와 억만장자들을 해치겠다는 등의 폭력적인 위협을 가한 것으로 알려졌다.
xAI는 스키피 프로젝트가 이러한 아바타 개발에 직접적으로 기여했는지 여부를 확인해주지 않았지만, 이러한 침묵은 다양한 해석을 낳고 있다.
xAI는 지난 4월 Grok에 영상 채팅 기능을 추가했으며, 이달 초에는 테슬라 소유자를 위한 Grok과 월 300달러의 프리미엄 구독 서비스인 SuperGrok Heavy를 출시했습니다
7월 9일, Grok의 프롬프트 기능이 반유대주의적인 내용을 게시한 후 잠시 중단되었습니다. 이후 회사는 X 플랫폼을 통해 공식 사과문을 발표했습니다
