모두의 업무는 안전입니다: 일론 머스크, xAI 퇴사 우려에 반박

Elon Musk는 전직 직원들이 그의 xAI 스타트업(그록 챗봇을 담당)의 내부 안전 부서를 해체했다고 보고한 후 안전 조치를 무시했다는 비판을 받고 있습니다. 

여러 명이 회사를 떠나 자신의 회사를 설립하거나 창의적 정체에 대한 불만 등 다양한 이유로 인해, xAI의 원래 공동 설립자 중 유지된 직원은 12명뿐입니다.

xAI가 OpenAI와 경쟁하기 위해 안전을 희생하고 있습니까?

더 버지(The Verge)와 인터뷰한 한 소식통은 xAI 의 안전팀이 사실상 해체되었다고 주장하며, “안전팀은 xAI 에서 죽은 조직이나 다름없다”고 말했습니다.

보고에 따르면, “필터 없는” 콘텐츠에 대한 요구가 증가하면서 Grok AI의 NSFW(직장 내 부적절) 기능에 초점이 맞춰지고 있습니다.

전직 직원들은 머스크가 안전 조치를 '검열'의 일종으로 간주한다고 주장합니다. 그들은 엔지니어들이 전통적인 테스트 단계를 우회하며 즉시 '프로덕션에 투입'하도록 독려받고 있다고 말합니다.

이러한 문화는 보고된 바와 같이 리더십 내부의 마찰을 초래하여 X 플랫폼의 대규모 그룹 채팅에서 제품 우선순위를 두고 자주 충돌하게 만들었습니다.

머스크는 X 에서 주장하며 “모든 사람의 업무는 안전이다”라고 말했습니다.

그는 테슬라와 스페이스X를 예로 들며, 두 회사 모두 거대하고 독립적인 안전 부서가 없음에도 불구하고 세계에서 가장 안전한 자동차와 로켓을 생산한다고 말했습니다.

머스크에게 있어 별도의 안전 부서는 종종 '가짜'이며, 제품 개선에 실질적인 권한 없이 외부의 우려를 달래기 위해만 존재한다고 합니다.

오픈AI와 그 CEO인 샘 올트먼과의 지속적인 법적 분쟁에서 머스크는 오픈AI가 안전보다 이익을 우선시하는 폐쇄형 영리 기업으로 변모했다고 자주 비판해 왔지만, 내부적 견제 장치를 제거하여 유해하거나 편향된 AI 콘텐츠 생성을 막는 기능을 약화시켰다는 이유로 같은 행동을 하고 있다는 비난을 받고 있습니다.

xAI의 잦은 채용

xAI와 스페이스X의 합병 발표 이후 내부 평가액이 약 1조 2,500억 달러에 달한다는 소식이 전해진 후, 회사는 주요 인사들의 잇따른 퇴사로 이어졌으며 이로 인해 회사의 내부 문화, 기술 방향성 및 AI 안전 접근 방식에 대한 의문이 제기되고 있습니다. 전직 직원들은 회사를 '죽은' 안전 조직이라고 묘사합니다.

회사의 가장 두드러진 공동 설립자 중 두 명인 Yuhuai(Tony) Wu와 Jimmy Ba는 최근 퇴사를 발표했습니다. Wu는 “다음 장으로 넘어갈 때”라고 말한 반면, Ba는 “큰 그림에서 자신의 기울기를 재조정해야 한다고” 언급했습니다. xAI를 시작한 원래 12명의 공동 설립자 중 절반만 여전히 회사에 재직 중입니다. 여러 엔지니어와 직원들도 사임했으며, 많은 이들이 자신의 AI 기업을 설립할 의사를 밝혔습니다. 전직 직원들 중 일부는 이미 AI 인프라에 집중하는 스타트업 “Nuraline”을 설립했습니다.

일부 퇴사한 직원들 중 바히드 카제미와 같은 이들은 산업이 정체되었다고 지적하며 X에 “모든 AI 연구실이 똑같은 것을 만들고 있다”고 썼습니다. 다른 이들은 xAI가 1 년 전 OpenAI 와 Anthropic 이 달성한 것을 단순히 재현하려 하는 ‘추격 단계’에 갇혀 있을 뿐 혁신하지는 못한다고 주장했습니다.

내부 전체 사원 회의에서 머스크는 xAI 를 이제 네 가지 주요 부문, 즉 Grok 메인 및 음성, 코딩, 데이터 매크로하드로 분할하겠다고 설명했습니다.

테네시주 멤피스에 위치한 xAI의 콜로수스 슈퍼클러스터에는 현재 10만 개의 엔비디아 H100 GPU가 설치되어 있으며, 20만 개로 확장 중입니다. 이 하드웨어는 머스크가 현재 시장에 있는 모든 AI 모델을 능가할 것이라고 믿는 '그록 3'을 훈련하는 데 필수적입니다.