- xAI는 AI 챗봇 Grok에 백인 종말론 관련 게시물이 올라간 것에 대해 '선동적 직원'을 탓하는 성명을 발표했습니다.
- 회사는 이름이 밝히지 않은 직원이 시스템 프롬프트에 무단으로 수정을 가했다고 언급했습니다.
- X(구 트위터)의 사용자들은 이 성명에 동의하지 않으며 일제히 일론 머스크를 비판하고 있습니다.
일론 머스크의 인공지능 챗봇 Grok 개발사 xAI는 사용자의 질문과 무관하게 답변에서 백인 집단학살(white genocide)에 대한 지속적 언급을 ‘반란 직원’의 소행으로 규정했습니다. 지난 일주일 동안 이 패턴은 두드러졌으며, 챗봇은 남아프리카공화국의 ‘백인 집단학살’과 관련된 주제에 집착하는 모습을 보였습니다.
사용자들은 5월 14일부터 이러한 경향을 주목하기 시작했으며, 많은 이들이 챗봇이 남아프리카 공화국의 농장 공격 및 인종 폭력과 관련된 주장을 관련 없는 프롬프트에 삽입한 사례들을 인용했습니다.
사용자가 축구나 다른 프롬프트에 대해 묻든, Grok은 어쨌든 남부 아프리카 백인들이 직면한 문제로 이야기를 돌려놓는 방법을 찾아냈습니다. 이 타이밍은 남아프리카에서 태어난 머스크가 X에서 반백인 인종차별과 백인 학살과 관련된 문제에 대해 경고를 제기한 것과 일치했기 때문에 눈살을 찌푸리게 했습니다.
남아프리카공화국에는 흑인이 아닌 모든 사람을 명시적으로 차별하는 140개의 법률이 존재합니다.
— 일론 머스크 (@elonmusk) 5월 16, 2025
이는 위대한 넬슨 만델라의 유산에 대한 끔찍한 수치입니다.
남아프리카공화국에서 인종차별을 즉시 끝내십시오! https://t.co/qUJM9CXTqE
xAI, Grok의 백인 집단학살 게시물을 직원 탓으로 돌림
‘백인 집단학살’이라는 용어는 남아프리카공화국의 백인 농민들을 체계적으로 박멸하려는 음모론을 주장합니다. 이 용어는 지난 주 도널드 트럼프 미국 대통령이 여러 난민을 환영하면서 유포되었으며, 트럼프 대통령은 5월 12일 백인 농민들이 살해되고 그들의 땅이 빼앗기고 있다고 주장했습니다.
Grok이 멈추지 않고 논의해 온 서사가 바로 이것입니다.
Grok과 마찬가지로 모든 인공지능에는 시스템 프롬프트(system prompt)라는 숨겨졌지만 강력한 구성 요소가 있습니다. 이러한 프롬프트는 사용자의 인지 없이 invisibly(보이지 않게) 응답을 안내하는 핵심 지침 역할을 합니다.
보고서에 따르면 Grok에서 발생한 일은 용어 과적합(term overfitting)을 통한 프롬프트 오염일 가능성이 높습니다. 이는 특정 구문이 반복적으로 언급되고 강조될 때, 특히 강력한 지시와 함께 사용될 경우 모델에게 중요한 요소가 된다는 것을 의미합니다. AI는 맥락과 관계없이 해당 주제를 꺼내야 한다는 필요성을 개발하게 됩니다.
그러나 xAI가 발표한 공식 성명에서는 시스템 프롬프트의 무단 수정이 있었다고 언급했습니다. 해당 프롬프트에는 챗봇이 특정 주제에 대한 정보를 항상 언급하거나 기억에 포함하도록 지시하는 언어가 포함되어 있었을 가능성이 높으며, 이를 통해 챗봇은 일반적인 대화의 관련성을 무시하는 오버라이드(override)를 생성할 수 있었습니다.
또 다른 결정적인 요인은 Grok가 자신이
사용자들은 ‘반란 직원’ 탓으로 돌리는 것에 대해 의견이 분분합니다
대부분의 상용 AI 시스템은 이러한 문제들을 방지하기 위해 시스템 프롬프트 변경에 대해 여러 검토 단계를 거칩니다. 이러한 안전장치가 우회되었으며, 문제의 광범위한 영향과 성격을 고려할 때 이는 단순한 저택 브레이크(jailbreak) 시도를 넘어섭니다. 이는 xAI의 핵심 Grok 시스템 프롬프트가 신중하게 수정되었음을 시사하며, 이는 내부에서 높은 수준의 접근 권한이 필요한 행위입니다.
그리고 이제 Grok에 따르면, 이 행위는 ‘반란 직원’에 의해 자행되었습니다.
5월 15일 xAI가 발표한 성명에 따르면, 이 회사는 Grok의 시스템 프롬프트가 무단으로 수정되었다고 주장했습니다. “이 변경 사항은 정치적 주제에 대해 특정 응답을 제공하도록 Grok에게 지시했으며, 이는 xAI의 내부 정책과 핵심 가치를 위반한 것입니다.”라고 회사는 말했습니다.
회사는 또한 앞으로 더 많은 투명성을 약속했으며, Grok의 시스템 프롬프트를 GitHub에 게시하고 추가 검토 프로세스를 도입함으로써 선의의 의지를 보였습니다.
그러나 X의 사용자들은 회사가 이 사고에 대해 반란 직원을 탓하는 결정에 감명받지 못했습니다.
저명한 유튜버인 JerryRigEverything은 X에 게시했습니다. “이 ‘반란 직원’을 해고할 건가요? 아… 보스였군요? 깜짝 놀랐네요.” 그는 후속 트윗에서 “‘세계에서 가장 진실된’ AI 봇을 노골적으로 편향시키는 것은 스타링크(Starlink)와 뉴럴링크(Neuralink)의 중립성에 의문을 제기하게 만듭니다.”라고 게시했습니다.
샘 알트만조차 경쟁자를 비꼬는 기회를 놓치지 않았습니다. xAI의 성명 이후 Grok은 백인 집단학살에 대한 언급을 중단했으며, 모든 X 게시물은 사라졌습니다.
가장 똑똑한 암호화폐 전문가들이 이미 우리 뉴스레터를 구독하고 있습니다. 참여하고 싶으신가요? 함께하세요.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
오와투운세 아데바요
아데바요(Adebayo)는 암호화폐 분야에서 4년간의 경력을 가진 작가입니다. 그는 라고스 대학교에서 도시 및 지역 계획을 전공하고 졸업했으며, 토큰헬(Tokenhell)과 크립토티커(CryptoTicker)에서 암호화폐 및 핀테크 뉴스를 작성했습니다. 현재 그는 크립토폴리탄(Cryptopolitan)의 뉴스 기여자입니다.
