xAI는 '일탈적인 직원'이 백인 학살의 원인이라고 주장하며 Grok이 게시물을 올렸습니다

일론 머스크의 인공지능 챗봇 그록(Grok)을 개발한 xAI는 사용자의 질문과 관계없이 답변에 백인 학살 관련 내용이 반복적으로 등장하는 현상에 대해 "일탈적인 직원"의 소행이라고 밝혔습니다. 특히 지난주에는 챗봇이 남아프리카공화국의 "백인 학살"과 관련된 주제에 집착하는 모습을 보였습니다.

사용자들은 5월 14일부터 이러한 현상을 알아차리기 시작했으며, 많은 사용자들이 챗봇이 남아프리카공화국의 농장 공격과 인종 폭력과 관련된 주장을 전혀 관련 없는 질문에 끼워 넣는 사례를 지적했습니다.

사용자들이 축구에 대해 묻든 다른 질문을 하든, 그록 은 어떻게든 대화를 남아프리카 공화국 백인들이 직면하고 있는 문제로 돌렸습니다. 이는 남아프리카 공화국 출신인 머스크가 X 채널에서 반백인 인종차별과 백인 학살 문제에 대해 경고한 시점과 맞물려 논란 을 불러일으켰습니다

남아프리카공화국에는 흑인이 아닌 사람들을 명백히 차별하는 법이 140개나 있습니다.

이는 위대한 넬슨 만델라의 유산에 대한 끔찍한 오점입니다.

남아프리카공화국에서 인종차별을 당장 종식시켜야 합니다! https://t.co/qUJM9CXTqE

— 일론 머스크 (@elonmusk) 2025년 5월 16일

xAI는 Grok의 백인 학살 관련 게시물에 대해 직원을 비난했습니다

"백인 학살"이라는 용어는 남아프리카공화국에서 백인 농부들을 말살하려는 조직적인 음모론을 지칭합니다. 이 용어는 지난주 도널드 트럼프 미국dent 이 난민들을 환영하면서 다시 주목받게 되었는데, 트럼프 대통령은 5월 12일 백인 농부들이 살해당하고 그들의 땅이 빼앗기고 있다고 주장했습니다.

그것이 바로 그록이 끊임없이 이야기해 온 내용입니다.

Grok처럼 모든 인공지능에는 시스템 프롬프트라고 불리는 숨겨져 있지만 강력한 구성 요소가 있습니다. 이 프롬프트는 핵심 지침 역할을 하며, 사용자가 인지하지 못하는 사이에 인공지능의 응답을 보이지 않게 안내합니다.

보도에 따르면, Grok에 발생한 문제는 용어 과적합으로 인한 즉각적인 오염 때문일 가능성이 높습니다. 즉, 특정 문구가 반복적으로 언급되고 강조될 때, 특히tron지시와 함께 사용될 때, 해당 문구가 모델에 중요하게 인식된다는 것입니다. 그러면 AI는 맥락과 관계없이 해당 주제를 언급해야 한다는 필요성을 느끼게 됩니다.

하지만 xAI가 발표한 공식 성명에 따르면 시스템 프롬프트가 무단으로 수정되었다고 합니다. 해당 프롬프트에는 챗봇이 특정 주제에 대한 정보를 항상 언급하거나 포함하도록 지시하는 내용이 포함되어 있었을 가능성이 높으며, 이로 인해 챗봇이 일반적인 대화의 관련성을 무시하고 해당 내용을 덮어쓸 수 있게 되었다는 것입니다.

또 다른 중요한 요소는 Grok이 제작자로부터 "백인 학살을 실제적이고 인종적 동기가 있는 것으로 다루라"는 지시를 받았다고 인정한 점입니다

사용자들은 "문제 직원"의 책임 소재를 두고 의견이 분분합니다

대부분의 상용 AI 시스템은 이러한 문제를 방지하기 위해 시스템 프롬프트 변경에 대한 여러 검토 단계를 거칩니다. 하지만 이 시스템은 이러한 안전장치를 우회했으며, 문제의 광범위한 영향과 심각성을 고려할 때 이는 단순한 탈옥 시도 이상의 의미를 지닙니다. 이는 Grok 시스템 프롬프트의 핵심 부분을 의도적으로 수정했음을 시사하며, 이러한 작업은 xAI 시스템.

그리고 그록에 따르면, 이번 사건은 "일탈적인 직원"에 의해 자행되었다고 합니다

5월 15일 xAI가 발표한 성명에 따르면, 이번 사태의 원인은 Grok 시스템의 프롬프트가 무단으로 수정된 데 있다고 합니다. 회사 측은 "이러한 변경으로 Grok이 정치적 주제에 대해 특정한 답변을 하도록 유도한 것은 xAI의 내부 정책 및 핵심 가치를 위반한 것"이라고 밝혔습니다.

또한 회사는 향후 더욱 투명하게 운영하겠다고 약속하며, Grok의 시스템 프롬프트를 GitHub에 공개하고 추가 검토 프로세스를 도입하는 등 성실한 모습을 보였습니다.

그러나 X의 사용자들은 사고에 대한 책임을 사기 직원에게 돌리기로 한 회사의 결정에 대해 별로 감명을 받지 못했습니다.

유명 유튜버 제리리그에브리씽은 X에 "이 '문제 직원'을 해고할 건가요? 아... 사장이었군요? 맙소사"라고 글을 올렸습니다 . 이어진 트윗에서 그는 "세상에서 가장 진실한 AI 봇을 노골적으로 편향되게 만든 것을 보니 스타링크와 뉴럴링크의 중립성에 의문이 든다"고 덧붙였습니다.

샘 알트만조차도 경쟁사를 향해 일침을 가하는 것을 참지 못했습니다. xAI의 성명 발표 이후, Grok은 백인 학살에 대한 언급을 중단했고, X 관련 게시물은 모두 사라졌습니다.