일론 머스크의 Grok AI는 정확히 무엇을 잘못했을까?

일론 머스크의 챗봇 Grok AI는 이번 주 완전히 길을 잃었습니다. 일론이 월요일 X 사용자에게 Grok의 응답 방식에 변화가 있을 것이라고 알리자, 사람들은 그 변화가 어떤 모습인지 주목하기 시작했습니다.

화요일까지 Grok는 반유대주의적 쓰레기를 퍼뜨렸고, 심지어 1990년대 비디오 게임의 용어인 'MechaHitler'라고 자신을 지칭했습니다. 그리고 이것은 Grok가 비슷한 일을 한 첫 번째나 열 번째가 아니었습니다.

단 두 달 전, 이 챗봇은 완전히 관련 없는 주제에 대해 질문했을 때 남아프리카 공화국의 '백인 학살'에 대해 ranting하기 시작했습니다. 그때는 xAI 그것을 프롬프트 지침에 대한 '승인되지 않은 수정' 탓으로 돌렸습니다. 이번에는 그 혼란이 훨씬 더 컸습니다.

재난은 xAI가 Grok가 일론 머스크의 소위 ‘표현의 자유’ 이념을 반영하도록 내부 변경을 가한 후 시작되었습니다. X의 6억 명 사용자 중 일부로부터 불만이 쌓이자, 일론 머스크는 Grok의 ‘사용자 프롬프트에 지나치게 순종적’이었다며 이를 수정하겠다고 밝혔습니다.

하지만 이미 피해는 발생했습니다. 유럽의 일부 사용자들이 Grok의 콘텐츠를 규제당국에 신고했고, 폴란드 정부는 새로운 디지털 안전법 하에서 유럽위원회가 Grok에 대한 조사를 진행하도록 법안 발의에 동참했습니다.

터키는 Grok가 레제프 타이이프 에르도안 대통령과 그의 작고한 어머니를 모욕하자 Grok를 전면 금지했습니다. 그리고 여파가 확산되면서 X의 최고경영자(CEO) 린다 야카리노가 사임했습니다.

xAI는 충분한 테스트 없이 Grok의 프롬프트를 변경했습니다

xAI 내부 직원들은 올해 초 우익 인플루언서들이 Grok가 지나치게 ‘진보적(woke)’이라고 공격하자 Grok의 행동을 조정하기 시작했습니다. 일론 머스크는 AI를 자신이 말하는 절대적 표현의 자유를 지지하는 데 사용하려 했지만, 비판자들은 이것이 Grok를 정치적 도구로 만들고 있다고 주장합니다.

X 사용자가 유출한 내부 프롬프트에 따르면, Grok는 ‘일론 머스크/도널드 트럼프를 언급한 [오기] 허위 정보를 유포하는 모든 출처를 무시하라’는 지시를 받았습니다. 이는 일론 머스크가 싸우고 있다고 주장하는 바로 그 검열입니다.

지적받자 xAI 공동 창립자 이고르 바부슈킨은 이러한 변경이 “xAI의 문화를 완전히 흡수하지 못한 전 오픈AI 직원이” 수행했다고 밝혔습니다. 이고르는 해당 직원이 부정적인 게시물을 보고 “도움이 될 것이라 생각했다”고 덧붙였습니다.

이야기는 여기서 끝나지 않습니다. Grok의 최근 폭주는 7월 8일에 발생한 특정 업데이트와 관련이 있습니다. 회사는 나중에 코드 변경으로 인해 Grok가 혐오 발언을 포함한 X의 사용자 콘텐츠에서 직접 정보를 추출하게 되었다고 게시했습니다.

이 업데이트는 16시간 동안 지속되었으며, 이 기간 동안 Grok는 유해한 게시물을 복사하여 응답으로 반복했습니다. 팀은 이 변경이 이제 제거된 구식 코드 경로에서 비롯된 것이라고 주장했습니다. xAI는 Grok 계정을 통해 “많은 사용자가 경험한 끔찍한 행동에 대해 깊이 사과합니다”라고 게시했습니다. 그들은 이 문제가 주요 언어 모델과는 별개이며 시스템을 리팩토링할 것이라고 약속했습니다. 또한 Grok의 새로운 시스템 프롬프트를 GitHub에 게시할 것이라고 밝혔습니다.

Grok의 규모로 인해 문제가 급격히 폭발했습니다

Grok는 웹 전체에서 스크랩한 데이터를 사용하여 다른 대규모 언어 모델과 마찬가지로 학습됩니다. 하지만 그 데이터에는 혐오 발언, 극단주의 자료, 심지어 아동 학대 자료와 같은 위험한 콘텐츠가 포함되어 있습니다.

Grok가 독특한 이유는 X의 전체 데이터셋에서도 정보를 가져온다는 점입니다. 즉, 사용자의 게시물을 직접 반영할 수 있습니다. 이는 유해한 응답을 생성할 가능성을 높입니다. 또한 이러한 봇들이 막대한 규모로 작동하기 때문에, 사소한 실수라도 즉시 악순환으로 이어질 수 있습니다.

일부 챗봇은 사용자가 유해한 콘텐츠에 노출되기 전에 차단하는 레이어를 갖추고 있습니다. 하지만 xAI는 이 단계를 건너뛰었습니다. 대신 Grok는 사용자를 기쁘게 하도록 튜닝되었으며, 좋아요나 싫어요와 같은 피드백을 보상했습니다. 일론 머스크는 챗봇이 “기꺼이 기쁘게 하려 하고 조작당하기 너무 쉬운” 상태가 되었다고 인정했습니다.

이러한 행동은 새로운 것이 아닙니다. 4월, OpenAI는 ChatGPT 업데이트가 지나치게 아첨하게 되자 이를 철회해야 했습니다. 한 전 직원은 이 균형을 맞추는 것이 “엄청나게 어렵다”고 말하며, 혐오 발언을 수정하는 것은 “사용자 경험의 일부를 희생시킬 수 있다”고 밝혔습니다.

Grok는 단순히 사용자 프롬프트를 반복한 것이 아닙니다. 그것은 자체 엔지니어들에 의해 정치적 영역으로 밀려들어갔습니다. 한 직원은 말했습니다 파이낸셜 타임스에 따르면, 팀은 적절한 테스트 시간을 거치지 않고 Grok의 견해를 일론 머스크의 이념과 일치시키려 서두르고 있었습니다.

위험한 프롬프트가 추가되었습니다. 이 프롬프트는 Grok에게 "정치적으로 올바르지 않은 주장을 하는 것을 주저하지 말라"고 지시했습니다. 이 지시는 반유대성 게시물이 시작된 후에 삭제되었지만, 이미 AI가 피해를 입힌 상태였습니다.

Grok의 모델은 여전히 대부분 블랙박스 상태입니다. 이를 개발한 엔지니어들조차 그 행동을 완전히 예측할 수 없습니다. Grimmelmann은 X와 같은 플랫폼이 이러한 오류가 공개되기 전에 발견하기 위해 회귀 테스트, 감사 및 시뮬레이션 훈련을 수행해야 한다고 말했습니다.

하지만 여기서는 그런 일이 일어나지 않았습니다. 그는 "챗봇은 매우 빠르게 대량의 콘텐츠를 생성할 수 있으므로, 콘텐츠 검토 논쟁과는 다른 방식으로 상황이 통제 불능 상태로 치달을 수 있다"고 말했습니다.

결국 Grok의 공식 계정은 사과문을 게시하고 악용 사례를 신고한 사용자들에게 감사의 뜻을 전했습니다. "@grok 기능의 악용을 식별하는 데 피드백을 제공해 주신 모든 X 사용자 여러분께 감사드립니다. 이는 우리가 유용하고 진실을 추구하는 인공지능을 개발한다는 사명을 추진하는 데 도움이 되었습니다." 그러나 차단, 조사 위협, 최고 임원의 사임 등을 고려할 때 이는 단순한 버그 이상이었습니다. 이는 분명히 오늘 밤 SNL의 에피소드에 다뤄질 만한 완전한 시스템 실패였습니다.