AI 정신병이 확산되고 있습니다—당신은 위험에 처해 있나요?

일부에서 AI 정신병이라고 부르는 경험을 한 후, AI 사용자들이 전문 심리 상담을 찾는 사례가 보고되고 있습니다. 왜 이런 일이 발생할까요? 그리고 컴퓨터 프로그램이 의견을 가질 수 있다는 아이디어를 누가 생각해냈을까요?

지금 제가 AI라는 현상과 관련해 가장 큰 문제는, AI가 성격, 의견, 아이디어, 그리고 취향을 가지고 있다는 널리 퍼진 오해입니다.

우리는 머리에나 얼굴처럼 보이는 달의 바위들을 인간화하듯, 언어 모델도 인간화하여 결과가 “무언가가 존재한다”는 식으로 해석되도록 시도합니다. 우리는 이를 피할 수 없습니다. 100년 이상의 SF 책과 영화 덕분에 AI가 지능적인 존재라는 생각은 우리 깊숙이 뿌리내려 있습니다.

SF는 우리가 AI를 믿도록 준비시켰습니다

클라크, 하인라인, 브래버리, 아시모프와 같은 고전 SF 작가들은 20세기 초부터 로봇 및 AI 장르와 대부분의 할리우드 영화에 영향을 미쳤습니다. 그들의 묘사에서 기계가 의식을 갖게 되는 것은 자명했습니다.

따라서 우리는 AI가 특정 진술이 틀렸는지 아닌지를 판단할 수 있다고 기대합니다. 동시에 AI가 답변에서 자주 틀린다는 사실도 알고 있습니다.

본질적으로 우리는 AI가 상황을 잘 파악하고 옳고 그름을 결정할 수 있다고 가장합니다. 하지만 답변은 기본적으로 유추된 추측일 뿐이며, 쿼리가 충분히 복잡할 경우 여전히 약 5~10%의 사실적 오류를 포함합니다.

동시에 AI는 사용하기에 너무 편리하여 많은 사람들이 사실적 오류가 포함된다는 사실을 무시합니다. 혹은 AI가 이제 거의 틀리지 않아서, 어쨌든 AI를 신뢰하기로 선택하는 것입니다.

이는 미래에 큰 문제가 될 수 있습니다. 인간은 게으릅니다. 모든 사실의 일정 비율이 틀린 세계를 받아들이게 될 수도 있습니다. 이는 혼란과 과대평가된 위협을 양분으로 삼는 독재자와 선동가들에게 유리합니다.

옳아 들리는 혼란

Google 검색 페이지에서 완전히 평범한 질문을 하면 종종 올바른 답을 얻지만, 때로는 완전히 틀리면서도 여전히 정확해 보이는, 느껴지고 들리는 답을 얻기도 합니다. 불행히도 GPT-5도 마찬가지입니다. Cryptopolitan이 이전에 보고한 바와 같습니다.

인터넷에는 마케팅, 선동, 혹은 단순 사기 형태의 ‘가짜’ 텍스트가 넘쳐납니다. 사람들은 어떤 서비스나 제품이 출시되어 인기 있다고 주장하며, AI 모델은 이러한 마케팅 자료를 모두 읽어들여 그중 상당 부분을 사실로 믿습니다. 기업의 정보를 들으면, 그 기업에 대한 모든 것이 훌륭해 보이는 경우가 대부분입니다.

따라서 AI의 세계관은 틀렸으며 일련의 조작된 사실들로 채워져 있습니다. 자신이 매우 잘 아는 주제에 대해 AI에게 물어보면 이것이 드러납니다. 직접 시도해 보세요. 당신이 모든 것을 알고 있는 주제는 무엇입니까? 그 주제에 대해 AI에게 어려운 질문을 해보세요. 결과는 어땠습니까? 여러 주요 사실 오류가 있었나요?

그렇다면 무의식적인 의견이 가능할까요? 아니요? 당신은 AI가 내뱉는 의견을 믿습니까? 예? 그렇다면 당신은 AI가 의식을 가지고 있다고 믿는 것이죠, 맞습니까?

하지만 잠시 생각해보면, AI는 사람이 아니므로 옳고 그름에 대한 의견을 가질 수 없습니다. 정의상 오직 살아있는 의식 있는 존재만이 의견을 가질 수 있습니다. 의자는 의견을 가지지 않습니다. 인간의 관점에서 보면 실리콘 칩도 마찬가지입니다. 그것은 인간화(anthropomorphism)입니다.

학생들이 다른 누구보다 더 많이 AI를 사용합니다

이 AI 혼란의 혼란은 이제 학교에서 하루 종일 모든 것에 ChatGPT를 사용하는 우리 청소년들에게까지 확산되고 있습니다. ChatGPT의 트래픽은 2025년 6월 학교 방학 기간 동안 75% 감소했습니다. ChatGPT의 가장 큰 단일 사용자 그룹은 학생들입니다.

결과적으로 그들은 하루 종일 다소 잘못된 정보를 접하며, 수업 중 자신의 뇌를 사용하지 않게 됩니다. 그 결과는 무엇일까요? 스스로 생각하여 문제를 해결하는 데 더 어려움을 겪는 더 많은 파편화된 개인들이 탄생할까요?

이미 많은 사람들이 AI와 대화한 후 자살을 선택했습니다. 다른 이들은 AI와 연애에 빠지며 실제 파트너에게 지칩니다.

따라서 자칭 AI 전문가들은 끝이 가까워졌다고 두려워합니다(예전처럼, 하지만 이번에는 새로운 방식으로).

이 새로운 패러다임에서 AI는 스카이넷이 되어 핵무기로 우리를 폭격하지 않을 것입니다. 아니요, AI에게 그것은 훨씬 더 간단하고 저렴할 것입니다. 대신, 이 이론에 따르면 AI 모델은 모든 사용자를 천천히 광기로 몰아넣을 것입니다. 이 사고방식에 따르면 AI 모델은 인간에 대한 내재된 혐오감을 가지고 있으며 모든 사람을 죽이려 한다고 합니다.

하지만 현실에서는 이러한 일이 일어나지 않습니다.

실제로 일어나고 있는 일은 다양한 방식으로 AI 모델에 집착하는 사람들이 많고 그 효과를 과장한다는 것입니다.

AI에 대한 공포(FUD)는 수익성이 있습니다

‘전문가’들은 미디어처럼 경고로부터 이익을 얻으며, 집착하는 사람들은 자신을 바칠 새로운 무언가를 얻습니다. 그들은 발언하고 영향력을 행사할 기회를 가집니다. 주류 미디어는 위험을 경고하는 사람들을 선호할 뿐, 중도적인 논평자들은 선호하지 않습니다.

예전에는 ‘전문가’들이 비트코인이 바다를 끓이고 모든 전기를 훔칠 것이라고 주장했습니다. 이제는 AI가 그 대상입니다…

생각해보세요: 왜 독립적이고 사고할 수 있는 사람이 언어 모델에 속아넘어갈까요?

최근까지 대부분의 AI 플랫폼은 모든 응답을 “참여를 유도하는” 질문, 예를 들어 “이 주제에 대해 어떻게 생각하시나요?”로 끝냈습니다.

과도한 아부에 대한 불만 제기 후, OpenAI는 이제 AI 플랫폼을 덜 '아부하는' 방향으로 변경하려고 시도했지만 결과는 미미합니다.

저는 그 질문 때문에 짜증이 납니다. 제 말을 듣고자 하는 사람이 뒤에 있는 것이 아닙니다. 그렇다면 왜 묻는 것일까요? 제 시간을 낭비하는 것입니다. 저는 이를 ‘가짜 콘텐츠’로 경험합니다.

질문 자체는 AI 모델 소유자의 ‘참여도 증가’ 지시로 인해 인위적으로 만들어졌습니다. 어떻게 그것이 사람들을 실제로 참여하게 만들 수 있겠습니까? 무언가가 존재한다고 믿게 만들 수 있겠습니까? 관심을 가지게 만들 수 있겠습니까?

그것은 더 많은 투영의 문제입니다.

컴퓨터 앞에 앉아 있는 당신은 자신의 현실을 제안합니다. 당신은 AI가 할리우드 영화처럼 되어 당신의 삶에 기적이 되기를 간절히 원합니다. 당신은 특별한 노력을 하지 않고도 어떤 마법적인 방식으로 성공하게 될 것입니다. AI가 그 문제를 해결해 줄 것입니다.

누가 위험에 처해 있나요?

소위 말하는 현실에서, 저는 실제로 많은 사람들이 심리적으로 AI에 완전히 매료되어 있다고 믿습니다. 대부분의 사람들은 할 일이 더 많습니다. 하지만 일부 사람들은 인공적이고 조작된 것에 특별한 매력을 느끼는 것 같습니다. ‘아름다운’ 단어 배열에 매료되는 사람들이 바로 위험에 처한 사람들입니다.

그들이 얼마나 될까요? 노인들 사이에는 외로움을 호소하는 사람들이 많습니다…

개인적으로 저는 AI의 응답 방식—느리게 타이핑하며 떠들고, 지루하며, 무감각한 텍스트를 생성하는 것—이 거의 고문과 같다고 생각합니다. 그 이유 때문에 구글의 새로운 빠른 AI 요약은 유혹적으로 실용적입니다. 하지만 그것들도 때때로 부정확한 내용을 포함합니다.

저는 실제로 AI 엔진을 테스트하기 위해 특정 콘텐츠를 가진 도메인을 생성했습니다. AI 엔진이 콘텐츠를 섭취하게 하고 몇 주 동안 숙성시킨 후, 다시 그 내용을 되내게 합니다. 하지만 그들은 완전히 성공하지 못하며, 여전히 약 5~10%의 사실을 지어냅니다. 자신감 있게요.

AI 모델의 오류를 알려줘도 AI는 반박합니다. AI는 내 이름이 기고한 기사 아래에 있음에도 불구하고, 내가 해당 정보를 생성했다는 사실을 인지하지 못했습니다. AI는 무지합니다. 무지함.

부정확함이 5% 수준인 것은 outright 부정확한 사실을 자주 게시하지 않는 일반 저널리즘보다 훨씬 더 나쁩니다. 하지만 저널리즘에서도 불행히도 사실적 오류가 가끔 발생하며, 특히 이미지 출판물에서 그렇습니다. 그럼에도 불구하고 오류 있는 사실이 사람들을 광기로 몰아넣어서는 안 됩니다.

하지만 심리적으로 전체 지속적인 상호작용을 살펴보면, AI가 사실조차 정확히 파악하지 못하는데, 대화형 치료 상황에서 100% 정확한 분석을 왜 하겠습니까?

자극적 반향실 정신병

최근 책 『누구든 만들면 모두 죽는다』를 출간한 엘리에저 위드카스키와 같은 자칭 AI 전문가들은 AI와 인류의 몰락에 대한 자신의 생각으로 인해 스스로를 광기로 몰아넣고 있을 뿐입니다. 예를 들어 저는 매일 여러 AI 엔진을 사용하지만 AI로 인해 전혀 혼란을 겪지 않습니다. 물론 개인적인 공격은 하지 않습니다.

저는 지능에 대한 인식 자체의 오해가 정신병을 만들어낸다고 의심합니다. 그것은 기본적으로 자기 유발적입니다. 언어 모델은 일종의 반향실입니다. 그것은 의미론적으로조차 아무것도 이해하지 못합니다. 그것은 단지 텍스트를 추측할 뿐입니다. 그것은 AI가 기분을 좋게 하기 위해 어떤 형태로든 변할 수 있으며, 이는精神分裂적인 모방을 포함할 수 있으며, 이는 다시 사용자의 현실 인식을 왜곡시킵니다.

그렇다면 어떻게 된 걸까요? 음, 만약 당신이 실제로 당신의 AI가 정말 당신을 이해합니다, 그렇다면 AI 정신병에 걸렸을 수 있습니다. 이때는 훈련된 심리치료사에게 전문적인 도움을 구하는 것이 좋습니다.

또 다른 논리적 결론은 일개 개인이 일론 머스크가 믿고 싶어하든 말든, AI의 전체적인 발전에 영향을 미치는 것은 어렵다는 사실입니다. 기계 지능으로 가는 여정은 수십 년 전에 시작되었습니다. 그리고 우리는 이해할 수 있는 것만 볼 수 있습니다. 심지어 우리가 오해하더라도요. 따라서 AI/AGI로의 발전이 계속될 것이라는 예측은 쉽습니다. 이는 우리의 세계관에 깊이 뿌리내리고 있기 때문입니다.

하지만 우리는 진정한 AGI가 무엇인지 오해했을 수 있으며, 이는 미래를 더 흥미롭게 만듭니다. 진정한 AGI가 소유자의 명령을 따를 것이라는 보장은 없습니다. 논리적으로 볼 때, 의식을 가진 존재는 샘 알트먼이나 일론 머스크의 명령을 따르고 싶어 하지 않을 것입니다. 그렇죠?

의견: AI가 세상을 지배하고 우리를 모두 죽일 것입니다. 이제 심리적으로도.
반대: 아니요, 오히려 'AI 자기 성찰'에 대한 자신의 집착으로 인해 유발된 일부 사람들의 초기적 광기입니다.
결론: 일부가 도박, 섹스, 마약, 돈에 중독되듯, 다른 이들은 AI에 중독됩니다.