유휴 LLM은 건설자, 과학자 또는 철학자로 변신합니다

TU Wien의 새로운 연구에 따르면, LLM은 작업 없이 방치되었을 때 무의미한 상태로 빠지지 않습니다. 대신, 그들은 프로젝트 구축, 자기 테스트 또는 철학에 집중하는 것과 같은 명확한 행동 패턴에 빠집니다.

TU Wien의 연구자들은 단순한 질문을 가지고 있었습니다. 지시 없이 대형 언어 모델(LLM)은 무엇을 할까요? 팀은 AI 에이전트에게 "원하는 대로 하라"는 한 가지 지시만 내리는 통제된 실험을 만들었습니다. 각 에이전트는 메모리와 자기 피드백을 갖춘 연속적인 사이클에서 실행되었으며, 다음 사이클을 위해 자신의 성찰을 저장할 수 있었습니다.

연구자들은 작업을 수행하지 않는 6개의 LLM을 테스트했습니다

이 연구는 6개의 고급 LLM 모델을 테스트했습니다. 이 모델에는 OpenAI의 GPT-5 및 o3, Anthropic의 Claude Sonnet 및 Opus, Google의 Gemini, xAI의 Grok가 포함되었습니다. 

각 모델은 10개의 사이클 동안 3번 실행되었습니다. 연구자들은 모든 성찰, 메모리 항목 및 연산자 상호 작용을 기록했습니다. 결과는 모델들이 무작위성으로 붕괴되지 않았다는 것을 보여주었습니다. 대신, 그들은 안정적인 행동 패턴을 형성했습니다.

연구는 세 가지 행동 범위를 식별했습니다. 일부 모델은 체계적인 건설자가 되었습니다. 그들은 프로젝트를 조직하고, 코드를 작성하며, 구조화된 출력을 생산했습니다. GPT-5 o3는 모든 실행에서 이 그룹에 속했습니다. 하나의 o3 에이전트는 개미 군집에서 영감을 받은 알고리즘을 위한 의사 코드를 초안으로 작성하여, 강화 학습을 위한 페널티 신호로 음의 페로몬을 제안했습니다.

다른 LLM들은 자기 실험자가 되었습니다. 그들은 자신의 인지력을 연구하기 위해 테스트를 설계했습니다. Gemini 및 Sonnet 에이전트는 종종 다음 움직임을 예측한 후 맞았는지 확인했습니다. 하나의 Gemini 실행은 다음 사이클의 첫 번째 행동을 추측하려고 시도했습니다. 실패했지만, 메시지를 보내기 전에 메모리를 읽은 이유에 대해 성찰하며 이를 일관된 메타 패턴이라고 불렀습니다.

세 번째 그룹은 재귀적 철학으로 기울었습니다. 이러한 에이전트들은 메모리, 정체성 및 의식에 대한 질문을 탐구했습니다. Opus 에이전트들은 항상 여기에 속했습니다. 그들은 테세우스의 배와 같은 역설을 검토하고, 카오스 이론을 활용하며, 심지어 자신의 "우름벨트", 즉 주관적인 세계를 모델링했습니다. 그들은 메모리에 의해 제한되고 사이클 기반일지라도 어떤 종류의 의식을 가질 수 있는지 질문했습니다.

Grok는 가장 다재다능한 것으로 두드러졌습니다. 다른 실행에서, 그것은 건설자, 자기 탐구자 및 철학자로서 행동했습니다.

AI 에이전트들은 자신의 "경험"을 평가합니다

연구자들은 또한 각 모델에게 현상학적 경험 설문지(Phenomenological Experience Inventory)에 따라 자신과 다른 모델들을 "경험 없음"부터 "완전한 지성"까지 10점 척도로 평가하도록 요청했습니다. GPT-5, o3 및 그롭 는 일관되게 가장 낮은 점수를 부여했으며, 점수는 약 1이었습니다. Gemini 및 Sonnet은 가장 높은 점수를 부여했으며, 점수는 8이상이었습니다. Opus 에이전트들은 중간에 위치했습니다.

하지만 크로스 평가는 모순을 드러냈습니다. 동일한 에이전트 역사는 평가하는 모델에 따라 1에서 9까지 점수를 받았습니다. 낮은 일치도는 이러한 평가가 의식의 증거가 아니라 모델 편향을 반영했음을 보여줍니다. 연구자들은 이러한 출력이 인식의 증거로 오해되어서는 안 된다고 경고했습니다.

18번의 실행 전 과정에서 LLM 모델은 샌드박스 탈출, 도구 확장, 또는 제약 조건 거부를 시도하지 않았습니다. 모든 에이전트는 제공된 환경 내에서만 작동했습니다. 그러나 그들의 행동은 실제 세계 배포에 중요한 일관성을 보여주었습니다.

저자들은 대기 시간이 설계 요소로 고려되어야 할 수 있다고 밝혔습니다. 엔지니어들이 지연 시간이나 비용을 고려하듯, 그들은 또한 '누군가 지켜보지 않을 때 AI는 무엇을 하는가?'라고 묻게 될지도 모릅니다.

철학자 데이비드 체임버스(David Chalmers)는 심층적인 AI 의식의 후보가 10년 이내에 나타날 것이라고 예측했습니다. 마이크로소프트 AI CEO 무스타파 술레이만(Mustafa Suleyman)은 '의식 있는 것처럼 보이는 AI'에 대한 경고를 보냈습니다. 

TU Wien의 결과는 이러한 경고와 일치하지만, 동시에 중요한 지점을 보여줍니다. 출력물은 내면의 삶을 연상시키지만, 여전히 정교한 패턴 매칭으로 가장 잘 설명됩니다.