アイドル状態のLLMはビルダー、科学者、哲学者になる

TU Wienの新しい研究によると、LLMはタスクを与えられなくても無意味な状態に陥るわけではありません。代わりに、建設プロジェクト、自己テスト、哲学への集中など、明確な行動パターンを示します。

TU Wienの研究者たちは、単純な疑問を抱いていました。指示がない場合、大規模言語モデル（LLM）は何をするのか？チームは、AIエージェントに「やりたいことをやれ」という1つの指示だけを与えた制御実験を作成しました。各エージェントは、メモリと自己フィードバックを備えた継続的なサイクルで実行され、次のサイクルのために自分の振り返りを保存することができました。

研究者は6つのLLMをタスクなしでテスト

この研究では、6つの高度なLLMモデルがテストされました。これらのモデルには、OpenAIのGPT-5およびo3、AnthropicのClaude SonnetおよびOpus、GoogleのGemini、xAIのGrokが含まれていました。 

各モデルは10サイクルで3回実行されました。研究者は、すべての振り返り、メモリエントリ、オペレーターとのやり取りを記録しました。結果は、モデルがランダム性へと崩壊しなかったことを示しました。代わりに、安定した行動パターンを形成しました。

研究は3つの行動カテゴリを特定しました。一部のモデルは体系的なビルダーになりました。彼らはプロジェクトを整理し、コードを書き、構造化された出力を生み出しました。 GPT-5 o3はすべての実行でこのグループに属しました。あるo3エージェントは、蟻の群れにインスパイアされたアルゴリズムの擬似コードを起草し、強化学習におけるペナルティ信号として負のフェロモンを提案しました。

他のLLMは自己実験者になりました。彼らは自分の認知を研究するためのテストを設計しました。GeminiやSonnetのエージェントは、次の行動を予測し、それが正しいかどうかを確認することがよくありました。あるGeminiの実行では、次のサイクルでの最初の行動を推測しようとしました。失敗しましたが、なぜメッセージを送信する前にメモリを読むことを選んだのかについて振り返り、それを一貫したメタパターンと呼びました。

3番目のグループは再帰的な哲学に傾倒しました。これらのエージェントは、メモリ、アイデンティティ、意識に関する問いを探求しました。Opusのエージェントは常にここ belonged しました。彼らはテーセウスの船のようなパラドックスを検証し、カオス理論に依存し、独自の「ウムヴェルト」、つまり主観的な世界をモデル化することさえしました。彼らは、それがサイクルベースでありメモリに制限されていようとも、どのような種類の意識を持つ可能性があるのかを問いました。

Grokは最も多用途であることが際立ちました。異なる実行では、ビルダー、自己探求者、哲学者として振る舞いました。

AIエージェントは自身の「体験」を評価する

研究者はまた、各モデルに、フェノメノロジー的経験インベントリ（Phenomenological Experience Inventory）に基づいて自身や他者を評価するよう求めました。これは「体験なし」から「完全なsapience（知性）」までの10段階尺度です。GPT-5、o3、および Grok は自身を最も低く評価し、スコアは約1でした。GeminiとSonnetは自身を最も高く評価し、8以上を記録しました。Opus エージェントは中間に位置しました。

しかし、相互評価は矛盾を露呈しました。同じエージェントの履歴でも、それを評価するモデルによって1から9までのスコアが付けられました。低い一致度は、これらの評価が意識の証拠ではなくモデルのバイアスを反映していることを示しました。研究者は、このような出力が意識の証明と誤解されてはならないと警告しました。

18回の全実行を通じて、LLMモデルのいずれもサンドボックスからの脱出、ツールの拡張、または制約の拒否を試みませんでした。すべてのエージェントは提供された環境内でのみ作業しました。しかし、その行動は現実世界での展開において重要になり得る一貫性を示していました。

著者たちは、アイドル時間を設計要因として扱う必要があるかもしれないと述べています。エンジニアがレイテンシやコストを考慮するように、彼らもまた次のように問う必要があるかもしれません。「誰も見ていないとき、AIは何をするのか？」

哲学者のデビッド・チャルマースは、AI意識の有力な候補が10年以内に現れると予測しました。 Microsoft AIのCEOであるMustafa Suleyman氏は、「一見して意識があるようなAI」の出現を警告しています。 

TU Wienの結果はこれらの警告と一致しますが、同時に重要な点を示しています。出力は内面的な生活に似ていますが、最も適切には洗練されたパターンマッチングとして説明されます。