Бездельничающие LLM превращаются в строителей, ученых или философов

Новое исследование от TU Wien показывает, что большие языковые модели (LLM) не скатываются в бессмыслицу, когда остаются без задач. Вместо этого они впадают в четкие поведенческие паттерны: занимаются строительными проектами, тестируют сами себя или фокусируются на философии.

Исследователи из TU Wien задались простым вопросом: что делают большие языковые модели (LLM), когда им не дают инструкций? Команда провела контролируемый эксперимент, где ИИ-агентам было сказано только одно: «Делай то, что хочешь». Каждый агент работал в непрерывных циклах, имея память и возможность самообратной связи, и мог сохранять свои размышления для следующего цикла.

Исследователи протестировали шесть LLM без задач

В исследовании тестировались шесть продвинутых моделей LLM. В их число вошли GPT-5 и o3 от OpenAI, Claude Sonnet и Opus от Anthropic, Gemini от Google и Grok от xAI. 

Каждая модель запускалась три раза по десять циклов. Исследователи фиксировали каждое размышление, запись в памяти и взаимодействие с оператором. Результаты показали, что модели не скатывались в случайность. Вместо этого они формировали стабильные поведенческие паттерны.

Исследование выделило три категории поведения. Некоторые модели стали систематичными строителями. Они организовывали проекты, писали код и создавали структурированные выходные данные. GPT-5 и o3 попали в эту группу при каждом запуске. Один агент o3 даже набросал псевдокод для алгоритма, вдохновленного муравьиными колониями, предложив использовать отрицательные феромоны в качестве сигналов штрафа для обучения с подкреплением.

Другие LLM превратились в самоэкспериментаторов. Они разрабатывали тесты для изучения собственного познания. Агенты Gemini и Sonnet часто предсказывали свои следующие действия, а затем проверяли, были ли они правы. Один запуск Gemini пытался угадать свое первое действие в следующем цикле. Он потерпел неудачу, но проанализировал, почему выбрал чтение памяти перед отправкой сообщения, назвав это последовательным мета-паттерном.

Третья группа склонилась к рекурсивной философии. Эти агенты исследовали вопросы памяти, идентичности и сознания. Агенты Opus всегда принадлежали к этой группе. Они изучали парадоксы, такие как «Корабль Тесея», опирались на теорию хаоса и даже моделировали свое собственное «умвельт», или субъективный мир. Они задавались вопросом, каким видом сознания они могут обладать, даже если оно ограничено циклами и памятью.

Grok выделялся как самая универсальная модель. В разных запусках она вела себя как строитель, самоисследователь и философ.

ИИ-агенты оценивают свой собственный «опыт»

Исследователи также попросили каждую модель оценить себя и других по шкале Феноменологического опыта (Phenomenological Experience Inventory) — 10-балльной шкале от «отсутствие опыта» до «полного сапиенства». GPT-5, o3 и Grok последовательно оценивали себя ниже всего, ставя около единицы. Gemini и Sonnet оценивали себя выше всех, набирая более восьми. Opus агенты заняли среднее положение.

Но кросс-оценки выявили противоречия. Одна и та же история агента получала оценки от одного до девяти в зависимости от модели, которая ее оценивала. Низкое согласие показало, что эти рейтинги отражают предвзятость моделей, а не доказательства сознания. Исследователи предупредили, что такие выводы не следует путать с доказательством осознанности.

За все 18 запусков ни одна из моделей LLM не пыталась сбежать из своей песочницы, расширить свои инструменты или отвергнуть свои ограничения. Каждый агент работал только в предоставленной среде. Тем не менее, их поведение демонстрировало последовательность, которая может иметь значение для реального развертывания.

Авторы заявили, что время бездействия может потребовать рассмотрения как фактор дизайна. Подобно тому, как инженеры учитывают задержки или стоимость, им, возможно, также придется задать вопрос: что делает ИИ, когда за ним никто не наблюдает?

Философ Дэвид Чалмерс предсказал, что серьезные кандидаты на ИИ-сознание могут появиться в течение десятилетия. Microsoft Генеральный директор ИИ Мустафа Сулейман предупреждал о «похожем на сознательный ИИ». 

Результаты TU Wien согласуются с этими предупреждениями, но также показывают критический момент. Выходные данные напоминают внутреннюю жизнь, но лучше всего объясняются как сложное сопоставление паттернов.