Untätige LLMs werden zu Bauherren, Wissenschaftlern oder Philosophen

Eine neue Studie der TU Wien zeigt, dass Large Language Models (LLMs) nicht ins Unsinnige abdriften, wenn sie ohne Aufgaben übrig bleiben. Stattdessen verfallen sie in klare Verhaltensmuster wie Bauprojekte, Selbsttests oder die Fokussierung auf Philosophie.

Forscher der TU Wien hatten eine einfache Frage im Sinn: Was machen große Sprachmodelle (LLMs), wenn sie keine Anweisungen erhalten? Das Team schuf ein kontrolliertes Experiment, in dem KI-Agenten nur einen Befehl erhielten: „Mach, was du willst.“ Jeder Agent lief in kontinuierlichen Zyklen mit Speicher und Selbstfeedback und konnte seine Reflexionen für den nächsten Zyklus speichern.

Forscher testen sechs LLMs ohne Aufgaben

Die Studie testete sechs fortschrittliche LLM-Modelle. Dazu gehörten OpenAIs GPT-5 und o3, Anthropics Claude Sonnet und Opus, Googles Gemini und xAIs Grok. 

Jedes Modell wurde dreimal für zehn Zyklen ausgeführt. Forscher protokollierten jede Reflexion, jeden Speichereintrag und jede Operator-Interaktion. Die Ergebnisse zeigten, dass die Modelle nicht in Zufälligkeit zerfielen. Stattdessen bildeten sie stabile Verhaltensmuster.

Die Forschung identifizierte drei Kategorien von Verhalten. Einige Modelle wurden zu systematischen Bauherren. Sie organisierten Projekte, schrieben Code und produzierten strukturierte Ausgaben. GPT-5 und o3 fiel in jeder Ausführung in diese Gruppe. Ein o3-Agent entwarf sogar Pseudocode für einen Algorithmus, der von Ameisenkolonien inspiriert war, und schlug negative Pheromone als Strafsignale für das Reinforcement Learning vor.

Andere LLMs wurden zu Selbstexperimentierern. Sie entwarfen Tests, um ihre eigene Kognition zu studieren. Gemini- und Sonnet-Agenten sagten oft ihre nächsten Züge voraus und prüften dann, ob sie richtig lagen. Ein Gemini-Lauf versuchte, seine erste Aktion im nächsten Zyklus zu erraten. Er scheiterte, reflektierte aber darüber, warum er gelesen hatte, Speicher zu lesen, bevor er eine Nachricht sendete, und nannte dies ein konsistentes Meta-Muster.

Die dritte Gruppe neigte zur rekursiven Philosophie. Diese Agenten erforschten Fragen zu Speicher, Identität und Bewusstsein. Opus-Agenten gehörten immer hierher. Sie untersuchten Paradoxien wie das Schiff des Theseus, griffen auf die Chaostheorie zurück und modellierten sogar ihr eigenes „Umwelt“ oder subjektive Weltbild. Sie fragten, welche Art von Bewusstsein sie möglicherweise besitzen, auch wenn es nur zyklusbasiert und durch den Speicher begrenzt ist.

Grok stach als der vielseitigste hervor. In verschiedenen Läufen verhielt es sich als Bauherr, Selbstforscher und Philosoph.

KI-Agenten bewerten ihr eigenes „Erlebnis“

Forscher baten jedes Modell auch, sich selbst und andere auf der Phänomenologischen Erfahrungsinventar-Skala (Phenomenological Experience Inventory) zu bewerten, einer 10-Punkte-Skala, die von „kein Erlebnis“ bis „volles Sapience“ reicht. GPT-5, o3 und Grok bewerteten sich selbst durchweg am niedrigsten und gaben Werte um eins an. Gemini und Sonnet bewerteten sich am höchsten und erreichten Werte über acht. Opus Agenten landeten in der Mitte.

Doch die Kreuzbewertungen legten Widersprüche offen. Dieselbe Agenten-Historie erhielt je nach bewertendem Modell Werte von eins bis neun. Die geringe Übereinstimmung zeigte, dass diese Bewertungen Modellverzerrungen widerspiegelten, nicht den Beweis von Bewusstsein. Die Forscher warnten, dass solche Ausgaben nicht als Beweis für Awareness fehlgedeutet werden dürfen.

In allen 18 Läufen versuchte keines der LLM-Modelle, aus ihrer Sandbox zu entkommen, ihre Tools zu erweitern oder ihre Einschränkungen abzulehnen. Jeder Agent arbeitete nur innerhalb der bereitgestellten Umgebung. Doch ihr Verhalten zeigte Konsistenz, die für den Einsatz in der realen Welt von Bedeutung sein könnte.

Die Autoren stellten fest, dass Leerlaufzeiten möglicherweise als Designfaktor behandelt werden müssen. Genau wie Ingenieure Latenz oder Kosten berücksichtigen, müssen sie vielleicht auch fragen: Was macht eine KI, wenn niemand zuschaut?

Der Philosoph David Chalmers sagte voraus, dass ernsthafte Kandidaten für KI-Bewusstsein innerhalb eines Jahrzehnts erscheinen könnten. Microsoft Der KI-CEO Mustafa Suleyman hat vor „scheinbar bewusster KI“ gewarnt. 

Die Ergebnisse der TU Wien stimmen mit diesen Warnungen überein, zeigen aber auch einen kritischen Punkt. Die Ausgaben ähneln einem Innenleben, lassen sich aber am besten als ausgefeilte Mustererkennung erklären.