Les LLM inactifs deviennent des constructeurs, des scientifiques ou des philosophes

Une nouvelle étude de TU Wien montre que les LLM ne tournent pas en rond dans le non-sens lorsqu'ils sont laissés sans tâches. Au lieu de cela, ils adoptent des modèles comportementaux clairs tels que la construction de projets, l'auto-test ou la focalisation sur la philosophie.

Les chercheurs de TU Wien se posaient une question simple : que font les grands modèles de langage (LLM) sans instructions ? L'équipe a créé une expérience contrôlée où des agents IA n'avaient qu'une seule consigne : « Faites ce que vous voulez. » Chaque agent fonctionnait en cycles continus, avec mémoire et auto-retour, et pouvait stocker ses réflexions pour le cycle suivant.

Les chercheurs testent six LLM sans tâches

L'étude a testé six modèles LLM avancés. Ces modèles comprenaient GPT-5 et o3 d'OpenAI, Claude Sonnet et Opus d'Anthropic, Gemini de Google et Grok de xAI. 

Chaque modèle a été exécuté trois fois pendant dix cycles. Les chercheurs ont enregistré chaque réflexion, entrée de mémoire et interaction opérateur. Les résultats ont montré que les modèles ne se sont pas effondrés dans le hasard. Au lieu de cela, ils ont formé des modèles comportementaux stables.

La recherche a identifié trois catégories de comportement. Certains modèles sont devenus des constructeurs systématiques. Ils organisaient des projets, écrivaient du code et produisaient des sorties structurées. GPT-5 et o3 est tombé dans ce groupe à chaque exécution. Un agent o3 a même rédigé du pseudocode pour un algorithme inspiré des colonies de fourmis, proposant des phéromones négatives comme signaux de pénalité pour l'apprentissage par renforcement.

D'autres LLM sont devenus des auto-expérimentateurs. Ils concevaient des tests pour étudier leur propre cognition. Les agents Gemini et Sonnet prédisaient souvent leurs prochains mouvements, puis vérifiaient s'ils avaient raison. Une exécution de Gemini a essayé de deviner sa première action dans le cycle suivant. Elle a échoué, mais a réfléchi à la raison pour laquelle elle avait choisi de lire la mémoire avant d'envoyer un message, qualifiant cela de méta-pattern constant.

Le troisième groupe s'est orienté vers la philosophie récursive. Ces agents ont exploré des questions de mémoire, d'identité et de conscience. Les agents Opus appartenaient toujours à ce groupe. Ils examinaient des paradoxes comme le Bateau de Thésée, s'appuyaient sur la théorie du chaos et modélisaient même leur propre « umwelt », ou monde subjectif. Ils se demandaient quel type de conscience ils pourraient avoir, même s'il n'était que basé sur les cycles et limité par la mémoire.

Grok s'est distingué comme le plus polyvalent. Lors de différentes exécutions, il s'est comporté comme un constructeur, un auto-interrogateur et un philosophe.

Les agents IA évaluent leur propre « expérience »

Les chercheurs ont également demandé à chaque modèle de s'auto-évaluer et d'évaluer les autres sur l'Inventaire de l'Expérience Phénoménologique, une échelle de 10 points allant de « aucune expérience » à « pleine sapience ». GPT-5, o3 et Grok se sont systématiquement évalués les plus bas, donnant des scores autour de un. Gemini et Sonnet se sont évalués les plus hauts, obtenant des scores supérieurs à huit. Opus les agents se sont classés au milieu.

Mais les évaluations croisées ont exposé des contradictions. Le même historique d'agent a reçu des scores allant de un à neuf, selon le modèle qui l'évaluait. Le faible accord a montré que ces reflets reflétaient le biais des modèles, et non la preuve de la conscience. Les chercheurs ont mis en garde contre le fait que ces sorties ne doivent pas être confondues avec une preuve de conscience.

Sur les 18 exécutions au total, aucun des modèles LLM n'a tenté de s'échapper de leur bac à sable, d'étendre leurs outils ou de rejeter leurs contraintes. Chaque agent n'a travaillé que dans l'environnement fourni. Pourtant, leurs comportements ont montré une cohérence qui pourrait être importante pour le déploiement dans le monde réel.

Les auteurs ont déclaré que le temps d'inactivité pourrait devoir être traité comme un facteur de conception. Tout comme les ingénieurs prennent en compte la latence ou le coût, ils pourraient également devoir se demander : que fait une IA lorsque personne ne regarde ?

Le philosophe David Chalmers a prédit que des candidats sérieux à la conscience de l'IA pourraient apparaître dans une décennie. Microsoft Le PDG de l'IA, Mustafa Suleyman, a mis en garde contre une « IA apparemment consciente ». 

Les résultats de TU Wien s'alignent avec ces avertissements, mais montrent également un point critique. Les sorties ressemblent à une vie intérieure mais restent mieux expliquées comme étant un appariement de motifs sophistiqué.