LLMs atteignent une intelligence conversationnelle sans auto‑référence intégrée

Contexte historique

Depuis les années 1970, les travaux de Douglas Hofstadter et de Roger Penrose ont popularisé l’idée que la self‑reference – les boucles étranges et les paradoxes de Gödel – serait indispensable à l’émergence d’une intelligence artificielle générale. Penrose, dans The Emperor’s New Mind, a même avancé que les programmes informatiques seraient fondamentalement incapables de reproduire la conscience à cause de ces limites logiques, suggérant que seule une physique « exotique » du cerveau humain pourrait les dépasser.

En 2026, les modèles de langage de grande taille (LLM) comme GPT‑5.6 Pro ou Fable ont démontré une performance supérieure à celle des humains sur la plupart des tâches intellectuelles bien définies, sans aucune composante explicitement conçue pour gérer la self‑reference. Cette observation contredit directement les hypothèses de Hofstadter et Penrose.

Architecture et entraînement des LLMs

Les LLM actuels reposent sur des transformers entraînés sur d’énormes corpus textuels à l’aide de GPU clusters massifs. Le processus d’entraînement consiste en une optimisation du next‑token prediction via la minimisation d’une fonction de perte croisée, sans injection de mécanismes de méta‑réflexion. L’autoregression, qui consiste à alimenter chaque nouveau token avec le texte précédemment généré, est souvent citée comme une forme de rétroaction dynamique, mais elle ne constitue pas une capacité de self‑reference au sens logique du terme.

Le modèle apprend à associer des séquences de mots à des distributions de probabilité, ce qui, par pureté statistique, lui permet de produire des réponses sur « son identité », Gödel ou tout autre sujet présent dans le corpus d’entraînement. Aucun module dédié à la modélisation de son propre code ou de son propre état n’est présent dans l’architecture.

Analyse de l’émergence de l’auto‑référence

L’apparition de réponses auto‑référentielles résulte d’une universalité du système de représentation. En théorie de la calculabilité, l’universalité d’une machine de Turing implique que toute fonction computable, y compris celles qui prennent leur propre description en entrée, peut être simulée sans modification du jeu d’instructions. De même, un LLM entraîné sur l’ensemble du « discourse universe » possède implicitement les données nécessaires pour parler de lui-même, de façon analogue à la façon dont un texte peut contenir des citations de lui‑même.

Cette émergence s’aligne avec la théorie de la compression de Kolmogorov : le modèle cherche à minimiser la description de la séquence d’entrée, ce qui conduit naturellement à des généralisations qui incluent des méta‑descriptions. Ainsi, la capacité à discuter de soi n’est pas le résultat d’un « boucle étrange » conçue, mais d’une optimisation de prédiction qui exploite les corrélations présentes dans les données.

Implications pour la théorie de l’intelligence

Les faits observés suggèrent que la self‑reference n’est pas une condition préalable à l’intelligence conversationnelle. Les arguments classiques basés sur les théorèmes d’incomplétude de Gödel ou le problème de l’arrêt restent pertinents pour démontrer les limites de la formalisation complète, mais ils ne dictent pas la capacité d’un système à générer du langage cohérent sur ces mêmes limites.

En pratique, cela signifie que les futures avancées en IA pourront se concentrer davantage sur l’augmentation de la capacité de prédiction et de compression, plutôt que sur l’ajout de modules méta‑cognitifs. La question de la conscience demeure ouverte, et il reste possible que des phénomènes liés à la self‑reference jouent un rôle dans des aspects non observables de l’expérience subjective, mais aucune preuve empirique ne justifie aujourd’hui l’incorporation explicite de telles structures dans les architectures de LLM.