Contexte et motivation
Les modèles d’intelligence artificielle actuels, notamment les grands modèles de langage (LLM), fonctionnent à partir de vecteurs continus alors que les théories classiques de l’intelligence reposent sur des structures symboliques (formules logiques, arbres syntaxiques, etc.). Cette dichotomie a conduit de nombreux chercheurs à s’interroger sur la capacité des réseaux à reproduire des comportements symboliques sans mécanisme explicite. L’article The Emergent Symbolic Structure of Artificial Neural Networks propose que les représentations internes des réseaux contiennent déjà une forme de symbolique, détectable et exploitable.
Méthodologie d’approximation symbolique
Les auteurs ont construit, pour chaque modèle étudié, une équation fermée qui mappe l’entrée du réseau à une représentation symbolique (par exemple, un tableau de paires (opérateur, opérande)). Cette équation a été calibrée à l’aide d’une régression linéaire sur les activations de couches intermédiaires, en conservant plus de 95 % de la variance des activations originales. La procédure a été appliquée à deux familles de réseaux : (i) de petits réseaux entraînés à manipuler des listes de symboles, et (ii) des LLMs (GPT‑like) évalués sur quatre domaines symboliques : arithmétique, logique, code informatique et langue naturelle.
Résultats sur petits réseaux et LLMs
Sur les réseaux de petite taille, le remplacement complet du processus de génération de représentation par l’équation symbolique a entraîné une perte de précision inférieure à 0,3 % sur des tâches de tri et de concaténation de listes. Pour les LLMs, les auteurs ont mesuré la concordance entre les sorties du modèle original et du modèle « symboliquement approximé » à l’aide de benchmarks standard : arithmétique (MATH‑10K), logique (Logical Entailment), code (HumanEval) et langue (GLUE). Dans chaque cas, le score moyen a varié de –0,5 à +0,2 point, ce qui indique que la substitution n’a pas altéré le comportement observable. De plus, en intervenant directement sur les composantes symboliques (par ex. en modifiant un opérateur dans la représentation (+, 3)), les chercheurs ont pu forcer le LLM à produire une réponse erronée ou correcte, démontrant une causalité directe entre la structure symbolique identifiée et la sortie du modèle.
Implications et limites
Ces résultats suggèrent que les vecteurs continus peuvent servir de support à des structures discrètes, ouvrant la voie à des techniques d’interprétabilité basées sur la reconstruction symbolique. Cependant, l’étude repose sur une régression linéaire simple ; des architectures plus complexes (transformers profonds, modèles multimodaux) pourraient nécessiter des approximations non linéaires. En outre, la généralisation au-delà des quatre domaines testés reste non prouvée, et aucune garantie formelle n’est fournie quant à la stabilité de la représentation symbolique sous distribution shift. Ces réserves indiquent que, bien que prometteuse, la méthode doit être validée sur des tâches plus hétérogènes et à plus grande échelle.
