Principe du self‑rewriting
Les auteurs entraînent une fois un modèle de 27 milliards de paramètres, puis le figent. Au lieu d’un nouveau cycle d’entraînement ou d’un prompt externe, le modèle analyse ses réponses, identifie ses erreurs et modifie directement ses poids. Cette opération s’effectue uniquement avec des passes avant, sans gradients ni rétro‑propagation.
Mécanisme d’édition des poids
Le modèle reçoit trois entrées : ses poids actuels, la réponse notée (correcte ou non) et la capacité d’exécuter du code interne. Il génère alors une séquence d’instructions qui, lorsqu’elle est appliquée, ajuste les valeurs numériques du réseau. Chaque modification est testée immédiatement sur un jeu de problèmes pratiques ; seules les éditions qui améliorent le score sont conservées. Le processus se répète sur plusieurs itérations, chaque session s’appuyant sur les poids déjà réécrits.
Évaluation des performances
Après une première session, le modèle améliore son taux de réussite de 6,6 points sur des questions jamais vues auparavant. Le gain persiste parce que les poids modifiés restent en mémoire lors des inférences suivantes. Sur huit sessions consécutives, l’exactitude augmente de façon continue, démontrant une accumulation de bénéfices sans coût supplémentaire par requête. En parallèle, les chercheurs ont créé une copie endommagée du même modèle ; après auto‑réparation, la copie retrouve plus de 80 % de la précision initiale sur des tâches d’imagerie inédites, sans jamais accéder aux poids originaux.
Limites et perspectives
Le phénomène apparaît uniquement à l’échelle du plus grand modèle de la famille étudiée ; les versions plus petites n’effectuent aucune édition ou se détériorent lorsqu’elles tentent de le faire. Cette dépendance à la taille suggère que la capacité d’auto‑optimisation nécessite un certain niveau de complexité interne. De plus, le cadre actuel ne garantit pas la stabilité à long terme : chaque modification repose sur des évaluations locales qui pourraient introduire des biais non détectés. Néanmoins, la capacité à écrire des gains directement dans les poids ouvre la voie à une forme de « amélioration récursive » où l’inférence et l’entraînement se confondent, potentiellement sans besoin de modèles plus grands ou d’infrastructures additionnelles.