Contexte et objectif

Le projet Weight‑space Playground montre comment une modification ciblée de quelques poids d’un grand modèle de langage (LLM) peut éliminer un comportement de boucle infinie. Le modèle testé est une version réduite de Qwen, dont le nombre total de paramètres est d’environ 800 M. Sans intervention, le modèle reste bloqué en « wait, let me verify… » jusqu’à épuiser son budget de calcul.

Mécanisme de modification des poids

La technique consiste à soustraire une direction unique aux poids de sortie de 64 neurones situés dans les couches 15 et 19, plus précisément dans la matrice ffn_down. Cette opération touche 131 072 poids, soit 0,016 % du total de 800 M. Le choix de ces neurones repose sur l’observation que leur activation déclenche le cycle de vérification. En réduisant leur contribution, le modèle ne génère plus la séquence de re‑validation et passe directement à la réponse finale.

Implémentation WebGPU et visualisation

Le playground utilise WebGPU pour rendre en temps réel les poids modifiés sous forme de bandes colorées. Les bandes affichées sont environ 25 fois plus larges que l’échelle réelle, afin d’être perceptibles à l’écran ; à l’échelle physique, elles seraient invisibles. Cette amplification visuelle permet de suivre l’impact de l’édition sur la distribution des poids sans altérer les calculs sous‑jacents.

Évaluation et limites

Après l’édition, le même prompt produit une réponse complète, le modèle n’étant plus piégé dans la boucle. Le résultat montre que le poids‑space programming cible précisément des cas d’échec, contrairement au « model souping » qui fusionne des poids sur la base de benchmarks larges. Cependant, la méthode dépend d’une identification fiable des neurones responsables, ce qui reste difficile à généraliser. De plus, l’édition ne touche qu’une fraction minime du réseau ; des défauts plus profonds pourraient nécessiter des modifications plus étendues, augmentant le risque d’instabilité du modèle.