Principe du Procedural Graph
Le Procedural Graph est un registre explicite de triplets (procédure, relation, procédure). Chaque nœud représente une action possible, chaque arête encode une condition ou une dépendance entre deux actions. Au moment de la décision, le système identifie le nœud actif du graphe et extrait le sous‑graphe voisin. Un modèle d’orientation traduit ce sous‑graphe en consignes contextuelles qui biaisent le choix de l’action suivante sans la contraindre, ce qui conserve la flexibilité du LLM tout en réintroduisant la connaissance procédurale perdue dans les historiques libres.
Mécanisme d’évolution autonome
Après chaque exécution, un raffineur LLM compare la trajectoire échouée à une trajectoire réussie. Le différentiel guide des opérations d’édition : ajout ou suppression d’arêtes, mise à jour d’attributs de nœuds, ou création de nouveaux nœuds. Chaque modification est évaluée sur un jeu de validation séparé ; seules les éditions qui maintiennent ou améliorent la performance sont conservées. Les modifications rejetées restent dans le graphe sous forme de marqueurs afin d’éviter la répétition d’erreurs identifiées précédemment.
Performances et comparaison avec les approches classiques
En partant d’un squelette minimal, le processus itératif a généré des graphes dont les scores dépassent ou égalisent ceux de graphes conçus manuellement. Sur plusieurs jeux de données, types de tâches et tailles de LLM, le Procedural Graph a fourni un gain constant par rapport aux baselines basées uniquement sur la mémoire du modèle. De plus, la capacité à réparer un « expert prior » défectueux a été démontrée, montrant que le système peut corriger des connaissances procédurales initialement erronées sans intervention humaine.
Limites et perspectives
Le cadre dépend fortement de la qualité du raffineur LLM : des erreurs de comparaison entre trajectoires peuvent entraîner des éditions non bénéfiques. Le besoin d’un jeu de validation séparé impose un coût computationnel supplémentaire, surtout pour des modèles de grande taille. Enfin, la représentation sous forme de triplets ne capture pas directement les contraintes temporelles complexes, ce qui pourrait limiter l’applicabilité à des processus fortement séquentiels. Des travaux futurs pourraient intégrer des mécanismes de planification temporelle et réduire la dépendance à la validation externe.
