Présentation du problème

Les modèles de langage (LLM) utilisés dans le développement logiciel ont besoin de construire une grande quantité de connaissances pour effectuer des tâches spécifiques. Cependant, cette connaissance est souvent perdue lorsque la session est terminée ou que le modèle est changé.

Contexte technique

Les LLM comme Codex ou Claude travaillent dur pour construire une image riche de la logique du code, mais cette connaissance est perdue lorsque le modèle est changé ou que la session est terminée. Cela peut entraîner une perte importante de connaissances institutionnelles et de productivité.

Par exemple, si un développeur utilise Codex pour travailler sur un code, puis change pour Claude, le nouveau modèle doit recommencer à zéro, ce qui peut entraîner une perte de temps et de ressources.

Implications et limites

La perte de contexte des LLM peut avoir des implications importantes pour les équipes de développement, en particulier lorsqu'il s'agit de code review. Les relecteurs de code, humains ou non, ont du mal à suivre les nuances derrière un changement de code, car le contexte est souvent perdu.

Il est donc important de trouver des solutions pour préserver le contexte des LLM, comme la possibilité de reprendre une session où elle a été laissée, ou de partager les connaissances entre les modèles.

Recherche de solutions

Il est nécessaire de développer des solutions pour préserver le contexte des LLM, comme la création de modèles plus portables ou la mise en place de systèmes de partage de connaissances entre les modèles.

Les développeurs et les chercheurs doivent travailler ensemble pour trouver des solutions à ce problème, qui peut avoir des implications importantes pour la productivité et la qualité du code.

Exemple de code pour reprendre une session :
   # Réinitialiser le contexte
   context = {}
   # Charger le contexte précédent
   context = load_context()
   # Reprendre la session
   session = resume_session(context)