Introduction
Copilot, l'outil d'assistance pour les développeurs, améliore constamment son efficacité en réduisant les informations redondantes et en choisissant le bon modèle pour chaque tâche. Cela signifie utiliser de manière plus intelligente les jetons disponibles, plutôt que de simplement en utiliser moins.
Contexte Technique
Les sessions plus longues avec Copilot nécessitent une gestion plus efficace du contexte, y compris les instructions, l'historique de conversation, les outils disponibles et l'état actuel de la tâche. Pour améliorer cela, deux fonctionnalités clés ont été mises en œuvre dans GitHub Copilot pour VS Code : le cache de requêtes et la recherche d'outils. Le cache de requêtes permet à Copilot de réutiliser l'état du modèle pour les préfixes de requêtes répétés, tandis que la recherche d'outils permet de charger les définitions d'outils à la demande, réduisant ainsi les coûts fixes associés au chargement de toutes les définitions d'outils à chaque tour.
Analyse et Implications
L'amélioration de la gestion du contexte et du routage de modèle a des implications significatives pour l'efficacité et la qualité des résultats. Le système Auto de Copilot sélectionne le modèle le plus approprié pour chaque tâche en fonction de l'intention de la tâche et de la santé actuelle du modèle. Cela permet d'éviter une approche universelle et de choisir le modèle qui convient le mieux à la tâche en question, améliorant ainsi la qualité et la rapidité des résultats.
Perspective
L'expansion de l'expérience Auto avec l'intention de la tâche à d'autres surfaces et la simplification des plans Copilot Free et Student pour utiliser Auto comme seul option de sélection de modèle sont des étapes clés pour l'avenir. De plus, les contrôles d'administration permettront aux organisations de définir Auto comme option par défaut ou de l'imposer comme seule option. Ces développements visent à améliorer constamment l'efficacité et la qualité de Copilot, offrant ainsi une meilleure expérience aux développeurs.
