Introduction
Claude Code, une plateforme d'IA, propose une fonctionnalité appelée « pensée étendue » qui semble offrir une transparence sur le processus de prise de décision de l'agent. Cependant, une analyse plus approfondie révèle que cette fonctionnalité ne fournit qu'un résumé de la pensée du modèle, et non la pensée réelle.
Contexte Technique
Claude Code enregistre chaque session sur disque, y compris les « blocs de pensée » qui représentent le raisonnement du modèle. Mais lorsqu'on tente d'inspecter ce raisonnement, on se retrouve avec une signature cryptée et non avec le texte réel. Selon les documents de Claude, la plateforme crypte son raisonnement dans cette signature, et seul Anthropic détient la clé. L'API ne fournit qu'un résumé de la pensée, et non la pensée elle-même. Pour obtenir la sortie complète de la pensée, il faut conclure un accord d'entreprise.
Analyse et Implications
Ceci est important à savoir avant de promettre à quelqu'un un traçage des actions. La sortie de « pensée étendue » de Claude Code n'est pas la pensée réelle qui a conduit aux actions du modèle, mais un résumé de la logique de pensée. C'est comme essayer de modifier un fichier JPEG en le sauvegardant sous forme de BMP, puis en le présentant à nouveau comme un JPEG, ce qui entraîne une perte de données. Cette présentation de la fonctionnalité par Anthropic est sous-estimée et peut être trompeuse.
Perspective
Il est essentiel de surveiller les améliorations des performances des modèles open source, car elles doivent arriver plus rapidement. De plus, il est crucial de comprendre les limites de la « pensée étendue » de Claude Code et de ne pas se fier uniquement à la documentation indirecte. Les utilisateurs doivent être conscients des limitations de cette fonctionnalité et ne pas promettre plus que ce qu'elle peut offrir.
