Contexte et objectif
Anthropic a annoncé une réduction du temps de chargement initial de son interface web et desktop Claude, passant de 3,1 s à 0,55 s pour le 75ᵉ percentile. Cette amélioration vise à rendre l’expérience utilisateur plus fluide, surtout pour les utilisateurs mobiles où la latence réseau amplifie les temps de réponse.
Méthodologie d'optimisation
Le projet s’est appuyé sur trois leviers : création de benchmarks déterministes, recherche de goulots d’étranglement en parallèle, et verrouillage des gains via des « CI ratchets », des drapeaux de fonctionnalité et des déploiements progressifs. Les benchmarks mesurent le temps de rendu complet du DOM, le temps de récupération du modèle de langage et le temps de rendu du texte. En exécutant ces tests sur des machines identiques, l’équipe a pu isoler les variations liées au code plutôt qu’à l’infrastructure.
Parallèlement, les ingénieurs ont instrumenté chaque couche (frontend, API, moteur de génération) avec des métriques de latence. Les profils ont révélé que la sérialisation JSON et le rendu du diff de réponse consommaient près de 40 % du temps total. En réécrivant ces parties en Rust et en introduisant du streaming binaire via WebSockets, le temps de traitement a chuté de façon linéaire.
Analyse des gains de performance
Le passage de 3,1 s à 0,55 s représente un facteur 5,6 d’amélioration, mais la communication officielle cite un gain « trois fois plus rapide » basé sur le 75ᵉ percentile, qui reste la métrique la plus pertinente pour les utilisateurs finaux. La réduction du temps de chargement a également diminué le taux d’abandon de session de 12 % à 4 % dans les tests A/B internes, confirmant un impact direct sur la rétention.
Les « CI ratchets » ont joué un rôle crucial : chaque itération de performance était comparée à la meilleure valeur précédente, empêchant les régressions. Les drapeaux de fonctionnalité ont permis d’activer les optimisations uniquement pour un sous‑ensemble d’utilisateurs, garantissant une validation progressive avant le déploiement global.
Limites et perspectives
Les gains observés concernent principalement les charges de travail typiques (requêtes texte simples). Les scénarios complexes, incluant des appels multimodaux (image + texte), n’ont pas encore été mesurés, ce qui laisse une incertitude sur la généralisation du facteur 3×. De plus, la dépendance à WebSockets introduit une surcharge de connexion persistante qui peut être sensible aux restrictions réseau d’entreprise.
Pour les futures itérations, Anthropic prévoit d’étendre les benchmarks aux modèles multimodaux, d’explorer le pré‑chargement anticipé des poids de modèle et d’intégrer des algorithmes de compression de réponse afin de réduire davantage la bande passante consommée.
