Contexte et déploiement
Revolut a transféré environ 2 000 développeurs vers un modèle de langage GLM auto‑hébergé afin de soutenir leurs activités de codage. Cette migration a été annoncée par David Abitbol, responsable de l’AI ops, qui indique que le passage à une infrastructure interne a été motivé par la volonté de réduire les coûts liés aux API tierces comme celles d’Anthropic et d’OpenAI.
Architecture et coûts
Le cluster interne repose sur 56 GPU Nvidia B200, une génération récente optimisée pour les charges de travail d’inférence. Le modèle de facturation interne atteint 0,30 $ par million de tokens, soit environ un dixième du tarif pratiqué par les fournisseurs externes. Cette économie provient d’une combinaison de deux facteurs : la suppression des marges commerciales des fournisseurs et l’optimisation du débit grâce à un matériel dédié. Aucun détail supplémentaire n’est fourni sur la version exacte du GLM ou sur les paramètres d’optimisation logicielle, ce qui limite l’analyse de la scalabilité à long terme.
Impact sur la productivité
Selon les déclarations internes, le temps de mise en production des équipes d’ingénierie a progressé de 70 % après le basculement. Cette amélioration coïncide avec la suppression d’une politique de rationnement des tokens, qui contraignait auparavant les développeurs à réserver l’IA pour les tickets les plus complexes. Une fois la contrainte levée, les ingénieurs ont commencé à solliciter le modèle pour toutes les tâches de codage, ce qui a généré un effet d’effet de réseau interne et a renforcé la confiance dans le système.
Enjeux et limites
Le texte souligne que les modèles de pointe (« frontier models ») sont désormais relégués à la catégorie « exception », tandis que les poids ouverts deviennent la norme. Cette orientation crée un problème de tarification pour les laboratoires qui envisagent une introduction en bourse, car la compétitivité dépendra de la capacité à maintenir des coûts d’inférence bas. Le principal risque identifié réside dans la dépendance à un matériel propriétaire (Nvidia B200) et dans l’absence de données publiques sur la robustesse du GLM face à des charges de travail variées. Sans benchmarks comparatifs, il est difficile d’évaluer la qualité du code généré par rapport aux solutions commerciales.
