Contexte du basculement vers l’inférence
Selon Cameron McCaskill de Positron AI, environ deux tiers des charges de travail exécutées sur les infrastructures d’IA sont aujourd’hui dédiés à l’inférence, contre un tiers pour l’entraînement. En 2023, la répartition était inverse : 85 % d’entraînement et 15 % d’inférence. Cette inversion modifie les critères d’achat : la consommation d’énergie, le refroidissement et la disponibilité de la mémoire deviennent aussi décisifs que la performance brute du processeur.
Architecture basée sur la mémoire de commodité
Positron a choisi de remplacer la mémoire à large bande passante (HBM), rare et coûteuse, par de la mémoire de commodité. Cette décision réduit le coût matériel et simplifie l’approvisionnement. Le serveur Atlas de première génération, construit autour d’une puce programmable, illustre ce principe. L’entreprise prévoit de « taper out » (fabriquer) son propre silicium pour le serveur Titan dès l’an prochain, ce qui devrait consolider l’approche mémoire‑commodity à l’échelle du produit final.
Implications énergétiques et déploiement modulaire
Un serveur Positron consomme environ 4 500 W. Un rack complet de serveurs Titan reste sous la barre des 40 kW, ce qui permet d’utiliser des salles climatisées à air libre sans recourir à des systèmes de refroidissement liquide. Cette densité énergétique s’aligne avec les centres de données modulaires, qui offrent des capacités de 0,5 à 2,5 MW et peuvent être mis en service rapidement. Positron indique que les opérateurs visent à passer de l’acquisition du terrain et de l’énergie à la génération de jetons monétisables en 90 à 120 jours, un délai rendu possible par la combinaison de la faible consommation et de la modularité.
Adoption commerciale et perspectives
Oracle prévoit de mettre en ligne environ 340 serveurs Atlas dans son cloud au cours du trimestre, tandis qu’un fournisseur de néocloud a signé pour les serveurs Atlas et s’est engagé à adopter les futurs serveurs Titan. Cette adoption précoce montre que les acteurs du cloud reconnaissent la valeur économique d’une architecture optimisée pour l’inférence, où la contrainte principale n’est plus la puissance de calcul brute mais la capacité à déployer rapidement des capacités de traitement à faible coût énergétique.