Contexte du marché des néoclouds
Les fournisseurs d’infrastructure IA ont multiplié leurs data centers grâce à un afflux de capitaux GPU, mais la mise en service de capacité reste plus simple que son exploitation à grande échelle. Lors de KubeCon + CloudNativeCon NA, les organisateurs ont placé l’orchestration de conteneurs et l’inférence distribuée au cœur du programme, soulignant que les néoclouds partagent les mêmes bases matérielles que les hyperscalers tout en manquant souvent d’un pont vers les systèmes d’entreprise qui consommeront leurs ressources.
Rôle de Kubernetes dans les usines d’IA
Kubernetes, mûri pendant plus d’une décennie, est aujourd’hui intégré dans environ deux tiers des environnements d’entreprise et apparaît dans les architectures de référence de Nvidia. Le CNCF a ajouté une piste dédiée à l’inférence IA à son agenda, ce qui reflète le déplacement de l’attention des praticiens vers des charges de travail d’inférence. Cette « hardened » version de Kubernetes permet de déployer des modèles d’inférence à l’échelle, un domaine identifié comme le plus dynamique du moment.
Facteurs de succès et risques opérationnels
Des acteurs comme SoftBank Group prévoient d’entrer sur le marché américain des néoclouds, rejoignant un paysage déjà saturé. Beaucoup de ces opérateurs ont d’abord construit des centres pour le minage de Bitcoin ou l’arbitrage de prix spot, sans expérience de piles logicielles à grande échelle. Selon John Furrier, « la moitié des néoclouds échoueront », car la maîtrise des logiciels d’orchestration est indispensable. CoreWeave Inc. illustre le modèle gagnant : son équipe, issue de Google Cloud, combine expertise data‑center et compétences Kubernetes. Furrier suggère également que le capital‑investissement pourrait acquérir de petites sociétés Kubernetes pour combler le déficit de compétences.
Perspectives et stratégies d’adaptation
Les néoclouds qui ne s’associent pas aux hyperscalers capables d’absorber leur capacité risquent l’obsolescence. Sarbjeet Johal, CEO de Stackpane, insiste sur la nécessité de « partenariats avec les acteurs qui apprécient le brownfield ». Sans ces alliances, les fournisseurs restent des débordements sans débouchés. La tendance indique que les futurs leaders seront ceux qui alignent l’infrastructure physique (alimentation, refroidissement, connectivité) avec une stack logicielle Kubernetes robuste, capable de gérer l’inférence distribuée et les charges de travail IA à l’échelle.
