Contexte et enjeux du déploiement IA en cloud privé

Les entreprises qui passent de projets pilotes à la production d’intelligence artificielle rencontrent désormais des obstacles d’infrastructure plutôt que de modèles. Le coût des GPU, la tokenomics des services cloud, la confidentialité des données et le travail manuel d’intégration des serveurs, du réseau et des piles logicielles constituent les principaux goulets d’étranglement. Ces contraintes incitent les charges de travail IA à revenir dans les data‑centers on‑premise, où les modèles restent proches des jeux de données et où les exigences de souveraineté sont maîtrisées.

Architecture automatisée de l’AI factory de Broadcom

Broadcom, via sa division VMware Cloud Foundation (VCF), propose une chaîne d’assemblage automatisée baptisée « AI factory ». Le processus couvre la provision de GPU, la configuration du réseau, le déploiement de Kubernetes, la mise en place de conteneurs et l’intégration du stack logiciel IA. Selon Prashanth Shenoy, directeur marketing de VCF, l’automation transforme un flux « metal‑to‑model » traditionnellement manuel en une séquence orchestrée, réduisant les temps d’installation de plusieurs semaines à quelques heures. Cette automatisation repose sur des modèles de validation pré‑définis et sur l’utilisation de vSAN ReadyNodes, dont plus de 1 600 sont déjà commercialisés auprès de fournisseurs de serveurs majeurs.

Rôle du matériel AMD et critères de dimensionnement

AMD fournit les accélérateurs qui alimentent l’AI factory. Le MI350P, accélérateur PCIe récemment lancé, cible les entreprises qui débutent avec des modèles d’environ 100 milliards de paramètres. Pour les modèles plus modestes (≈10 milliards de paramètres), la solution préconise l’usage de CPU classiques, tandis que les modèles dépassant le trillion de paramètres nécessitent le MI355X, version haut de gamme. Cette grille de dimensionnement, explicitée par Raghu Nambiar, permet aux architectes de choisir le matériel en fonction du nombre de paramètres, optimisant ainsi le rapport coût‑performance. La flexibilité matérielle de VCF garantit que les workloads traditionnels et IA cohabitent sur la même plateforme, évitant la duplication d’infrastructures.

Perspectives, limites et exigences opérationnelles

Si l’AI factory simplifie le déploiement, plusieurs limites subsistent. La dépendance à des GPU AMD implique une chaîne d’approvisionnement sensible aux pénuries, et les modèles de plus d’un trillion de paramètres restent rares en production, limitant l’applicabilité du MI355X. De plus, l’automatisation nécessite une gouvernance stricte des images de conteneurs et des politiques de sécurité réseau, faute de quoi les risques de fuite de données persistent. Enfin, le modèle économique de Broadcom repose sur la vente de licences VCF et de services d’intégration, ce qui peut augmenter le coût total de possession pour les organisations qui ne disposent pas déjà d’une base VCF. Malgré ces contraintes, la proposition de valeur réside dans la réduction du temps de mise en production et dans la capacité à garder les données sensibles en interne, deux critères décisifs pour les secteurs réglementés.