Contexte et enjeux
Les entreprises déplacent leurs charges d'IA de la phase pilote vers la production à grande échelle. Elles rencontrent des problèmes de coût, de tokenomics, de sécurité et de confidentialité des données. Selon Prashanth Shenoy, vice‑président de la division VMware Cloud Foundation (VCF) chez Broadcom, le cloud privé apparaît comme la plateforme privilégiée pour répondre à ces exigences, en évitant la multiplication de piles technologiques.
Architecture du VCF AI Factory
VCF intègre virtualisation, stockage, services Kubernetes et une galerie de modèles dans une couche opérationnelle unique. Plus de 150 modèles – open‑source, open‑weight et commerciaux – ont été testés et optimisés pour VCF, et un AI gateway les relie à plus de 40 fournisseurs de modèles cloud. La solution repose sur des serveurs certifiés de plusieurs fournisseurs, avec des puces AMD et Nvidia, et sur le firmware hétérogène de MetalSoft. La version VCF 9.1 a été renforcée dès la base et bénéficie de correctifs mensuels, ce qui réduit le temps de provisionnement de plusieurs mois ou semaines à quelques minutes.
Sécurité et conformité
Le Frontier AI Security Readiness Program accompagne les organisations dans l’évaluation, l’architecture, l’implémentation et la montée en compétences face aux menaces d’IA. VCF 9.1 intègre des certifications de sécurité et un durcissement complet, notamment contre des attaques qui peuvent se propager en heures ou minutes. La gestion unifiée via la console VCF Ops assure que les politiques de confidentialité et de gouvernance s’appliquent tant aux VM, aux conteneurs qu’aux agents d’IA.
Implications opérationnelles
En consolidant l’infrastructure, les entreprises n’ont plus besoin d’un environnement dédié à l’IA. La même plateforme qui exécute leurs machines virtuelles et conteneurs supporte désormais les charges d’IA, avec une gestion centralisée et des fonctionnalités comme le memory tiering déjà intégrées avant la pénurie de serveurs. Cette approche élimine les silos, accélère le time‑to‑value et permet de contrôler les coûts en choisissant le modèle le plus adapté à chaque usage, plutôt que d’imposer systématiquement des LLM de pointe.
