Contexte et objectifs
Face à une demande croissante d’IA générative et d’IA agentique, Dell Technologies et AMD ont accéléré leur partenariat pour proposer une infrastructure capable de soutenir des charges de travail variées. Le modèle d’« Engineering Velocity » décrit par theCUBE Research met l’accent sur la rapidité d’apprentissage, de validation et d’évolution du système complet, au‑delà des simples scores de benchmark.
Architecture et consolidation des serveurs
Le socle matériel repose sur la gamme PowerEdge de Dell, enrichie de processeurs AMD EPYC. Selon Pradyumna Narendra, les serveurs équipés d’EPYC offrent un gain de performance de 70 % d’une génération à l’autre et permettent de regrouper 13 serveurs de la 14ᵉ génération PowerEdge en un seul châssis. Cette consolidation réduit l’encombrement physique et le besoin en alimentation, tout en conservant la capacité de traitement requise par les charges d’IA.
Le nouveau serveur à trois unités de rack consomme moins d’énergie de refroidissement qu’un équivalent à deux unités, ce qui augmente la densité de calcul par rack. Cette approche, bien que contre‑intuitive, répond à la contrainte d’espace dans les centres de données déjà saturés de GPU.
Plateforme modulaire et logiciels
Le « Dell AI Platform with AMD » combine les accélérateurs Instinct, les CPU EPYC, les serveurs PowerEdge, le réseau PowerSwitch et le stockage PowerScale. La solution est pré‑intégrée avec la pile logicielle ROCm d’AMD, permettant l’entraînement, le fine‑tuning et le déploiement de grands modèles de langage sur site. Dell propose des configurations initiales adaptées aux besoins actuels, puis la possibilité d’ajouter des unités de calcul, de stockage ou de réseau sans refonte architecturale.
Varun Chhabra souligne que chaque composant – CPU, GPU, stockage, réseau et framework logiciel – est testé et validé conjointement, garantissant une compatibilité continue lors de l’extension de la plateforme.
Performance GPU et intégration PCIe
En juillet, Dell a annoncé la prise en charge des GPU AMD Instinct MI350P dans les serveurs PowerEdge XE7745 et R7725. Le MI350P intègre 144 Go de mémoire HBM3E, offrant une bande passante élevée cruciale pour réduire la latence du premier token lors de l’inférence. Cette capacité mémoire se traduit par une amélioration notable des temps de réponse dans les applications génératives.
L’interface PCIe du MI350P autorise un refroidissement à air, contournant les exigences de refroidissement liquide qui freinent encore l’adoption dans certains data‑centers. Cette flexibilité répond aux préoccupations environnementales et aux contraintes d’infrastructure existantes.
