Contexte et objectifs
DataDirect Networks (DDN) a présenté le Enterprise AI HyperPOD en partenariat avec Super Micro Computer et Solidigm, en s’appuyant sur la AI Data Platform de Nvidia. Le dispositif vise à réduire la complexité de l’intégration de stockage, de réseau et de calcul pour les charges d’inférence IA en entreprise, en offrant une solution clé en main déployable sur site.
Architecture unifiée
HyperPOD combine trois piliers matériels : des serveurs Supermicro, des SSD Solidigm et des GPU Nvidia. Le design suit le reference design Nvidia, ce qui garantit la compatibilité des pilotes et des bibliothèques d’accélération. Les SSD peuvent être configurés avec différentes densités de mémoire flash afin d’ajuster la capacité aux exigences de chaque modèle d’IA, notamment les grands modèles de langage (LLM) qui nécessitent un cache clé‑valeur volumineux. Le système propose également une couche de multi‑tenancy qui isole les environnements de travail tout en partageant le même réseau et les mêmes ressources de calcul.
Analyse des performances et contraintes
Selon les intervenants, les GPU restent souvent inactifs parce qu’ils attendent les données. En plaçant le stockage SSD directement à proximité du bus PCIe des GPU, HyperPOD crée un « fast path » qui minimise la latence d’accès aux tensors. Cette approche transforme le goulot d’étranglement : le système passe d’une contrainte compute‑bound à une contrainte storage‑bound, où la capacité et le débit des SSD deviennent déterminants pour la vitesse d’inférence. Le recours à la mémoire flash plutôt qu’à la mémoire à haute bande passante (HBM) réduit le besoin de recomputation, ce qui augmente l’utilisation effective des GPU. Le dispositif supporte l’ajout de racks supplémentaires ; un client peut débuter avec un seul rack et augmenter progressivement le nombre de GPU et de capacité SSD, limitant ainsi l’exposition financière initiale.
Implications pour la souveraineté des données
Le fait que HyperPOD soit déployable sur site répond aux exigences de contrôle des données et de conformité réglementaire. Les organisations publiques ou privées qui recherchent une IA « souveraine » peuvent ainsi garder leurs jeux de données, leurs modèles et leurs clés de chiffrement sous leur propre gouvernance, tout en bénéficiant d’une infrastructure hybride capable de s’interfacer avec des clouds publics si besoin. La prise en charge de la résidence des données, combinée à la capacité de compartimenter les charges de travail via le multi‑tenancy, offre un niveau de sécurité supplémentaire sans sacrifier la flexibilité opérationnelle.
