Présentation
Lors du salon SC26, Alex Bouzari, co‑fondateur et PDG de DataDirect Networks (DDN), a expliqué que l’inférence, désormais le principal poste de dépense en IA d’entreprise, impose une réorganisation de l’infrastructure. Face à la hausse des prix des GPU et aux pénuries de composants, les déploiements passent d’un petit nombre de centres massifs à un réseau de sites plus modestes, de 1 à 5 MW, placés à proximité des sources de données.
Architecture distribuée et rôle de la couche de données
DDN développe une couche logicielle capable de s’étendre sur différents matériels, illustrée par la libération du système de fichiers EXAScaler de son propre hardware. Cette abstraction permet d’exploiter davantage les équipements coûteux en maximisant l’utilisation, un principe hérité du calcul haute performance. Le modèle « Enterprise AI HyperPOD » regroupe CPU, GPU, réseau et stockage dans un rack autonome, destiné à être installé dans des sites existants disposant d’alimentation suffisante.
Impacts économiques et contraintes matérielles
Le passage d’un budget de plusieurs centaines de millions de dollars, suffisant autrefois à financer le supercalculateur le plus rapide, à l’acquisition de 15 à 20 racks montre l’intensité du recentrage budgétaire. Les pénuries de GPU, de mémoire et de SSD accentuent la nécessité d’une couche de données qui délivre plus de performances avec moins d’infrastructure. Bouzari souligne que la capacité d’extraction de valeur dépend désormais de la capacité du moteur de données à supporter des charges d’inférence élevées tout en limitant les dépenses d’énergie.
Perspectives d’adoption en entreprise
Le packaging HyperPOD, installé sur site, offre aux entreprises un contrôle renforcé sur leurs données sensibles, réduisant la dépendance aux clouds publics. Selon Bouzari, la combinaison d’un processeur Nvidia pour le calcul et d’une solution DDN pour le stockage constitue le nouveau standard pour les charges d’inférence et les agents autonomes. Il anticipe une multiplication des petits pods dans les organisations mondiales, chaque unité étant adaptée aux besoins locaux, que ce soit pour la conduite autonome, la robotique industrielle ou l’analyse de flux de capteurs.