Présentation de DDN
DDN, dirigé par Alex Bouzari, se positionne au cœur des déploiements d'IA les plus importants au monde, notamment avec des centaines de milliers de GPU pour xAI. L'entreprise constate que les taux d'utilisation des GPU distinguent les organisations où l'IA génère des résultats financiers mesurables de celles où les infrastructures coûteuses sont sous-utilisées.
Infrastructure de données IA et souveraineté
La souveraineté des données est un thème dominant, selon Bouzari. Les gouvernements veulent accéder aux capacités d'IA de pointe sans que leurs données quittent leurs frontières. Cela pousse les déploiements d'une nouvelle classe d'infrastructures de données d'IA à portée nationale, allant au-delà de l'informatique d'entreprise.
Fonctionnement et architecture
DDN est impliqué dans une douzaine de projets d'IA souverains. L'entreprise cite l'exemple de Salesforce, qui a vu une augmentation de 70% de la productivité des GPU après le déploiement de DDN. Bouzari souligne que l'utilisation interne de DDN par NVIDIA pendant huit ans est la validation la plus crédible sur le marché.
DDN est pour les données ce que NVIDIA est pour le calcul
La plate-forme de données distribuée de DDN, Infinidat, a été conçue il y a huit ans avec un modèle distribué en tête. Bouzari note que la complexité de rassembler ces couches en une infrastructure de données d'IA cohérente ne cesse de croître à mesure que les charges de travail agissent à grande échelle.
Implications et limites
Le défi architectural suivant consiste à relier une hiérarchie globalement distribuée de nœuds d'IA. Cela inclut de grandes usines dans la gamme de 25 à 100 mégawatts pour la formation de modèles, connectées à des centres de données de pointe, collectant des données en temps réel à partir de véhicules autonomes, de robots et de capteurs à travers le monde. La complexité de ce problème ne cesse de s'accroître à mesure que les charges de travail agissent à grande échelle.