Présentation de VAST Data

VAST Data Inc. se positionne au centre de l'évolution de l'infrastructure d'IA, avec une valorisation de 30 milliards de dollars après sa série F de financement. L'entreprise a pour investisseur NVIDIA Corp. et a plus que triplé sa valorisation par rapport à 2023.

Architecture et fonctionnement

Le fondateur de VAST Data, Jeff Denworth, explique que la valorisation de l'entreprise reflète sa trajectoire de revenus et les décisions architecturales prises il y a des années pour construire une plate-forme de données d'IA unifiée. La plate-forme de VAST est conçue pour gérer les charges de travail d'inférence à grande échelle et prend en charge les systèmes de données qui alimentent les clusters de GPU.

Denworth note que le coût élevé des disques flash, les contraintes de capacité et l'émergence de l'inférence disaggrégée obligent à repenser fondamentalement l'infrastructure d'IA. La plate-forme de VAST est maintenant conçue explicitement pour cette nouvelle classe de charge de travail.

Implications et limites

Les plus grands contrats de VAST sont désormais orientés vers le stockage KV cache, avec des débits très élevés. L'entreprise a récemment construit un cluster de stockage d'IA d'un exaoctet, représentant 1 % de la production annuelle de disques flash dans le monde, et prend en charge un environnement avec 300 000 GPU.

Denworth souligne que VAST est plus qu'un simple produit de stockage, offrant des services de base de données, des runtime, des pipelines et des courtiers d'événements. L'entreprise travaille avec les fournisseurs de services Neo Clouds pour proposer un catalogue complet de services de données sur les infrastructures de GPU.

Partenariat avec NVIDIA

Le partenariat entre VAST et NVIDIA est en constante évolution, avec une intégration plus profonde de la plate-forme de VAST avec les technologies de NVIDIA. Cela permet aux clients de VAST de bénéficier de performances accrues et de réduire leurs coûts.

Exemple de code : 
   # Construction d'un cluster de stockage d'IA d'un exaoctet
   cluster_size = 1 exaoctet
   num_gpus = 300 000
   # Configuration du stockage KV cache
   kv_cache_config = {'size': cluster_size, 'num_gpus': num_gpus}