Présentation de Rafay Systems

Rafay Systems Inc. se positionne sur la couche d'exploitation de l'infrastructure IA, un marché en pleine transition. La première phase de ce marché consistait à acquérir des unités de traitement graphique et à mettre en place des capacités. La phase suivante consiste à transformer ce matériel coûteux en un service cloud sécurisé, fiable et rentable.

Architecture et fonctionnement

La demande d'infrastructure IA est sans précédent. Les fournisseurs achètent des infrastructures à grande échelle, souvent avec des clients déjà en attente de capacité. Cependant, acheter des GPU ne suffit pas à créer un service cloud. Les opérateurs ont encore besoin d'orchestration, de réseau, de sécurité, de multilocataires, d'observabilité, d'audit et d'une expérience développeur qui permet aux clients de consommer l'infrastructure sans processus manuel long.

Implications et limites

Le problème central est le temps nécessaire pour générer des revenus. L'infrastructure IA est coûteuse, se déprécie rapidement et doit commencer à générer des rendements dès que possible. Selon Haseeb Budhani, co-fondateur et PDG de Rafay Systems, la définition d'un service cloud est simple : les clients doivent pouvoir visiter un portail ou utiliser une interface de programmation d'applications, appuyer sur un bouton et recevoir un service IA dans un environnement multilocataire.

Analyse scientifique

Rafay Systems fournit le logiciel d'exploitation entre le matériel et l'expérience client. L'entreprise aide les fournisseurs à exposer les environnements bare metal, Kubernetes, machines virtuelles, services sans serveur, modèles open source et offres basées sur des jetons via une plate-forme commune. Cela permet à un service cloud IA de servir plusieurs segments de clients. Un développeur de grand modèle peut vouloir Kubernetes, tandis qu'un autre client peut vouloir du bare metal.

Les fournisseurs ne peuvent pas se permettre de reconstruire chaque couche eux-mêmes.

Le modèle économique s'améliore à mesure que les fournisseurs montent dans la pile. La capacité bare metal peut générer des revenus prévisibles, mais les services gérés et la consommation de jetons peuvent offrir de meilleures marges. La croissance de l'IA souveraine est également en train de remodeler le marché du cloud. Les pays et les régions veulent de plus en plus d'infrastructures locales qui maintiennent les données et les ressources de calcul plus près de chez eux.