Présentation de SkyPilot

SkyPilot Inc., une startup spécialisée dans l'automatisation des infrastructures, a lancé son activité avec un financement initial de 20 millions de dollars. Lux Capital a mené cette levée de fonds, avec la participation de plusieurs autres investisseurs institutionnels, ainsi que de personnalités comme Ali Ghodsi, PDG de Databricks Inc., et Jeff Dean, chief scientist de Google LLC.

Contexte technique

Les entreprises utilisent souvent différents types d'infrastructures pour leurs projets d'intelligence artificielle (IA), comme des environnements d'entraînement et de test sur site ou dans le cloud. Cela peut créer des défis pour la gestion de ces infrastructures, car chaque environnement peut avoir des caractéristiques techniques différentes, nécessitant des modifications de code pour déplacer les charges de travail entre les différents types d'infrastructures.

Fonctionnement de SkyPilot

SkyPilot propose une solution open-source pour faciliter la gestion de ces infrastructures. Son outil permet aux développeurs de gérer différents environnements d'infrastructure à travers une seule interface, et automatise certaines tâches de maintenance courantes. Par exemple, il peut optimiser l'utilisation des ressources en répartissant les charges de travail entre les serveurs de manière efficace, grâce à une technique appelée « bin packing ».

Exemple de code pour la gestion des infrastructures avec SkyPilot

De plus, lorsque les exigences matérielles d'une charge de travail IA augmentent, le logiciel de SkyPilot peut provisionner automatiquement des infrastructures supplémentaires et résoudre certains problèmes techniques sans intervention humaine.

Implications et limites

SkyPilot propose une version payante de son logiciel, appelée SkyPilot Platform, qui inclut des outils pour créer des environnements de test pour les agents IA, appelés « inference sandboxes », et qui peut lancer des grappes de cartes graphiques avec 5 000 accélérateurs en moins d'une minute. La plateforme SkyPilot vise à accélérer les déploiements d'IA et à simplifier la gestion des infrastructures pour les équipes d'IA.

Le financement de 20 millions de dollars sera utilisé pour améliorer les versions payante et open-source de la plateforme, ainsi que pour augmenter les effectifs de l'entreprise. SkyPilot cherche à aider les organisations à gérer plus efficacement leurs infrastructures d'IA et à accélérer le développement de l'intelligence artificielle.