Introduction
Baseten, une startup spécialisée dans les plateformes d'inférence IA, lève 1,5 milliard de dollars dans le cadre d'une nouvelle campagne de financement. Cette levée de fonds intervient moins de six mois après la précédente, qui avait atteint 300 millions de dollars.
Contexte Technique
Baseten propose une plateforme qui automatiser le processus de mise en place d'un cluster d'inférence basé sur le cloud. Les développeurs n'ont plus besoin de configurer les cartes graphiques, de les relier entre elles et d'installer de nombreux outils logiciels. La plateforme de Baseten est alimentée par trois modules d'inférence qui optimisent les performances des modèles d'IA et collectent des données sur les problèmes techniques.
Les trois modules d'inférence sont conçus pour répondre à différents types de modèles d'IA. Le premier, BIS-LLM, est conçu pour les modèles de langage à grande échelle avec une architecture de type « mixture of experts ». Le deuxième, Engine-Builder-LLM, est optimisé pour les modèles de langage denses. Le troisième, BEI, est conçu pour les modèles d'IA plus simples, tels que les modèles d'embedding et de classification de données.
Analyse et Implications
La levée de fonds de Baseten reflète l'intérêt croissant pour les plateformes d'inférence IA. La capacité de la plateforme à automatiser le processus de mise en place d'un cluster d'inférence basé sur le cloud et à optimiser les performances des modèles d'IA constitue un atout majeur pour les entreprises qui cherchent à déployer des applications d'IA à grande échelle.
La plateforme de Baseten prend également en charge plusieurs dizaines de modèles d'IA open source et permet aux clients de déployer des algorithmes personnalisés à l'aide d'un outil appelé Truss. La plateforme peut également former des modèles d'IA et inclut une fonction de sauvegarde qui permet de restaurer les copies les plus récentes d'un réseau neuronal en cas de problème technique.
Perspective
La levée de fonds de Baseten ouvre des perspectives prometteuses pour l'avenir de l'IA. La capacité de la plateforme à simplifier le processus de déploiement des applications d'IA et à optimiser les performances des modèles d'IA constitue un atout majeur pour les entreprises qui cherchent à innover et à rester compétitives dans un marché en constante évolution.
Il sera intéressant de suivre l'évolution de Baseten et de voir comment la société utilisera les fonds levés pour développer sa plateforme et renforcer sa position sur le marché de l'IA. Les prochaines étapes de la société seront probablement axées sur l'expansion de ses capacités et la mise en place de partenariats stratégiques pour accélérer son développement.
