présentation
Bespoke Labs, une startup spécialisée dans l'optimisation de la phase post-formation des projets d'intelligence artificielle (IA), a levé 40 millions de dollars dans le cadre d'une série de financements. Cette somme a été répartie en deux tranches, dont 31,75 millions provenant d'un tour de financement série A mené par Wing VC, avec la participation de Mayfield, The House Fund et d'employés de grandes entreprises technologiques comme Anthropic PBC.
contexte technique
Le processus de création d'un modèle d'IA personnalisé comporte deux étapes principales : la phase de pré-formation, qui équipe le réseau neuronal avec les compétences et les connaissances de base nécessaires pour répondre aux invites, et la phase post-formation, qui affine les capacités de raisonnement du modèle. Cette dernière phase peut également améliorer d'autres aspects tels que la réalisation de tâches à long terme.
Les développeurs utilisent souvent l'apprentissage par renforcement pour la phase post-formation. Cette méthode consiste à fournir à l'IA des tâches d'exemple similaires à celles qu'elle effectuera en production. Lorsque le modèle termine correctement une tâche d'exemple, il reçoit une « récompense » qui ajuste la configuration de l'algorithme pour améliorer sa qualité de sortie.
fonctionnement de la plateforme
Bespoke Labs propose une plateforme qui facilite la création d'environnements d'apprentissage par renforcement. Selon l'entreprise, le logiciel génère des simulations à l'aide de flux de travail automatisés et de contributions d'un réseau d'experts humains, le tout de manière significativement plus rapide que les approches manuelles traditionnelles. La plateforme exécute les environnements d'IA générés via une couche de sandboxing qui, selon Bespoke Labs, aide à minimiser la latence et à augmenter le débit.
GEPA, un projet open-source publié par Bespoke Labs l'année dernière, est utilisé pour automatiser l'ingénierie des invites, le processus de recherche des invites et des formats d'invite spécifiques qui maximisent la qualité de sortie d'un modèle d'IA.implications et limites
Bespoke Labs prévoit d'utiliser les fonds récemment levés pour améliorer sa plateforme d'apprentissage par renforcement et financer davantage de recherches sur les données d'IA. L'entreprise se concentre également sur d'autres méthodes de post-formation, telles que le fine-tuning supervisé (SFP), qui consiste à fournir aux modèles d'IA des ensembles de invites et de réponses d'exemple pour affiner leur sortie. Bespoke Labs a publié un ensemble de données appelé OpenThoughts, contenant plus d'un million d'invites et de réponses d'exemple, qui offre de meilleurs résultats de post-formation que les ensembles de données SFP précédents.
