Présentation de Prime Intellect
Prime Intellect, une startup spécialisée dans la formation d'intelligence artificielle (IA), a levé 130 millions de dollars lors d'un tour de financement, valorisant l'entreprise à 1 milliard de dollars. Les investisseurs incluent NVentures de Nvidia Corp., Intel Capital, Dell Technologies Capital, ainsi que le PDG de Cloudflare Inc., Matthew Prince.
Architecture et fonctionnement
Prime Intellect propose une plateforme cloud optimisée pour la formation d'IA, permettant aux développeurs de personnaliser des algorithmes open-source existants plutôt que de créer des modèles de scratch. La plateforme utilise deux kits open-source, Verifiers et Prime-RL, pour personnaliser les modèles d'IA. Les développeurs forment des modèles d'IA dans des environnements virtuels qui simulent les tâches à automatiser pour les utilisateurs finals.
FSDP2, une technologie open-source issue de PyTorch, est utilisée pour distribuer les tâches de formation sur des milliers de cartes graphiques, accélérant ainsi le traitement.
La plateforme prend en charge plusieurs approches de formation, notamment la fine-tuning de tous les paramètres d'un modèle ou l'utilisation d'une méthode plus rapide et plus efficace en matériel appelée LoRA. Les développeurs peuvent déployer les modèles formés sur une infrastructure d'inférence gérée par Prime Intellect.
Implications et limites
Prime Intellect a déjà utilisé sa plateforme pour former un modèle d'IA appelé Intellect-3, doté de plus de 100 milliards de paramètres, qui a surpassé les modèles similaires dans plusieurs benchmarks de raisonnement. Un client de Prime Intellect, Ramp Inc., a créé un modèle d'IA capable de compléter certaines tâches de recherche de feuilles de calcul avec plus de précision qu'un autre modèle d'IA.
La plateforme de Prime Intellect est utilisée par environ 6 000 autres clients, et l'entreprise a généré plus de 100 millions de dollars de revenus annuels avant ce tour de financement. Les investissements dans l'IA et les capacités de formation de Prime Intellect pourraient avoir des implications significatives pour le développement et le déploiement de modèles d'IA dans diverses industries.