Présentation de Foundry
Microsoft Foundry est une plateforme pour la construction et l'exploitation d'applications d'IA agentic. Foundry propose la plus large sélection de modèles sur tout nuage, avec des modèles de Microsoft, OpenAI, Anthropic, Meta, Mistral, DeepSeek, Hugging Face et d'autres, couvrant les modèles de pointe, open-source et personnalisés.
Fonctionnement de Foundry Managed Compute
Foundry Managed Compute est une plateforme gérée de service de calcul GPU pour les modèles open-source et personnalisés. Les développeurs peuvent déployer des instances de modèles en fonction de leurs besoins, avec des paramètres tels que le nombre de paramètres, la longueur du contexte et l'optimisation pour la latence ou le débit.
parameter_count = 1000
context_length = 512
optimize_for_latency = TrueFoundry gère la topologie GPU sous-jacente, permettant aux développeurs de se concentrer sur les modèles et non sur l'infrastructure.
Intégration de Hugging Face
Hugging Face est la place publique de l'IA ouverte, avec plus de 15 millions de développeurs, 400 000 organisations et plus de 3 millions de modèles open-source publiés. Les modèles open-source de Hugging Face peuvent être intégrés à Foundry de la même manière que les modèles de pointe, permettant aux développeurs de mixer les types de modèles dans un seul agent.
La collection Hugging Face sur Foundry propose un sous-ensemble de modèles sélectionnés et mis à jour régulièrement, avec des fonctionnalités telles que la sécurité et la conformité.
Avantages et limites
Les modèles open-source de Hugging Face offrent des avantages tels que la personnalisation, la flexibilité et la maîtrise des coûts. Cependant, ils nécessitent également une gestion et une maintenance appropriées pour garantir la sécurité et la conformité.
Foundry Managed Compute offre une solution gérée pour les modèles open-source de Hugging Face, permettant aux développeurs de se concentrer sur la création de valeur ajoutée pour leurs applications d'IA.
