Contexte et enjeux
IBM Research développe la famille de modèles Granite, dont les cycles d’entraînement et d’inférence intègrent désormais des agents capables d’interagir avec des outils, du stockage et d’autres services. Cette évolution impose une isolation stricte des charges d’agents afin d’éviter les fuites de données et les interférences entre travaux. Brian Belgodere, senior technical staff d’IBM, décrit le processus de reinforcement learning comme une phase de test où le modèle, chargé depuis un point de contrôle, exécute du code en temps réel. La nécessité d’isoler ces exécutions a conduit IBM à rechercher une infrastructure capable de supporter à la fois la puissance de calcul et les exigences de sécurité.
Architecture de l’infrastructure H100 et sandbox
IBM a construit, en collaboration avec CoreWeave, un cluster de GPU Nvidia H100 dédié. Le texte indique que le cluster a été « soup to nuts », c’est‑à‑dire depuis la planification de l’espace jusqu’à l’installation physique, afin de répondre aux besoins de refroidissement et d’alimentation d’une nouvelle génération de matériel. La majeure partie du cluster est configurée en mode single‑tenant, chaque locataire disposant de son propre stockage au sein de CoreWeave. En complément, CoreWeave propose des Sandboxes qui offrent une exécution isolée soit sur une infrastructure dédiée, soit via un runtime serverless géré. Ces deux options permettent aux chercheurs de choisir le niveau d’isolation et les ressources accessibles à leurs agents.
Mécanismes de contrôle d’identité et d’isolation
Le partenariat s’est étendu à la co‑conception de contrôles d’identité. IBM a fourni des exigences pour étendre ses systèmes d’identité internes à l’environnement CoreWeave, puis a affiné l’implémentation à travers plusieurs itérations. Cette intégration place la gestion d’identité au même niveau que l’isolation des charges, créant une couche de sécurité qui vérifie l’appartenance de chaque agent avant d’accéder aux ressources. Belgodere souligne que les décisions d’architecture prises trop tôt peuvent entraîner des coûts excessifs, notamment en réseau, si l’isolation est sous‑dimensionnée.
Évaluation des performances et limites
IBM mesure l’impact des contrôles de sécurité en les confrontant à des benchmarks de performance du cluster H100. Les résultats servent à discuter les compromis entre sécurité et performance avec les équipes de sécurité. Le texte mentionne également que l’isolation s’inscrit dans une problématique de chaîne d’approvisionnement complète : firmware, noyau, code, provenance des données et images d’agents sont tous soumis à des exigences de traçabilité. Malgré ces mesures, le texte ne fournit pas de chiffres précis sur la dégradation de performance, ce qui limite l’évaluation quantitative des compromis. De plus, la dépendance à un fournisseur externe (CoreWeave) introduit un facteur de risque supplémentaire lié à la gouvernance du cloud et à la visibilité sur les couches inférieures de l’infrastructure.
