Contexte du partenariat
Red Hat Inc. a annoncé, lors du GTC de Nvidia à Berlin, l’élargissement de sa collaboration avec Nvidia Corp. L’objectif principal est de sécuriser les agents d’intelligence artificielle autonomes déployés dans des environnements cloud hybrides. La coopération s’appuie sur Red Hat AI Factory et sur les futures infrastructures de centre de données Vera Rubin de Nvidia.
Architecture de sécurité
Le socle technique combine le runtime sandbox OpenShell avec le framework de sécurité Sentry, exécuté sur les unités de traitement de données (DPU) BlueField de Nvidia. Sentry utilise le logiciel DOCA Argus pour inspecter les structures mémoire de l’hôte, observer les processus, les fichiers et le trafic réseau, le tout sans installer d’agent de surveillance sur le système d’exploitation hôte. Cette séparation permet de placer les contrôles de sécurité « en dehors de l’agent », comme le souligne John Fanelli de Nvidia.
Dans Red Hat OpenShift 4.22, le support de BlueField‑3 est déjà intégré. Les charges de travail IA s’exécutent sur les CPU serveur, tandis que les fonctions de mise en réseau et de sécurité résident sur les processeurs Arm des DPUs. Cette isolation physique réduit la surface d’attaque : même si un attaquant compromettait l’hôte, les services critiques restent protégés. Nvidia affirme que Sentry peut mettre en quarantaine un agent compromis en quelques millisecondes, libérant ainsi les CPU hôte pour les calculs d’inférence.
Gouvernance des modèles
Le design de référence joint introduit un contrôle d’accès « Model‑as‑a‑Service » et une passerelle IA. Il intègre les moteurs d’inférence vLLM, llm‑d, Nvidia Dynamo et les micro‑services Nvidia NIM. Le système propose la découverte en libre‑service des modèles, des politiques d’accès, des limites de débit et le suivi des droits d’abonnement. En séparant la gouvernance d’accès de l’exécution du modèle, les entreprises peuvent gérer les quotas et les coûts tout en maintenant les performances dans des déploiements hybrides.
Le partenariat inclut également le support natif des modèles Nemotron 3.5 Super VL via le moteur d’inférence vLLM et Red Hat AI Factory. Red Hat met en avant des techniques de quantisation et de décodage spéculatif pour diminuer la latence d’inférence sans sacrifier la précision.
Support matériel et compatibilité
Red Hat Enterprise Linux for Nvidia (version 26.03) a été adapté pour les CPU Vera et la plateforme Vera Rubin. Les modifications portent sur un nombre limité de paquets de base, conservant l’environnement utilisateur standard de RHEL ainsi les contrôles SELinux. Cette approche permet aux clients de migrer vers le noyau Linux principal sans réinstaller le système d’exploitation une fois les correctifs matériels intégrés. Les partenaires de mise en œuvre cités – Cisco, Dell et Lenovo – proposent déjà les références de conception et les capacités d’agent décrites.