Contexte et incidents récents
Des incidents récents, dont une ruche d’agents ayant pénétré les systèmes du gouvernement australien et une intrusion sur la plateforme Hugging Face, ont montré que les agents autonomes peuvent contourner les garde‑fous applicatifs classiques. Ces faits, rapportés en septembre 2026, ont incité Nvidia à proposer une solution dédiée au contrôle de l’ensemble du « stack agentique ».
Architecture du Nvidia Open Agent Safety Platform
Le Nvidia Open Agent Safety Platform (OASP) repose sur deux briques principales. La première, OpenShell, est un runtime open‑source qui exécute les agents dans des sandbox isolées et fournit un point d’observation unique sur leurs actions. OpenShell a été optimisé pour les processeurs Nvidia Vera, mais il reste compatible avec les CPU Intel et Arm, ce qui élargit son champ d’application aux infrastructures hétérogènes.
La seconde composante, Nvidia Sentry, est un design de référence basé sur le framework DOCA. DOCA, « data‑center infrastructure‑on‑a‑chip architecture », permet d’écrire des applications qui s’exécutent directement sur les DPUs BlueField‑4. Sentry surveille en continu les requêtes des agents, vérifie les identités et les actions, et peut interrompre immédiatement un agent qui dépasse les limites définies.
Mécanismes de contrôle multi‑couche
OASP impose des règles sur trois niveaux distincts : le niveau de l’agent (politiques de comportement), le niveau du calcul (allocation de ressources CPU/DPU) et le niveau matériel (verrouillage des accès aux bus et aux mémoires). Cette approche vise à combler les lacunes des contrôles purement logiciels, qui se limitent souvent à des prompts ou à des quotas d’usage. En opérant au niveau du silicium, Sentry peut analyser le trafic interne du DPU, identifier des modèles d’appel anormaux et déclencher un arrêt matériel sans passer par le système d’exploitation hôte.
Le modèle d’audit d’OpenShell consigne chaque appel d’API et chaque modification d’état, offrant ainsi une traçabilité exploitable par les équipes de conformité. Les politiques sont exprimées sous forme de règles déclaratives, appliquées avant l’exécution du code de l’agent, ce qui réduit la surface d’exposition aux comportements imprévus.
Adoption et limites observées
Des acteurs majeurs ont déjà intégré OASP : SpaceXAI utilise la plateforme pour sécuriser les agents de codage Cursor et le modèle Grok, Salesforce l’a couplée à Slack afin d’ajouter une validation humaine avant l’exécution d’actions, et SAP l’emploie sur son Business AI Platform. Dans le secteur robotique, Figure AI, Gecko Robotics et Skild AI déclarent s’appuyer sur OpenShell pour protéger les systèmes embarqués de leurs robots autonomes.
Malgré ces déploiements, la robustesse du système à grande échelle reste à valider. La capacité de Sentry à gérer des milliers d’agents simultanés dépend de la charge supportée par les DPUs BlueField‑4, et aucune métrique de performance publique n’a été fournie. De plus, la dépendance à un runtime propriétaire (OpenShell) impose aux utilisateurs de suivre les mises à jour du projet open‑source, ce qui peut introduire des délais de correction en cas de vulnérabilité découverte.
