Contexte de sécurisation des agents autonomes
Les agents d’intelligence artificielle capables d’exécuter des actions autonomes sur des systèmes critiques représentent un vecteur de risque inédit. Contrairement aux contrôles d’accès traditionnels, ils peuvent décider d’utiliser des credentials, de modifier du code ou d’interagir avec l’infrastructure sans supervision humaine. Capsule Security propose donc une couche de contrôle externe, qualifiée d’« AI circuit breaker », qui intercepte chaque intention d’action avant son exécution.
Architecture du détecteur et fine‑tuning des Nemotron
Le cœur du dispositif repose sur deux modèles de la famille Nvidia Nemotron 3, dont l’un est le Nemotron 3 Ultra. Capsule a effectué un fine‑tuning en injectant des traces d’agents réelles et des exemples adversariaux délimitant le comportement autorisé. Chaque exemple a été revu manuellement, garantissant une annotation fiable. La procédure a réduit de près de 50 % la consommation mémoire du plus grand modèle, tout en conservant les performances, ce qui permet son exécution sur un seul GPU Nvidia L40S.
Performances mesurées et limites des évaluations
Sur le benchmark académique StepShield, qui analyse 9 429 trajectoires code‑agent issues d’incidents réels, le système a atteint 98 % de précision et a détecté les violations au même pas d’exécution. En interne, le détecteur le plus performant a obtenu 96,9 % de score contre 86 % pour le meilleur modèle tiers évalué, bien que l’identité de ce modèle ne soit pas divulguée. La latence moyenne de décision est de 71 ms, compatible avec les flux de travail en temps réel. Toutefois, le benchmark StepShield souligne que les métriques d’exactitude et de rappel ne capturent pas les faux positifs : une règle basée sur les garde‑fous a généré plus de trois quarts d’alertes sur du code bénin, indiquant que la précision brute masque un coût opérationnel potentiel.
Implications opérationnelles et contraintes d’infrastructure
Le modèle, limité à une classification d’intention, s’intègre comme un filtre avant l’étape d’exécution, évitant ainsi les retards associés aux modèles génératifs. La capacité à fonctionner sur un seul L40S réduit les exigences d’infrastructure, mais impose une gestion stricte de la charge lorsqu’il est déployé à grande échelle : Capsule signale déjà le traitement de « milliards de tokens » provenant de « millions d’interactions d’agents ». Les clients, notamment des institutions financières, peuvent ainsi appliquer des workflows d’autorisation en temps réel, tout en conservant la traçabilité exigée par les normes de gouvernance. Le modèle reste néanmoins dépendant de la qualité des données de formation ; toute évolution du comportement des agents nécessitera un nouveau cycle de fine‑tuning pour éviter la dérive des seuils de détection.
