Contexte des agents IA
Les agents d’intelligence artificielle exécutent des appels d’API, transfèrent des données et prennent des décisions au nom des utilisateurs. Cette chaîne d’opérations se déroule en temps réel, souvent sans intervention humaine. Selon la description de l’événement, la plupart des solutions de sécurité existantes n’interceptent ces actions qu’après leur exécution, ce qui limite leur capacité à prévenir les comportements indésirables avant qu’ils ne se produisent.
Principe d’AARM
Le concept d’AARM (AI Agent Risk Management) a été développé par Herman Errico, créateur de la méthode chez Vanta. AARM vise à placer un point de contrôle à la frontière d’action, c’est‑à‑dire avant que l’agent ne déclenche un appel d’API ou ne déplace des données. Le modèle impose des exigences de vérification d’identité, de validation de la requête et de conformité aux politiques de données, afin que chaque opération soit autorisée ou bloquée en amont.
Évaluation des outils de sécurité d’agents
Le fireside, animé par Rahul Parwani, responsable produit AI Governance and Security chez Airia, et Herman Errico, dure 35 minutes et ne comporte ni diapositive ni démonstration. Les intervenants détaillent les critères à appliquer pour juger les outils de sécurité d’agents dans une pile technologique : capacité d’interception pré‑action, granularité des politiques, latence introduite, et visibilité sur les flux de données. Chaque critère repose sur des mesures observables, comme le temps moyen d’autorisation d’une requête ou le taux de faux positifs détectés lors des simulations d’attaque.
Choix entre construction et acquisition
Le débat « build vs. buy » se centre sur la frontière d’action. Construire une solution interne permet d’ajuster les politiques à des exigences spécifiques, mais implique une charge de développement, de maintenance et de mise à jour face à l’évolution rapide des modèles d’IA. Acheter une offre tierce, comme celle proposée par Vanta, fournit une implémentation prête à l’emploi, toutefois elle impose une dépendance au fournisseur et limite la personnalisation. Les participants sont encouragés à comparer le coût total de possession, la rapidité de déploiement et la conformité réglementaire avant de prendre une décision.
