Introduction
Exabeam, une entreprise spécialisée dans l'intelligence et la gestion de la sécurité, a lancé Praxen, un outil open-source permettant de vérifier le comportement des agents IA avant leur déploiement. Cet outil s'inscrit dans le cadre de la discipline de vérification du comportement des agents, qui vise à s'assurer que les agents IA font ce pour quoi ils ont été conçus, sans dépasser les limites de leur rôle.
Contexte Technique
Praxen est basé sur la licence Apache 2.0 et est conçu pour tester les agents IA contre les tâches pour lesquelles ils ont été embauchés avant leur mise en production. L'outil utilise un remit, qui est un contrat de politique définissant ce qu'un agent peut faire, ce qu'il peut toucher et où il doit s'arrêter. Praxen mesure ce remit contre les outils réels, les configurations, la mémoire, les intégrations et l'environnement d'exploitation de l'agent, puis signale les divergences.
Exabeam a étendu son produit Agent Behavior Analytics pour couvrir les agents sur ChatGPT, Microsoft Copilot et Google Gemini, puis l'a étendu à l'écosystème d'agents de Google Cloud. Le produit Agent Behavior Analytics surveille les agents en production, tandis que la vérification du comportement des agents (ABV) est appliquée avant la mise en service d'un agent.
Analyse et Implications
La vérification du comportement des agents est une étape cruciale pour garantir la sécurité et la confiance dans les agents IA. Les équipes de sécurité ont besoin de plus que d'une visibilité en temps réel pour s'assurer que les agents ont les bonnes autorisations, les bons contrôles et les bonnes limites avant leur entrée en production. Praxen fournit une feuille de route précise pour la remédiation, permettant aux développeurs et aux praticiens de la sécurité de prendre des mesures immédiates pour corriger les problèmes.
Perspective
Le lancement de Praxen marque une étape importante dans l'établissement de la vérification du comportement des agents comme une pratique recommandée dans l'industrie. Alors que l'industrie est encore en train de définir la manière dont les agents autonomes devraient être gouvernés et vérifiés, Exabeam ouvre la voie en fournissant un outil open-source pour aider les entreprises à garantir la sécurité et la confiance dans leurs déploiements d'IA.
