Introduction
Les agents IA sont de plus en plus capables, mais les entreprises qui les utilisent dans différents contextes rencontrent un nouveau défi : s'assurer que ces agents font ce qu'ils sont censés faire dans différents environnements. Microsoft propose une nouvelle norme ouverte appelée Agent Control Specification (ACS) pour résoudre ce problème.
Contexte Technique
La spécification ACS permet aux développeurs, aux équipes de conformité et de sécurité de définir leurs propres règles pour les agents IA. Ces règles peuvent définir ce que l'agent est autorisé à faire, ce qu'il ne doit pas faire, quand une approbation humaine est nécessaire et quels éléments doivent être enregistrés pour un examen ultérieur. Les fichiers de stratégie sont vérifiés à plusieurs points d'interception lorsque l'agent effectue une tâche pour s'assurer qu'il respecte les limites.
Les développeurs peuvent actuellement spécifier des instructions dans une invite de système, ajouter des vérifications personnalisées dans le code de l'application ou utiliser des classifieurs pour détecter les entrées et les sorties problématiques. Cependant, ces approches peuvent entraîner des contrôles fragmentés difficiles à auditer et à réutiliser dans différents cadres, interfaces et systèmes.
Analyse et Implications
La spécification ACS vise à intégrer ces contrôles dans une couche de gouvernance commune. Microsoft affirme que la spécification peut être utilisée pour vérifier si un agent respecte les limites à plusieurs points de son flux de travail. Une stratégie peut autoriser une action, la bloquer, masquer des informations sensibles ou même demander une approbation humaine.
Les développeurs peuvent également insérer des classifieurs pour les entrées et les sorties pour catégoriser les informations, prédire les résultats ou déterminer comment un agent doit répondre. Les logiques pour vérifier les appels d'outils, la sélection d'outils, la précision des entrées, l'utilisation des sorties et les réponses peuvent également être ajoutées.
Perspective
La spécification ACS est livrée avec un kit de développement logiciel (SDK) et des plug-ins pour différents frameworks et outils, tels que LangChain, l'OpenAI Agents SDK, l'Anthropic Agents SDK, AutoGen, CrewAI, Semantic Kernel, Microsoft.Extensions.AI et MCP tools. Cela permet aux développeurs de créer des agents IA plus fiables et plus sécurisés, capables de fonctionner dans différents environnements.
