Introduction
Beyond Identity a lancé Ceros, une plateforme de sécurité conçue pour aider les entreprises à sécuriser leurs agents d'intelligence artificielle (IA). Cette plateforme étend les contrôles de sécurité au-delà des employés pour inclure les agents IA.
Contexte Technique
Les grandes entreprises peuvent avoir des centaines de flux de travail d'automatisation IA, ce qui rend difficile la traçabilité d'un changement de fichier suspect à l'agent IA spécifique qui l'a effectué. Ceros automatise ce processus en enregistrant chaque session d'agent IA avec des données sur l'utilisateur qui a lancé la session et le dispositif utilisé.
La plateforme surveille également les composants externes sur lesquels les agents IA reposent pour fonctionner, tels que les modèles de langage à grande échelle hébergés dans le cloud, les serveurs MCP et les programmes locaux. Les administrateurs peuvent définir des contrôles pour réguler quel agent peut utiliser quel outil et dans quelles circonstances.
Analyse et Implications
Ceros utilise une clé de passe liée au dispositif qui ne peut pas être déplacée du système sur lequel l'agent est exécuté, ce qui empêche les hackers de la voler. La plateforme atténue également les attaques d'injection de requêtes et les tentatives d'accès aux clés d'API des charges de travail IA.
La plateforme facilite également d'autres tâches, telles que la commutation automatique des modèles de langage lorsque le modèle qui alimente un agent IA est hors ligne, permettant ainsi aux développeurs de se concentrer sur d'autres aspects de leur projet d'agent IA.
Perspective
L'intérêt de l'industrie pour les contrôles d'accès aux agents IA pourrait inciter des entreprises comme OpenAI Group PBC et Anthropic PBC à intégrer davantage de fonctionnalités de sécurité dans leurs produits. Les startups comme Cyera Ltd. offrent déjà des produits concurrents qui peuvent cartographier les agents IA dans un réseau d'entreprise.
Il est important de surveiller l'évolution de la sécurité des agents IA et les prochaines étapes dans le développement de plateformes comme Ceros, qui visent à fournir une visibilité et un contrôle complets sur les agents, les identités, les dispositifs et les actions dans les environnements d'IA autonomes.
