Introduction
Autodesk a choisi Permiso Security pour surveiller les agents IA à travers son cloud et sa main-d'œuvre. Cette collaboration vise à offrir une visibilité continue sur l'activité des agents, qu'ils soient gérés ou non, et à suivre les exécutions, les événements, les appels d'outils et l'accès aux données.
Contexte Technique
Les capacités de Permiso Security permettent de découvrir tous les agents opérant dans l'environnement, de suivre les exécutions, les événements, les appels d'outils et l'accès aux données. La plateforme couvre six capacités, notamment la découverte des agents et des sessions, l'attribution des identités, l'observabilité des outils, des données et de l'infrastructure, la détection des accès non autorisés et la mise en sandbox des compétences des agents.
Les agents IA peuvent prendre des décisions autonomes, appeler des outils externes et interagir avec des magasins de données en aval à une vitesse machine, souvent sans surveillance humaine. Les équipes de sécurité ont du mal à répondre à des questions de base sur les agents, tels que leur nombre, les identités qu'ils utilisent, les outils qu'ils appellent et les données qu'ils touchent.
Analyse et Implications
La collaboration entre Autodesk et Permiso Security est importante, car elle permet de sécuriser les agents IA qui opèrent à travers les produits, la main-d'œuvre et l'infrastructure cloud d'Autodesk. Les capacités de Permiso Security sont conçues pour résoudre le problème de la visibilité et du contrôle des agents IA, qui est un défi majeur pour les équipes de sécurité.
Les risques liés aux agents IA sont importants, car ils peuvent causer des incidents de sécurité graves. Les attaques de type LLMjacking, les vulnérabilités d'injection de prompt et les compétences d'agent malveillantes qui circulent sur les marchés publics sont autant de menaces qui doivent être prises en compte.
Perspective
Il est important de surveiller l'évolution des capacités de Permiso Security et leur impact sur la sécurité des agents IA. Les équipes de sécurité doivent être en mesure de répondre à des questions de base sur les agents et de suivre leur activité pour prévenir les incidents de sécurité. La collaboration entre Autodesk et Permiso Security est un pas important dans la bonne direction, mais il est important de continuer à innover et à améliorer les capacités de sécurité pour faire face aux défis croissants de la sécurité des agents IA.
