Introduction
Virtue AI, une startup de sécurité basée sur l'intelligence artificielle, lance Shadow AI, une nouvelle fonctionnalité de son plateforme AgentSuite, qui permet aux entreprises de voir clairement comment l'IA est utilisée dans leur organisation.
Contexte Technique
Les entreprises ont besoin de savoir quels employés utilisent l'IA et comment, car la technologie devient de plus en plus répandue. Les agents IA autonomes se répandent rapidement à l'intérieur des ordinateurs portables, des applications de service en ligne, des flux de travail DevOps et d'autres plateformes. Les équipes de sécurité n'ont souvent pas eu l'occasion d'examiner, voire d'approuver, ces systèmes IA.
Virtue AI est bien placée pour résoudre ce problème, car elle est l'auteur d'une plateforme de sécurité et de conformité IA de niveau entreprise, avec un accent sur les tests de sécurité continus et les garde-fous de sécurité en temps réel. Ses systèmes sont conçus pour protéger les grands modèles de langage et les agents IA contre les cyberattaques, y compris les injections de requêtes et les jailbreaks, et peuvent également empêcher les agents de fuir des données confidentielles.
Analyse et Implications
Shadow AI est une couche de découverte et de surveillance de point de terminaison qui détecte et suit les agents IA. Elle fonctionne différemment des outils de détection et de réponse de point de terminaison et d'extension de détection et de réponse traditionnels, qui traitent les agents IA comme n'importe quelle autre application.
Shadow AI permet aux équipes de sécurité de capturer la séquence complète de comportement de chaque agent IA, afin qu'elles puissent cataloguer l'ordre, la structure et le contexte de leurs actions. Elles pourront cartographier cette activité sur tout leur environnement informatique, afin de voir d'un seul coup d'œil combien d'agents sont actifs, sur quels appareils et quelles politiques ils pourraient violer.
Perspective
Shadow AI peut être déployé comme un collecteur de point de terminaison léger et est compatible avec les systèmes Linux, Windows et macOS. Il peut être utilisé de manière indépendante ou aux côtés d'autres plateformes EDR et XDR existantes. Virtue AI affirme que Shadow AI fournira une valeur immédiate à toute entreprise qui s'appuie sur les agents IA, en leur permettant de garder un œil sur tout ce qu'ils font et d'éliminer une grande partie des risques qui les accompagnent.
Il est important de noter que la sécurité des agents IA est un sujet en constante évolution, et les entreprises doivent rester vigilantes pour protéger leurs systèmes et leurs données contre les menaces potentielles. Shadow AI peut être un outil précieux pour les équipes de sécurité qui cherchent à mieux comprendre et à contrôler les agents IA dans leur organisation.
