Introduction
La société DeepKeep Ltd. a lancé une nouvelle solution de découverte et de balayage de surface d'attaque pour les agents IA, permettant de cartographier les risques associés à chaque agent dans un flux de travail d'entreprise.
Contexte Technique
Les organisations déployant des agents IA basés sur des modèles de langage à grande échelle avec accès à des applications, outils et données métier, élargissent leur surface d'attaque de manière que les contrôles de sécurité traditionnels ne sont pas conçus pour résoudre. La solution de DeepKeep, appelée AI Agent Scanner, fournit une visibilité immédiate sur ce que les agents IA peuvent accéder, avec quels outils et données ils interagissent et où se trouvent les vulnérabilités potentielles.
La solution effectue un balayage robuste de la surface d'attaque pour cartographier le paysage de menaces d'un agent, en identifiant les outils connectés et leurs intentions, les sources de données et les vulnérabilités potentielles. Elle produit une carte de risques visuelle pour aider les entreprises à mieux comprendre l'étendue de l'exposition et des menaces de leurs agents.
Analyse et Implications
En augmentant la visibilité dans les flux de travail agents complexes, les organisations peuvent identifier et gérer les risques plus tôt, tant pendant le développement que lors de la mise en production des agents. La solution de DeepKeep fournit également une protection en temps réel pour les frameworks agents sélectionnés, en identifiant où les pare-feu IA et les barrières de sécurité doivent être placés en fonction du comportement observé des agents, de l'accès aux outils et de l'exposition des données.
Perspective
DeepKeep prévoit d'étendre ses capacités de sécurité pour les agents IA à tout le cycle de vie de l'IA en 2026, avec une solution de red teaming à venir. La société a déjà levé 10 millions de dollars dans une ronde de financement de démarrage en mai 2024. Il est essentiel de surveiller l'évolution de la sécurité des agents IA et les prochaines étapes de DeepKeep pour répondre aux besoins croissants des entreprises en matière de protection de leur surface d'attaque.
