Présentation

Upwind Security Inc., une startup de sécurité cloud, a annoncé l'ajout d'une fonctionnalité de scan de contexte pour les agents IA, appelée AI Agent Context Scanner. Cette fonctionnalité analyse les instructions, les outils et les connexions qui alimentent les agents IA avant qu'ils n'agissent. La société a également rendu son service de détection et de réponse IA (AI DR) disponible pour tous.

Contexte technique

Les agents IA ne sont plus seulement des assistants de codage sur les ordinateurs portables des employés. Ils exécutent désormais des flux de travail autonomes dans les environnements cloud, en appelant des outils, des interfaces de programmation d'applications et en accédant à des données avec des informations d'identification d'entreprise actives. Le comportement d'un agent est influencé par plus que le modèle qui le sous-tend. Les compétences, les outils, les connexions du protocole de contexte de modèle, la mémoire stockée et les instructions actives sont assemblés dans une fenêtre de contexte au moment de l'exécution.

Fonctionnement de l'AI Agent Context Scanner

L'AI Agent Context Scanner analyse ces éléments constitutifs de manière continue, où qu'ils soient situés, des points de terminaison des employés à l'infrastructure cloud et aux fournisseurs de services gérés IA. L'objectif est de détecter les instructions malveillantes, vulnérables ou ambigües avant qu'un agent n'agisse. Les résultats sont croisés avec le reste de la plateforme pour que les équipes puissent les classer par risque réel au moment de l'exécution, plutôt que de traiter une file d'attente d'alertes de scanneur autonomes.

Implications et limites

Le service AI DR couvre le côté production. Il établit une référence de comportement pour chaque agent, y compris les outils qu'il appelle, les API et les magasins de données qu'il atteint, et à quoi ressemble une session ordinaire. Les écarts par rapport à cette référence sont signalés à mesure qu'ils se produisent. Upwind corréle ensuite l'activité avec l'identité de la charge de travail, la topologie du réseau, le trafic API, la sensibilité des données, les autorisations, la posture et l'exposition. Le résultat est conçu pour être plus qu'une simple alerte. L'AI DR montre quel agent a été affecté, ce qu'il a fait et ce qu'il a touché, et peut reconstruire le chemin qui a mené à ce résultat.