Introduction

Les agents de réponse aux incidents de sécurité jouent un rôle crucial dans la protection des systèmes informatiques contre les menaces. Cependant, évaluer leur efficacité peut être un défi. Pour répondre à ce besoin, les chercheurs ont développé SIR-Bench, un benchmark de 794 cas de test pour évaluer les agents de réponse aux incidents de sécurité.

Contexte Technique

SIR-Bench a été créé à partir de 129 modèles d'incidents anonymisés avec des résultats validés par des experts. Il mesure non seulement la capacité des agents à prendre des décisions de triage correctes, mais également leur capacité à découvrir de nouvelles preuves grâce à une investigation active. Pour construire SIR-Bench, les chercheurs ont développé Once Upon A Threat (OUAT), un cadre qui reproduit des modèles d'incidents réels dans des environnements cloud contrôlés, produisant ainsi des données de télémétrie authentiques avec des résultats d'investigation mesurables.

Analyse et Implications

L'évaluation de SIR-Bench repose sur trois métriques complémentaires : l'exactitude du triage (M1), la découverte de nouvelles preuves (M2) et l'adéquation de l'utilisation des outils (M3). Les résultats de l'évaluation montrent que l'agent SIR atteint un taux de détection de 97,1 % de vrais positifs, un taux de rejet de 73,4 % de faux positifs et une moyenne de 5,67 nouvelles preuves clés par cas. Ces résultats établissent une référence pour les futurs agents d'investigation.

Perspective

Les résultats de SIR-Bench offrent une perspective prometteuse pour l'amélioration de la réponse aux incidents de sécurité. Cependant, il est important de noter que les limites de l'analyse incluent la nécessité de données de haute qualité et la complexité de la mise en œuvre de tels systèmes. Les prochaines étapes pourraient inclure l'intégration de SIR-Bench avec d'autres outils de sécurité et l'exploration de nouvelles applications pour l'IA dans la réponse aux incidents de sécurité.