Contexte et objectifs

Horizon3 AI, spécialiste du test de pénétration autonome, a annoncé la création de l’Adversarial Intelligence Frontier Lab. Le laboratoire s’appuie sur le service NodeZero, déjà déployé chez plus de 7 000 organisations (banques, agences fédérales, hôpitaux). Son ambition est de transformer les 30 milliards de tokens anonymisés générés chaque jour en matière première pour la recherche sur les attaques coordonnées d’agents IA et les mécanismes de défense automatisés.

Architecture des données NodeZero

NodeZero exécute des tests de pénétration sur les réseaux de production en temps réel, collectant les réponses des outils de défense à chaque commande. À ce jour, plus de 350 000 tests sécurisés ont été réalisés, produisant un flux quotidien de 30 milliards de tokens. Ces tokens représentent des séquences d’actions, d’états de système et de logs, tous anonymisés pour préserver la confidentialité des clients. Le volume massif permet d’alimenter des modèles de « cyber‑world » entraînés séparément pour chaque client, offrant à la fois des agents rouges (offensifs) et bleus (défensifs) un accès à une mémoire partagée.

Recherche sur les agents IA autonomes

Le laboratoire explore trois axes majeurs : la coordination d’agents IA dans des scénarios d’attaque, la tromperie via des honeypots adaptés aux LLM (projet « Honeyquest for LLMs »), et les mécanismes d’interruption/rollback pour contrôler les agents autonomes. Un article publié en mai a testé la limitation d’un agent à une liste fixe d’outils approuvés en utilisant les modèles Claude Sonnet 4 et Claude Haiku 4.5 d’Anthropic. Sur plus de 420 déploiements, l’agent n’a jamais proposé d’action hors de cette liste, démontrant la faisabilité d’un contrôle strict des comportements IA.

Enjeux de sécurité et limites

Si le laboratoire accélère le développement d’agents capables d’apprendre des environnements réels, il soulève des questions de gouvernance. La dépendance à des données anonymisées ne garantit pas l’absence de biais ; les modèles peuvent reproduire des schémas d’attaque spécifiques aux clients testés, limitant leur généralisation. De plus, la capacité à « interrompre » les agents repose sur une liste d’outils pré‑définie, ce qui pourrait freiner l’adaptabilité face à de nouvelles vulnérabilités. Horizon3 signale un ARR de 100 M$ avec une croissance de 120 % YoY, mais la viabilité à long terme dépendra de la transparence des processus de collecte et de la capacité à sécuriser le pipeline de données contre des fuites potentielles.