Contexte et besoin

Darktrace a annoncé la disponibilité générale de son offre SECURE AI, une réponse aux déploiements d’outils d’intelligence artificielle qui dépassent la capacité des équipes de sécurité à les suivre. Selon la télémétrie de près de 8 200 déploiements Darktrace, plus de 80 % des comptes clients utilisaient des services d’IA générative en août, avec une moyenne de cinq fournisseurs d’IA différents par organisation. Cette fragmentation crée des « shadow AI », souvent non autorisés, et expose les entreprises à des risques de fuite de données ou d’injection de prompts.

Fonctionnement de SECURE AI

SECURE AI applique le même principe de détection comportementale que les produits de défense de Darktrace, mais ciblé sur les flux d’IA. Le système observe chaque session d’outils tels que ChatGPT Enterprise, Claude, Microsoft Copilot et Amazon Bedrock, et identifie les écarts par rapport à un profil de comportement normal. Les anomalies incluent les tentatives de « jailbreak », l’exposition de données sensibles et les signes d’injection de prompts indirecte. Chaque incident reçoit un score de risque, ce qui oriente les analystes vers les cas les plus critiques.

Intégrations et capacités de contrôle

Le produit s’intègre aux principaux fournisseurs cloud – AWS, Anthropic, Microsoft et OpenAI – via leurs marketplaces. Il exploite également des points d’ancrage du Secure Access Service Edge, notamment Microsoft Entra Global Secure Access, pour bloquer ou mettre en quarantaine les appareils accédant à des services non approuvés. Les administrateurs peuvent charger leurs propres politiques IA sous forme de texte libre ; le moteur les compare aux cadres réglementaires (ex. GDPR, ISO 27001). En outre, SECURE AI mappe chaque agent IA à l’utilisateur humain qui l’a créé et consigne les autorisations accordées, ce qui permet de détecter les permissions excessives dès la phase de développement dans des environnements comme Amazon Bedrock ou Microsoft Copilot Studio.

Limites et perspectives

Bien que la solution couvre les principaux services de génération de texte, elle ne mentionne pas explicitement la prise en charge d’IA multimodales (image, audio) ni les plateformes émergentes hors des quatre grands fournisseurs. Le modèle repose sur la disponibilité de données de télémétrie suffisantes ; les organisations avec peu d’activités IA pourraient générer des profils de référence moins fiables. Enfin, la dépendance à des intégrations SASE signifie que les environnements sans accès réseau centralisé pourraient ne pas bénéficier pleinement du blocage automatisé. Darktrace prévoit toutefois d’enrichir SECURE AI grâce aux modèles Daybreak d’OpenAI, afin d’étendre la visibilité aux incidents transversaux entre humains et systèmes IA.