Introduction

Xage Security Inc. a annoncé de nouvelles capacités pour sa plateforme de sécurité, visant à offrir une visibilité déterministe sur les agents artificiels intelligents (IA) autonomes et à bloquer les actions non autorisées lorsqu'ils sont compromis.

Contexte Technique

La plateforme Xage intègre deux composants clés : Xage Agent Sentry et Xage Resource Gateway. Ces composants peuvent envelopper un agent IA et les ressources qu'il touche avec des contrôles opérant au niveau de l'interaction réseau, des événements locaux et des appels système. Chaque agent reçoit une identité numérique lors de son intégration, permettant aux équipes de sécurité d'attacher des politiques de rôle, de ressource et de temps.

Les nouvelles capacités s'appuient sur les travaux précédents de Xage sur la confiance zéro pour l'IA, notamment le protocole de contexte de modèle et la communication entre agents. L'intégration avec l'unité de traitement de données BlueField de Nvidia Corp. vise à sécuriser les usines d'IA. Les capacités étendues couvrent désormais les applications SaaS, les services cloud, les systèmes sur site et le edge.

Analyse et Implications

Les implications de ces capacités sont considérables, car elles permettent aux entreprises de déployer l'IA en production de manière sécurisée. Selon le PDG de Xage, Duncan Greatwood, « l'IA est prête à sortir du bac à sable, mais les entreprises ne peuvent pas la déployer en production à moins de savoir exactement ce que les agents font et de pouvoir contrôler les actions qu'ils prennent ». Une projection de Gartner Inc. suggère que 40 % des projets d'IA seront annulés d'ici 2027 en raison de contrôles de risque inadéquats.

Perspective

À l'avenir, il faudra surveiller l'évolution de la confiance zéro pour l'IA et son impact sur le déploiement de l'IA dans les environnements de production. Les capacités de détection d'anomalies basées sur les journaux d'activité des agents, y compris la baseline comportementale pour détecter les déviations, seront essentielles pour garantir la sécurité des systèmes.