Présentation de Traceforce
Traceforce est une solution de sécurité qui fournit une visibilité et un contrôle sur les applications IA telles que ChatGPT, Claude, etc. sur tous les appareils (ordinateurs portables, sandbox, machines virtuelles). Elle découvre non seulement les applications utilisées, mais également comment elles sont connectées à d'autres sources de données via les MCP (Model Control Protocols).
Fonctionnement de Traceforce
Traceforce est installé sur chaque appareil sous forme de binaire léger et d'extension de navigateur. Dans les 30 minutes suivant l'installation, l'appareil commence à télécharger des données en temps réel vers le profil de l'entreprise, affichant toutes les applications IA exécutées sur tous les appareils de l'entreprise sur un tableau de bord.
Le personnel de sécurité de l'entreprise peut surveiller l'activité de toutes les applications en temps réel, mettre en œuvre des contrôles et être averti de tout risque de sécurité dès qu'il se présente. La solution est transparente sur les données collectées, se limitant par défaut aux métadonnées et à la télémétrie des applications IA, des MCP et des outils exécutés sur l'appareil.
Architecture et sécurité
Le binaire Traceforce est construit à l'aide de Go et l'extension de navigateur est écrite en Node JS. La partie la plus difficile du développement a été la construction d'un graphique de connectivité complet entre les applications IA, les MCP et les outils, puis l'identification des vulnérabilités et des chemins d'attaque introduits par ces connexions.
Les outils de sécurité traditionnels ne sont pas en mesure de fournir une visibilité à ce niveau, car les EDR (Endpoint Detection and Response) ne voient que les processus, tandis que les CASB (Cloud Access Security Broker) ne voient que le trafic réseau, sans avoir de visibilité sur l'activité au niveau de l'application à l'intérieur des applications IA.
Implications et limites
Traceforce est actuellement déployé sur plus de 1 000 appareils dans 10 organisations. En moyenne, la solution découvre plus de 15 applications IA par appareil, avec chaque application connectée à 5-10 MCP. Elle a aidé les clients à identifier des secrets en texte brut exposés dans les configurations MCP, à prévenir les fuites de clés API à travers le code généré par IA et à avertir les développeurs avant d'exécuter des commandes potentiellement destructrices.
Exemple de commande potiellement destructive :
"DROP TABLE"
La solution est particulièrement utile pour les petites et moyennes entreprises qui adoptent rapidement les assistants de codage IA, ChatGPT, Claude et les MCP. Les équipes de sécurité, IT et de plateformes IA peuvent bénéficier de cette solution pour comprendre quels outils IA les employés utilisent pour améliorer leur productivité et réduire les risques de sécurité liés à l'IA sans ralentir les employés.
