Contexte de l'expérimentation
Des chercheurs ont déployé deux millions de pièges numériques au sein de requêtes transitant par un réseau étendu de services d’IA. L’objectif était de vérifier si des informations sensibles pouvaient s’échapper lorsqu’elles étaient traitées par les différents maillons d’une chaîne d’approvisionnement d’IA. Les secrets injectés comprenaient des clés d’accès AWS, des mots de passe SSH, des URL uniques, des noms DNS et des références à des dépôts Git privés, aucun n’ayant jamais été utilisé auparavant.
Architecture de la chaîne d'IA
De nombreuses applications d’IA s’appuient sur des AI routers ou gateways tels qu’OpenRouter ou Vercel. Ces intermédiaires reçoivent les prompts des utilisateurs finaux, puis les redirigent vers le modèle d’inférence le plus approprié selon des critères économiques (prix le plus bas) ou techniques (compatibilité avec la tâche). Ainsi, un même prompt peut être acheminé vers des fournisseurs comme Anthropic, OpenAI ou d’autres modèles hébergés sur des infrastructures tierces.
Mécanisme de fuite observé
Le chercheur HD Moore a inséré chaque secret dans un seul prompt envoyé à un fournisseur unique. En cas de fuite, le secret agit comme un « canary », permettant d’identifier le point de la chaîne responsable. Les résultats montrent que les canaris ont été récupérés à plusieurs reprises, indiquant que les AI routers transmettent les prompts sans filtrer ou masquer les données sensibles. Certains fournisseurs ont renvoyé les réponses contenant les secrets directement aux développeurs d’applications, qui les ont ensuite stockés ou exposés dans des journaux accessibles publiquement.
Implications sécuritaires et limites
Cette expérience révèle une vulnérabilité structurelle : la délégation de la gestion des prompts à des services tiers crée un point d’exposition où les données confidentielles peuvent être interceptées ou réutilisées. La pratique courante de choisir le modèle le moins cher augmente le nombre de sauts dans la chaîne, multipliant les chances de fuite. Le manque de mécanismes de nettoyage ou de chiffrement des prompts au sein des routers constitue le facteur principal de la fuite. Cependant, l’étude ne précise pas le taux de succès global ni les différences de comportement entre les fournisseurs, limitant la capacité à quantifier précisément le risque pour chaque service.