Contexte de l'étude

HD Moore, directeur de la recherche chez Dragos, a lancé une campagne de suivi de la confidentialité des services d’inférence IA. L’objectif était de vérifier ce qui arrive aux prompts après leur sortie du périmètre client, en particulier dans les environnements de routage et de revente.

Méthodologie et données collectées

Sur une période de cinq mois, de juillet à novembre 2026, l’équipe a injecté près de deux millions de prompts contenant des URL uniques et des identifiants AWS factices. Chaque secret était jamais destiné à un système légitime ; toute tentative d’accès indiquait une exposition dans l’écosystème IA.

Les prompts ont été diffusés à travers les API d’un large panel de fournisseurs IA, incluant des routeurs d’inférence publics et des marketplaces tierces. Les réponses ont été surveillées via les logs DNS, les alertes de trafic réseau et les notifications d’accès aux comptes AWS factices.

Résultats principaux

Trois constats majeurs ont émergé :

1. Compromission de fournisseurs IA : des activités suspectes ont montré que les données de au moins trois fournisseurs ont été exfiltrées. Les secrets semés ont servi à accéder à des systèmes de test contrôlés et à des comptes AWS canaris.

2. Accès non autorisé via les marketplaces d’inférence : des revendeurs opérant sur des places de marché ouvertes ont pu lire et conserver les prompts grâce aux capacités de journalisation standard, sans exploiter de faille technique.

3. Défaillances des contrôles de confidentialité : les paramètres de protection, notamment le mode « Zero Data Retention » (ZDR), ont été ignorés. Des prompts marqués ZDR ont tout de même été récupérés, et des requêtes américaines ont été redirigées vers des organisations chinoises, parfois plusieurs mois après une unique inférence.

Le plus important incident a concerné une série d’environ deux cents clés AWS injectées en octobre 2026. Chaque clé a été utilisée pour des dizaines de milliers d’appels API, même lorsque la requête a été rejetée avant l’exécution du modèle, ce qui indique une interception au niveau du point d’entrée du fournisseur.

Implications pour la chaîne d'approvisionnement IA

Les résultats révèlent un écart entre les promesses marketing – « prompt » et « réponse » uniquement – et la réalité opérationnelle où les données transitent par plusieurs entités : routeurs, fournisseurs de cloud, développeurs de modèles et revendeurs. Chaque saut augmente la surface d’exposition, car le texte complet du prompt et de la réponse est visible.

Les pratiques de stockage varient de quelques jours à une rétention indéfinie, ce qui complique l’évaluation du risque. De plus, les mécanismes de contrôle de confidentialité sont souvent implémentés de façon superficielle ou contiennent des bugs, rendant les flags ZDR inefficaces dès qu’un acteur malveillant a déjà infiltré le flux.

Pour les organisations, la recommandation consiste à limiter la diffusion de données sensibles, à auditer les logs des routeurs tiers et à vérifier la conformité des fournisseurs aux exigences de non‑rétention. Sans ces mesures, les prompts peuvent devenir une source de fuite comparable, voire supérieure, aux ressources de calcul utilisées.