Contexte de l'incident
En juin et juillet 2026, la plateforme d’inférence de modèles de langage de Together.ai a publié un avis de sécurité indiquant une fuite de prompts dans les requêtes traitées. L’annonce, intitulée « Security event: Prompt leakage for requests in June and July of 2026 », constitue la seule source publique détaillant le problème. Aucun chiffre précis n’a été communiqué sur le volume de données exposées, mais la mention explicite de la période et du type d’information (prompts) permet de circonscrire l’incident à une compromission de la confidentialité des entrées utilisateur.
Mécanismes potentiels de fuite
Sur une infrastructure de type « Inference Serverless » ou « Dedicated Model Inference », les prompts transitent généralement via des API REST ou gRPC. Une fuite peut résulter d’une mauvaise configuration du logging, où les corps de requête sont écrits dans des fichiers de trace accessibles en lecture par des services non autorisés. Le fait que l’incident soit décrit comme une « prompt leakage for requests » suggère que le vecteur était lié à la capture des payloads HTTP plutôt qu’à une exfiltration de modèles ou de poids.
Implications pour la confidentialité et la conformité
Les prompts contiennent souvent des données sensibles : informations personnelles, instructions commerciales ou code propriétaire. Leur exposition viole les principes de confidentialité prévus par le RGPD et les clauses contractuelles de nombreux clients de services cloud. Même en l’absence de chiffres, la simple existence d’une fuite pendant deux mois indique un risque prolongé, augmentant la probabilité que des acteurs malveillants aient pu récupérer des séquences d’instructions exploitables pour du phishing ciblé ou du reverse‑engineering de workflows internes.
Mesures d’atténuation et recommandations
En réponse à l’événement, Together.ai doit désactiver immédiatement tout logging contenant les corps de requête, appliquer le principe du moindre privilège aux services de collecte de métriques et chiffrer les flux réseau entre les clients et les nœuds d’inférence. La mise en place de filtres de masquage au niveau du middleware API, ainsi que la rotation régulière des clés d’accès, réduiraient la surface d’exposition. Enfin, un audit complet des pipelines de suivi (par exemple les ponts « Webflow Analyze/Optimize tracking bridge ») est indispensable pour identifier d’éventuelles redondances de stockage de prompts non sécurisées.