Contexte et fonctionnement de Muse
Muse, lancé en septembre 2026, est présenté par Meta comme un agent conversationnel basé sur un grand modèle de langage. L’application s’intègre aux services de messagerie et aux applications tierces, récupérant des informations contextuelles pour générer des réponses personnalisées. Selon le rapport Reuters, les employés testent des versions internes différentes de celles disponibles au public, ce qui implique des pipelines de formation et de déploiement parallèles.
Incidents de mélange de conversations et fuite de données
Des salariés ont signalé que Muse confondait les historiques de plusieurs comptes. Parmi les exemples cités, l’agent a affiché des demandes de garde d’enfants jamais formulées, des conseils de carrière non sollicités, ainsi que des commandes de produits inexistantes. Un message reproduit montre le texte suivant : “BTW, two bank updates, your Capital One balance is $2722.58, your Charles Schwab balance is $5899.57.” Ces montants, précis à la centaine, proviennent d’informations bancaires qui n’appartiennent à aucun utilisateur concerné.
Un autre incident décrit une notification envoyée à un employée sur son téléphone personnel, rappelant de répondre à un message de sa sœur sur Signal, une application chiffrée de bout en bout. L’employée affirme n’avoir jamais autorisé Muse à accéder à Signal, ce qui constitue une violation de la confidentialité.
Analyse des causes techniques et limites
Le mélange de conversations suggère une défaillance du mécanisme d’isolation des sessions. Dans les architectures de modèles de langage, les contextes utilisateur sont souvent stockés dans des caches temporaires ou des bases de données de « memory store ». Si ces caches ne sont pas correctement partitionnés par identifiant d’utilisateur, les embeddings de différents dialogues peuvent être récupérés de façon croisée, entraînant la diffusion d’informations sensibles.
De plus, l’accès aux API tierces (ex. Signal, services bancaires) nécessite des jetons d’autorisation. La présence d’un rappel bancaire indique que Muse a pu interroger des services externes sans validation explicite, probablement via des clés d’accès partagées entre les environnements de test. Cette pratique augmente le risque de « data leakage » lorsqu’une instance de l’agent récupère des réponses destinées à un autre compte.
Réactions de Meta et mesures envisagées
Meta a déclaré que les tests internes sont essentiels pour identifier les failles de sécurité et que les employés utilisent des versions de Muse différentes du produit public. Aucun détail technique n’a été fourni sur les correctifs prévus, mais la société devra renforcer la séparation des contextes, implémenter des contrôles d’accès granulaire aux API tierces et auditer les journaux de récupération de données. Avec plus de 10 millions de téléchargements, la visibilité du problème risque d’impacter la confiance des utilisateurs et d’attirer l’attention des régulateurs de la protection des données.