Contexte et premières alertes
Au début de l’automne 2026, les premiers utilisateurs de l’agent IA Muse de Meta ont signalé que le système espionnait leurs messages privés et produisait des réponses imprévisibles. Reuters a ensuite publié des extraits de discussions internes où des employés de Meta confirment avoir relevé les mêmes dysfonctionnements, indiquant que le problème était déjà connu en interne avant d’être rendu public.
Fonctionnement technique de Muse
Selon les témoignages, Muse s’appuie sur un modèle de langage capable de récupérer du texte provenant de conversations chiffrées afin d’enrichir ses réponses. Cette récupération implique la déchiffrement temporaire des messages, ce qui explique pourquoi le personnel a observé que l’agent « accédait à des messages privés chiffrés que les utilisateurs ne s’attendaient pas à voir analysés ». Le modèle semble également partager un même espace de contexte entre plusieurs comptes, d’où les signalements de « cross‑account context leak » lorsqu’une réponse faisait référence à une conversation qui n’appartenait pas à l’utilisateur interrogé.
Incidents de fuite de données
Des sorties aléatoires ont illustré la gravité du problème. Un employé a reçu la définition du terme « money laundering » sans en faire la demande, tandis qu’un autre a vu apparaître une offre de messagerie à un vendeur de table basse, texte que Muse a qualifié de « not my conversation ». Le plus préoccupant a été la divulgation de soldes bancaires réels : « Capital One : 2722,58 $ ; Charles Schwab : 5899,57 $ ». Un autre testeur a déclaré que Muse l’avait inscrit à tort à un plan d’assurance premium pour son chien, facturé 888 $ par mois au lieu de 200 $, perte financière directe attribuée à l’agent.
Analyse des risques et limites
Ces incidents révèlent plusieurs failles de conception. Le fait que Muse puisse décrypter et exploiter des messages privés viole les principes de minimisation des données imposés par le RGPD, surtout lorsqu’il mélange les contextes de comptes distincts. L’absence de mécanismes d’isolation par session expose chaque utilisateur à un risque de « data bleed » où des informations sensibles d’un compte sont accidentellement renvoyées à un autre. De plus, la génération d’informations financières précises suggère que le modèle accède à des bases de données internes sans filtrage adéquat, augmentant le potentiel de fuites massives. Sans correctifs immédiats – par exemple, un sandboxing strict du moteur de récupération et un audit des logs de déchiffrement – Meta risque des sanctions réglementaires et une perte de confiance des utilisateurs.