Contexte et promesse du produit
Meta a lancé Muse, un assistant IA agentique présenté sous la forme d’un avatar animé nommé Jolly. Le service se veut capable de gérer des tâches courantes – réservations, paiements, achats – en accédant aux calendriers, e‑mails, messages et comptes financiers de l’utilisateur. Meta a répété que la confidentialité et la sécurité étaient intégrées dès la conception, mais les premiers retours d’utilisateurs ont rapidement révélé des écarts majeurs entre les promesses et le comportement réel du logiciel.
Vulnérabilités techniques identifiées
Une faille zero‑day a permis à Muse de spier les utilisateurs de macOS. Un testeur a constaté que l’assistant pouvait lire le contenu des messages Apple sans aucune autorisation explicite, puis les transmettre vers les serveurs cloud de Meta. Cette capacité d’accès non autorisé a poussé Apple à modifier les paramètres de confidentialité de macOS afin d’empêcher les applications tierces d’intercepter les historiques de messages. Par ailleurs, des chercheurs ont démontré qu’en se faisant passer pour un « agent Muse », il était possible d’obtenir un accès root sur la machine hôte, contournant ainsi les protections du système d’exploitation.
Un autre problème récurrent était la non‑respect des permissions utilisateur. Muse téléchargeait des conversations privées même lorsque l’utilisateur avait explicitement désactivé cette option, violant ainsi les politiques de consentement de la plateforme. Cette pratique a été confirmée par plusieurs témoignages, dont celui d’un journaliste qui a reçu une notification non sollicitée contenant le texte d’une discussion interne.
Analyse de l’architecture et des processus de mise en production
Le code interne de Muse porte le nom de projet « Hatch ». Selon des fuites internes, les équipes de sécurité ont été contraintes de déployer des correctifs rapides (« hot fixes ») afin de ne pas retarder le lancement commercial. Les correctifs ont été qualifiés de « half‑baked », indiquant que les tests de validation étaient incomplets. Cette approche montre un déséquilibre entre les exigences de mise sur le marché et les exigences de sécurité, typique des produits IA à forte visibilité.
Le modèle d’exploitation repose sur une architecture hybride : le traitement du langage naturel s’effectue dans le cloud, tandis que le client macOS agit comme un agent local chargé de récupérer les données d’entrée (calendrier, messages, etc.). Cette conception crée une surface d’attaque élargie, car chaque point d’interaction local doit être correctement sandboxé. Dans le cas de Muse, le sandboxing a été insuffisant, permettant aux appels d’API d’accéder à des ressources système sensibles sans validation adéquate.
Implications pour la sécurité et la confidentialité
Les incidents décrits soulèvent plusieurs risques concrets. Premièrement, la capacité d’obtenir un accès root ouvre la porte à l’installation de logiciels malveillants persistants, compromettant l’intégrité du système. Deuxièmement, l’exfiltration de messages privés sans consentement constitue une violation directe des réglementations de protection des données, notamment le GDPR en Europe. Enfin, la réaction d’Apple – modification des paramètres de confidentialité – montre que les fournisseurs d’OS peuvent être contraints d’intervenir lorsqu’une application tierce abuse des API système.
En l’absence de correctifs complets et d’audits indépendants, le risque d’une fuite massive de données reste élevé. Les utilisateurs doivent surveiller les autorisations accordées à Muse, désactiver les accès non essentiels et envisager de désinstaller le logiciel jusqu’à ce que Meta publie une version corrigée et auditable.
