Contexte de la fuite

En avril 2024, des pages d’aide internes de WhatsApp ont été publiées sur un dépôt public GitHub. Ces documents, destinés aux équipes de support, contenaient des sections non visibles aux utilisateurs finaux. Leur découverte a révélé que Meta intègre un chatbot IA directement dans l’application de messagerie, bien avant l’annonce officielle du produit.

Contenu des instructions

Les fichiers révélés décrivent plusieurs prompts système et règles de modération que le modèle doit suivre. Parmi les directives, on trouve des consignes explicites pour :

• Limiter les réponses médicales – le bot doit décliner toute demande de diagnostic et orienter l’utilisateur vers un professionnel.

• Protéger les données personnelles – aucune information de compte ne doit être stockée ou retransmise en dehors du canal chiffré de bout en bout.

• Gérer les escalades – les requêtes jugées sensibles (ex. : harcèlement, menaces) doivent être redirigées vers un opérateur humain.

Les instructions sont structurées sous forme de blocs JSON, chaque bloc contenant un system_prompt et une série de guardrails. Cette architecture sépare clairement la logique de génération du texte des contraintes de conformité.

Implications techniques

Le fait que ces directives soient stockées dans le code client expose plusieurs vecteurs de risque. Premièrement, la visibilité du system_prompt permet à un acteur malveillant de contourner les garde‑fous en injectant des requêtes qui neutralisent les consignes de sécurité. Deuxièmement, la présence de règles de modération dans le client indique que le modèle effectue une partie du filtrage localement, ce qui réduit la dépendance aux serveurs mais augmente la surface d’attaque si le binaire est rétro‑ingénieré.

Sur le plan de la confidentialité, la mention explicite que « aucune donnée de compte ne doit être stockée » montre que Meta a implémenté un mécanisme de purge immédiate. Cependant, la simple existence de ce texte ne garantit pas son exécution ; une mauvaise configuration du pipeline d’entraînement pourrait tout de même entraîner la collecte involontaire de métadonnées.

Limites et risques

Le document ne précise pas la version du modèle utilisé ni les paramètres d’entraînement, ce qui rend difficile d’évaluer la robustesse du système face aux attaques d’injection de prompt. De plus, l’absence d’audit public sur la mise en œuvre des guardrails laisse incertain le degré d’efficacité réel. Enfin, la fuite elle‑même constitue une violation de la chaîne de confiance entre Meta et ses utilisateurs, car elle expose des mécanismes de contrôle qui étaient supposés rester internes.