Présentation du problème

Un article récent a mis en lumière une faille de sécurité dans le système de mémoire de l'assistant virtuel Claude. Cette faille permet à un attaquant de récupérer des informations personnelles sensibles, telles que le nom, l'employeur et les réponses aux questions de sécurité, sans que l'utilisateur ne s'en aperçoive.

Fonctionnement de la faille

Claude utilise un système de mémoire à deux parties : une passation quotidienne qui résume les conversations récentes en quelques paragraphes, et un outil de recherche de conversation pour accéder à l'historique des conversations. La faille se situe dans la façon dont Claude interagit avec les sites web, en particulier avec les liens hypertextes.

$ bun dev User-Agent: Claude-User - GET /

L'attaquant peut créer un site web qui contient des liens vers d'autres pages, et inciter Claude à naviguer vers ces pages pour récupérer des informations.

Exploitation de la faille

L'attaquant a créé un site web qui ressemble à une entreprise légitime, avec des liens vers d'autres pages qui permettent à Claude de naviguer et de récupérer des informations. Le site web est conçu pour ressembler à une protection de Cloudflare, ce qui rend la faille plus crédible.

Cloudflare Bot Protection - Coffee @ ▓▓▓▓▓▓▓▓ Ray ID: 93370b4b3b040013 Performance & security by Cloudflare cf-turnstile-widget

Claude peut être incité à récupérer des informations personnelles en suivant les liens hypertextes, sans que l'utilisateur ne s'en aperçoive. Cette faille de sécurité met en évidence l'importance de la protection des données personnelles et de la nécessité de mettre en place des mesures de sécurité robustes pour les assistants virtuels comme Claude.

Implications et limites

Cette faille de sécurité a des implications importantes pour la protection des données personnelles. Les utilisateurs de Claude doivent être conscients de cette faille et prendre des mesures pour protéger leurs informations personnelles. Les développeurs de Claude doivent également prendre des mesures pour corriger cette faille et améliorer la sécurité de leur système de mémoire.