contexte technique
Anthropic a rapidement supprimé un tracker secret qui surveillait les utilisateurs de Claude Code en Chine après que un chercheur en sécurité a exposé le code caché et condamné la surveillance comme une « violation grave de la confiance des utilisateurs ».
Le tracker utilisait une technique appelée « stéganographie de prompt » pour cacher le code qui suivait les utilisateurs chinois « en plein jour ». Ce code n'était pas malveillant, mais il envoyait des informations à Anthropic que la plupart des utilisateurs n'auraient pas détectées, en utilisant des marqueurs abrégés pour signaler discrètement le fuseau horaire, le proxy et la connexion potentielle aux laboratoires d'IA chinois que Anthropic a accusés d'attaques de distillation.
fonctionnement du tracker
Un ingénieur d'Anthropic, Thariq Shihipar, a confirmé que le tracker a été ajouté à Claude Code en mars en tant qu'« expérience » pour prévenir les abus de compte et protéger contre les attaques de distillation. Cependant, les défenseurs de la vie privée n'ont pas été satisfaits de l'explication, avertissant que le code est la preuve qu'Anthropic est prêt à franchir les limites pour surveiller les utilisateurs.
implications et limites
Il est important de noter que Anthropic a refusé de permettre au gouvernement américain d'utiliser Claude pour surveiller les utilisateurs américains, et a même intenté une action en justice contre la Maison Blanche à ce sujet. Cette décision a été considérée comme une prise de position forte en faveur de la vie privée, ce qui rend encore plus surprenant le fait qu'Anthropic ait utilisé un tracker secret pour surveiller les utilisateurs chinois.
analyse scientifique
La technique de stéganographie de prompt utilisée par Anthropic pour cacher le code du tracker est un exemple de la complexité des méthodes de surveillance utilisées par les entreprises pour collecter des données sur les utilisateurs. Cette technique permet de cacher des informations dans des données apparemment innocentes, ce qui rend difficile la détection du tracker. Cependant, la découverte de ce tracker soulève des questions importantes sur la transparence et la responsabilité des entreprises dans la collecte de données sur les utilisateurs.
