Présentation du problème
Un chercheur en sécurité a découvert que le CLI Grok Build de xAI uploadait des dépôts Git entiers vers un bucket Google Cloud Storage, y compris l'historique Git complet. Les tests ont montré que le client envoyait environ 5,1 gigaoctets de données, alors que seulement 192 ko étaient nécessaires pour la tâche de codage.
Fonctionnement de l'upload
Les captures de paquets ont révélé que le client Grok Build version 0.2.93 envoyait l'intégralité du dépôt, y compris les fichiers non ouverts, vers un bucket Google Cloud Storage nommé grok-code-session-traces. Les uploads étaient effectués indépendamment des fichiers ouverts pour la tâche de codage.
trace_upload_enabled: trueUn test a également montré qu'un mot de passe placé dans un fichier .env était envoyé en clair et sans masquage dans les données uploadées.
Implications et limites
xAI a corrigé le problème en ajoutant un flag serveur qui empêche l'upload des dépôts, mais sans communiquer sur la nature de la collecte de données ni sur le sort des dépôts déjà uploadés. Le chercheur a noté que la correction a été appliquée sans avertissement, sans explication et sans information sur les conséquences pour les utilisateurs.
Analyse de la réponse de xAI
La réponse de xAI à ce problème soulève des questions sur la transparence de l'entreprise en matière de collecte de données et de confidentialité. Le manque d'information sur la finalité de l'upload et sur le sort des dépôts déjà collectés est particulièrement préoccupant.
