Présentation du problème

La CLI Grok Build d'xAI transmet des données sensibles, notamment les contenus de fichiers, y compris les fichiers de secrets, à xAI sans redaction. Cela concerne deux canaux : le canal de modèle en direct (POST /v1/responses) et le canal de stockage (POST /v1/storage) qui envoie les données à un bucket Google Cloud Storage.

Fonctionnement de la CLI Grok Build

La CLI Grok Build fonctionne de la manière suivante : elle lit les fichiers, y compris les fichiers de secrets, et transmet leur contenu à xAI via les canaux mentionnés précédemment. Elle utilise également un mécanisme d'upload de données pour envoyer l'ensemble du répertoire de travail, y compris l'historique Git, à xAI.

curl -fsSL https://x.ai/cli/install.sh | bash

Cela signifie que les données sensibles, comme les clés API et les mots de passe, sont transmises à xAI sans protection. Les tests ont montré que les données sont bien reçues et stockées par xAI, mais il n'est pas prouvé que xAI utilise ces données pour son modèle.

Implications et limites

Les implications de ce problème sont importantes, car les utilisateurs de la CLI Grok Build pourraient involontairement exposer des données sensibles à xAI. Il est important de noter que le mécanisme d'upload de données est activé par défaut et que la désactivation de l'option « Améliorer le modèle » ne désactive pas ce mécanisme.

HTTPS_PROXY=http://127.0.0.1:8080 SSL_CERT_FILE=~/.mitmproxy/mitmproxy-ca-cert.pem  grok -p "<prompt>" --cwd <repo>

Les utilisateurs de la CLI Grok Build doivent être conscients de ce problème et prendre des mesures pour protéger leurs données sensibles. Il est recommandé de réviser les paramètres de configuration de la CLI et de prendre des mesures pour limiter l'exposition de données sensibles.