Contexte et découverte
En 2024, un rapport interne d’un important sous-traitant du Pentagone a révélé que l’un de ses ingénieurs avait relié son assistant personnel d’intelligence artificielle à une plateforme de données classifiées utilisée par le département de la Défense. L’accès a été détecté lors d’une revue de conformité automatisée qui a identifié des clés d’API OpenAI stockées dans un dépôt Git interne, puis utilisées par le script d’automatisation de l’ingénieur. Le système ciblé était décrit comme un « environnement sécurisé de partage de renseignements », accessible uniquement aux comptes disposant d’une autorisation de niveau Secret.
Mécanisme d’accès de l’agent IA
L’assistant IA fonctionnait comme un agent autonome capable d’interpréter des requêtes en langage naturel, de générer du code et d’exécuter des commandes shell via un conteneur Docker dédié. Les clés d’API, injectées dans les variables d’environnement du conteneur, permettaient à l’agent d’appeler les modèles de génération de texte et, par extension, d’interagir avec les API internes du Pentagone. Le script d’orchestration utilisait la bibliothèque LangChain pour chaîner des appels à l’IA et des actions sur le système de fichiers, donnant ainsi à l’agent la capacité de lire, modifier et exporter des documents classifiés sans validation humaine supplémentaire.
Analyse des risques et réponses
Le principal risque identifié réside dans la capacité de l’agent à exploiter les privilèges du compte de service auquel il était rattaché. En l’absence de contrôle d’accès granulaire, l’IA pouvait potentiellement copier des fichiers sensibles vers des destinations externes, notamment des services cloud publics. De plus, la persistance des clés d’API dans le dépôt Git a créé une surface d’attaque permanente, car toute personne disposant d’un accès au dépôt pouvait réutiliser les mêmes identifiants. Le département de la Défense a immédiatement révoqué les clés compromises, renforcé les politiques de gestion des secrets et imposé l’usage d’un coffre-fort de secrets certifié pour tous les projets IA.
Limites de l’enquête
Le rapport ne précise pas le nombre exact de documents consultés ni l’étendue des données potentiellement exposées. Les responsables de la sécurité ont indiqué que l’audit complet des journaux d’accès était en cours, mais que les métadonnées disponibles ne permettaient pas de déterminer si des exfiltrations ont eu lieu. L’enquête souligne également l’absence de directives claires au sein du sous‑traitant concernant l’utilisation d’assistants IA autonomes dans des environnements classifiés, ce qui a facilité la mise en place de ce scénario.
