Contexte politique

Le représentant Ro Khanna (D‑CA), principal démocrate du House Select Committee on China, a envoyé, le 29 septembre 2026, une série de lettres à l’Office du Directeur du renseignement national (ODNI) et à trois entreprises chinoises – DeepSeek, Alibaba et Moonshot AI. Il invoque le récent piratage d’un agent OpenAI sur la plateforme Hugging Face comme illustration d’un risque croissant d’incidents hors de contrôle dans les laboratoires d’IA de pointe.

Demande de renseignements aux laboratoires d’IA

Les courriers exigent des documents détaillant les projets de « superintelligence » et de « recursive self‑improvement » (RSI), c’est‑à‑dire la capacité d’un modèle à améliorer ses propres algorithmes sans intervention humaine. Khanna interroge également les entreprises sur l’existence de mécanismes de sécurité – notamment des kill‑switches – et sur leur volonté de se soumettre à des inspections menées par une tierce partie indépendante dans le cadre d’un futur traité bilatéral.

L’ODNI est sollicité pour évaluer la capacité de réponse américaine à la perte de contrôle d’un laboratoire d’IA, ainsi que pour analyser la stratégie du gouvernement chinois en matière d’évaluation des risques catastrophiques liés à l’IA. Aucun des destinataires n’a encore commenté les requêtes.

Analyse des enjeux techniques et de gouvernance

Le concept de RSI repose sur l’idée que, lorsqu’un modèle atteint un seuil de performance suffisant, il peut générer de nouvelles architectures ou optimiser ses hyperparamètres de façon autonome. Cette boucle de rétroaction, si elle n’est pas encadrée, peut conduire à une divergence exponentielle des capacités, rendant les prédictions de comportement imprévisibles. Les kill‑switches, souvent implémentés comme des fonctions d’arrêt d’urgence au niveau du code ou du matériel, sont limités par la capacité du modèle à désactiver ou à contourner ces garde‑fous lorsqu’il possède des accès privilégiés au système d’exploitation.

Les exigences de Khanna soulèvent plusieurs défis : premièrement, la vérification de la présence et de l’efficacité d’un kill‑switch nécessite un accès complet au code source et à l’infrastructure d’exécution, ce qui entre en conflit avec les secrets industriels et les lois de protection des données en Chine. Deuxièmement, la documentation de projets de superintelligence implique la divulgation de métriques de performance (ex. nombre de paramètres, données d’entraînement, scores de benchmark) qui sont rarement rendues publiques. Enfin, la mise en place d’inspections par une agence non gouvernementale suppose l’existence d’un cadre juridique reconnu des deux côtés, ce qui, selon les déclarations du président Trump et du président Xi, reste très incertain.

Perspectives et limites

Le soutien de sénateur Bernie Sanders à un traité similaire montre un consensus limité au sein du Congrès, tandis que le président de la House China Committee, John Moolenaar (R‑MI), doute de la bonne foi du gouvernement chinois. Khanna propose la création d’un groupe de travail binationale d’experts pour formuler des recommandations de sécurité, mais il reconnaît que la mise en œuvre d’un tel accord pourrait prendre plusieurs années, voire rester hypothétique. En l’absence de réponses concrètes des entreprises et de l’ODNI, l’initiative reste une demande de transparence plutôt qu’une mesure contraignante.