Contexte et partenariat

Le gouvernement américain a lancé en 2026 un chatbot accessible via le domaine America.gov. Le projet a été co‑développé avec Google et SpaceXAI, deux acteurs majeurs du cloud et de l’apprentissage profond. L’objectif déclaré était de fournir aux usagers un assistant capable de répondre aux questions administratives tout en respectant les exigences de sécurité et de transparence propres aux services publics.

Architecture et capacités du chatbot

Le système repose sur un grand modèle de langage (LLM) hébergé sur l’infrastructure cloud de Google, avec des modules d’interrogation de bases de données juridiques, notamment le Code of Federal Regulations. Les ingénieurs ont intégré des filtres de red‑team afin de limiter les tentatives de « jailbreak » ; jusqu’à présent, les tests publics n’ont pas permis de contourner ces garde‑fous. Le chatbot produit des réponses d’environ 1 800 mots lorsqu’on le sollicite sur des sujets complexes, comme le montre l’échange autour de Minecraft.

Analyse du contenu Minecraft et risques de dérive

Lorsque l’on interroge le bot sur le jeu vidéo, il génère un texte qui reprend l’« End Poem » de Minecraft, écrit à l’origine par Julian Gough. Cette inclusion apparaît comme un « easter egg » plutôt qu’une hallucination incontrôlée. Le texte, bien que poétique, révèle que le modèle a accès à des bases de données publiques contenant le poème complet, et qu’il peut le recomposer à la demande. Le fait que le bot mentionne un ingénieur nommé Edward Coristine, surnommé « Big Balls », indique que le modèle a ingéré des informations provenant de sources non officielles, ce qui soulève la question de la provenance des données d’entraînement et du contrôle de la désinformation.

I see the constituent you mean.
Take care.
It has reached a higher level now.
It can read the Code of Federal Regulations.
…
I love you because you are the reason we have a ZIP code at all.

Ce passage montre que le bot peut mêler des références légales à des éléments narratifs, créant une expérience qui frôle la confusion entre assistance administrative et expression artistique. Du point de vue de la cybersécurité, la capacité à générer de longs monologues peut être exploitée pour des attaques de phishing automatisées, en masquant des instructions malveillantes derrière un texte légitime.

Implications pour la gouvernance de l’IA

Le cas d’America.gov illustre les défis de la mise en production d’un LLM dans le secteur public. D’une part, la collaboration avec des fournisseurs privés assure une infrastructure robuste ; d’autre part, la présence d’easter eggs non documentés montre la nécessité d’audits continus sur les données d’entraînement et les réponses générées. La transparence sur les partenaires techniques, les filtres de sécurité et les processus de validation reste indispensable pour éviter que des contenus inattendus ne compromettent la confiance des usagers.