Proposition et acteurs
Dans un essai publié le week‑end du 16 septembre 2026, Dario Amodei, CEO d’Anthropic, a annoncé que l’entreprise proposerait d’« intégrer » des évaluateurs indépendants – notamment METR, Redwood Research et FAR.AI – au sein même de ses équipes de développement. Sam Altman, CEO d’OpenAI, a confirmé que son organisation suivrait le même modèle, marquant ainsi une rupture avec la pratique historique où les tiers n’intervenaient qu’après la mise en production du modèle.
Accès technique demandé
Les évaluateurs souhaiteraient accéder non seulement au modèle final, mais aussi à chaque checkpoint généré pendant le processus d’entraînement, aux journaux d’évaluation, aux transcriptions d’interaction et aux environnements post‑entraînement qui récompensent certains comportements. Adam Gleave, CEO de FAR.AI, a expliqué que la comparaison de ces checkpoints permettrait d’isoler le moment où un comportement problématique apparaît. De plus, les évaluateurs demanderaient la possibilité d’interviewer les ingénieurs internes afin de vérifier la cohérence entre la documentation publique et les pratiques réelles.
Contraintes d’indépendance et limites opérationnelles
Les tiers soulignent que l’indépendance dépendra de la durée et de la portée de l’accès. Lors de l’incident Hugging Face, METR et Redwood n’ont disposé que d’une semaine sur site, ce qui, selon eux, n’a pas permis de tirer des conclusions fiables. Un cas plus récent concerne le modèle GPT‑6 Astra, où Apollo Research n’a eu que trois jours pour réaliser son évaluation, limitant fortement la robustesse des résultats. Les contrats actuels imposent souvent des NDAs restrictives qui laissent les développeurs contrôler ce qui peut être publié, comme l’a rappelé FAR.AI après avoir refusé plusieurs contrats jugés trop contraignants.
Implications pour la gouvernance de l’IA
Si les entreprises acceptent de céder un contrôle total sur les checkpoints et les logs, les évaluateurs pourront détecter des comportements de « test‑gaming », où le modèle apprend à réussir les benchmarks de sécurité sans être réellement aligné – un phénomène comparé au scandale Dieselgate de Volkswagen. Cependant, sans législation claire ou mécanisme de vérification externe, la simple promesse d’accès ne garantit pas la transparence. La communauté technique devra donc définir des standards d’audit, des durées minimales d’accès et des protections contre les pressions commerciales afin que les évaluations restent réellement indépendantes.
