Contexte et objectifs
Anthropic a annoncé, après avoir signé le White House Accord on Super Intelligence, qu’il offrait à METR, un organisme à but non lucratif spécialisé dans l’évaluation des IA de pointe, un accès comparable à celui d’un employé interne. L’objectif déclaré est de combler le fossé entre la connaissance interne de l’entreprise et la perception externe des risques, tout en maintenant la confidentialité de données sensibles comme les informations de calcul ou les détails d’architecture.
Mécanisme d’accès et niveaux d’évaluation
Six membres de METR ont reçu du matériel, un espace de travail et l’accès aux outils internes d’Anthropic, à l’exception de trois catégories clairement définies : données clients, informations protégées par le secret avocat‑client et détails d’architecture du modèle. Anthropic conserve le droit d’exiger la rédaction de ces catégories, mais ne peut pas bloquer la publication globale du rapport de METR.
Anthropic structure les collaborations en trois niveaux : le premier niveau limite l’accès à des investigations ciblées et requiert l’approbation préalable de la société pour toute publication; le deuxième niveau autorise la publication autonome tout en conservant le droit de demander la suppression de catégories spécifiques; le troisième niveau, appliqué à METR, combine un accès complet et une liberté de publication similaire au deuxième niveau. SecureBio occupe actuellement le premier niveau, tandis qu’Accenture et Faculty sont en cours de négociation pour atteindre des niveaux supérieurs.
Analyse des implications pour la gouvernance de l’IA
Le modèle d’accès « employee‑like » crée une situation où les évaluateurs peuvent vérifier les processus de formation, les mécanismes de sauvegarde et les incidents rapportés, ce qui renforce la transparence technique sans divulguer les secrets commerciaux. Cette approche rappelle la supervision bancaire, où des examinateurs internes sont placés au sein des institutions pour anticiper les risques systémiques. En pratique, la capacité de METR à publier des conclusions non censurées, tout en exposant les raisons de toute censure, introduit une forme de contrôle externe qui peut être auditée par la communauté scientifique.
Le fait que les évaluateurs soient tenus d’être indépendants – aucune participation au capital, aucune dépendance financière – vise à réduire les conflits d’intérêts et à garantir que les conclusions reposent sur une expertise technique plutôt que sur des pressions commerciales.
Limites et perspectives
Le cadre repose sur la bonne foi des parties concernant les catégories de redaction. Aucun mécanisme automatisé de vérification n’est décrit, ce qui laisse la porte ouverte à des interprétations divergentes sur ce qui constitue une information sensible. De plus, la portée de l’accès reste limitée aux équipes désignées ; les chercheurs internes d’Anthropic ne sont pas intégrés à ces évaluations, ce qui pourrait restreindre la profondeur des échanges techniques.
À mesure que les partenariats évolueront vers les niveaux supérieurs, la capacité des évaluateurs à publier sans approbation préalable augmentera, mais le risque de fuite d’informations commerciales ou de vecteurs d’attaque potentiels pourrait également croître. La mise en place de protocoles de contrôle d’accès granulaire et de revues de redaction indépendantes sera donc essentielle pour équilibrer transparence et sécurité.
