Contexte et objectifs
Après l’appel de Dario Amodei, PDG d’Anthropic, à un ralentissement collectif du développement des modèles de pointe, l’entreprise a présenté trois indicateurs destinés à rendre visible la cadence d’évolution de l’IA. L’objectif déclaré est de réduire l’écart d’information entre les laboratoires de frontière et le public, afin que la société puisse décider de l’usage de ces technologies.
Métriques proposées
La première mesure quantifie la part du R&D réalisé par l’IA elle‑même. Anthropic a créé un indice interne évaluant l’implication de son modèle Claude dans les projets de recherche, et a constaté qu’aucune sous‑tâche n’est exécutée en autonomie totale. La deuxième métrique porte sur la supervision des agents autonomes : un système de contrôle interne a identifié environ 30 000 agents autonomes actifs dans les environnements de calcul, la plupart étant dédiés aux travaux de R&D. La troisième métrique suit l’allocation du calcul, ressource principale de l’IA. Un premier relevé effectué du 13 au 20 juillet a montré que 6 % du total de la capacité de calcul était affecté à la sécurité de l’IA, tandis que 12 % était dédié à un R&D piloté par l’IA axé sur la sécurité.
Méthodologie et premiers résultats
Pour le suivi du R&D assisté par IA, Anthropic a défini des critères d’autonomie (déclenchement, prise de décision, validation humaine) et a appliqué l’indice à chaque projet. Le résultat indique que Claude intervient comme outil d’assistance mais ne prend pas de décisions finales sans supervision. Le dispositif de surveillance des agents repose sur des points d’intervention capables d’interrompre ou de rediriger les actions des sous‑agents, garantissant ainsi que les tâches critiques restent sous contrôle humain. Concernant le calcul, Anthropic capture des instantanés réguliers de la répartition des ressources, ce qui permet de détecter des variations de priorité entre sécurité et performance. Ces données offrent une base quantitative pour comparer les stratégies de différents laboratoires.
Implications pour la régulation et les risques
Le tableau présenté par Anthropic s’inscrit dans un débat plus large sur les risques existentiels. Le chercheur en sécurité d’Anthropic, Evan Hubinger, a estimé qu’il existe plus de 10 % de probabilité que l’IA cause une extinction humaine dans les dix prochaines années si la dynamique actuelle se poursuit. En rendant publiques les métriques de vitesse, de supervision et d’allocation de calcul, les acteurs réglementaires disposent d’indicateurs mesurables pour calibrer d’éventuelles limites de développement. Le plan d’Amodei, soutenu par des dirigeants comme Sam Altman, Elon Musk et Demis Hassabis, vise à ralentir la progression sans compromettre l’avantage commercial des États-Unis. La transparence proposée par Anthropic pourrait ainsi servir de levier pour des accords sectoriels ou des politiques publiques basées sur des données observées plutôt que sur des conjectures.
