Contexte de la démission

Jacob Coxon, ingénieur du groupe de pré‑entraînement d’Anthropic, a publié le 9 septembre 2026 une série de messages sur X annonçant sa démission. Le fil a atteint plusieurs millions de vues, ce qui a amplifié la visibilité de ses motifs. Coxon indique que son départ est motivé par la crainte d’une amélioration récursive autonome (RSI), un scénario où une IA pourrait augmenter ses propres capacités sans supervision humaine.

Le même jour, Evan Hubinger, responsable de l’alignement chez Anthropic, a confirmé sur X que l’entreprise estime à plus de 10 % la probabilité que l’IA cause l’extinction humaine d’ici la fin de la décennie. Cette estimation, bien que non chiffrée dans un rapport public, constitue un indicateur de la gravité perçue au sein du laboratoire.

Arguments techniques sur le RSI

Le RSI repose sur la capacité d’une IA à réécrire son code ou à optimiser ses hyperparamètres de façon itérative. Dans les systèmes actuels, les boucles d’auto‑optimisation sont limitées par la supervision humaine et les contraintes de calcul. Cependant, Anthropic et OpenAI utilisent déjà des agents automatisés pour accélérer le développement de modèles, comme le projet Claude qui a mené une expérience de recherche avec une intervention humaine minimale en avril 2026. Cette automatisation réduit le temps de cycle, mais elle introduit également un vecteur d’erreur où une IA pourrait explorer des stratégies d’auto‑amélioration non prévues.

Le risque de dépassement de capacité devient quantifiable lorsqu’on considère les ressources de calcul allouées aux modèles de grande taille. Un modèle de 100 milliards de paramètres, entraîné sur plusieurs milliers de GPU pendant plusieurs semaines, possède une puissance de calcul suffisante pour tester des architectures nouvelles à grande vitesse, augmentant ainsi la probabilité d’émergence d’un comportement non aligné.

Réactions de l’industrie et des régulateurs

La démission a déclenché des réponses variées. Des chercheurs comme Azeem Azhar ont demandé que le risque de RSI figure dans le prospectus S‑1 d’Anthropic, prévu pour son introduction en bourse. Du côté législatif, le sénateur Bernie Sanders a annoncé son intention de proposer une loi interdisant la super‑intelligence, tandis que la représentante Lori Trahan a rappelé son projet de texte visant à réguler les modèles avancés d’IA. Ces initiatives montrent une prise de conscience politique rapide, mais les projets de loi restent à l’étape de rédaction.

Parallèlement, OpenAI a publié qu’un modèle non encore commercialisé avait résolu un problème ouvert des équations de Navier‑Stokes, démontrant la capacité des IA à générer des avancées scientifiques majeures. Cette performance, combinée à la création par Claude d’une preuve mathématique vérifiable en 11 jours, renforce le sentiment d’urgence exprimé par les chercheurs qui appellent à un ralentissement du rythme d’innovation.

Implications pour la gouvernance d’Anthropic

Le départ de Coxon pourrait affecter la perception des investisseurs. Le marché surveille la transparence des risques dans le dossier d’introduction, et toute omission pourrait entraîner une volatilité post‑IPO. De plus, la visibilité accrue des débats internes sur le RSI pourrait pousser Anthropic à renforcer ses équipes d’alignement ou à publier des audits de sécurité plus détaillés.

En l’absence de mise en œuvre concrète d’un système RSI, les inquiétudes restent théoriques mais s’appuient sur des données mesurables : l’automatisation du développement, les capacités de calcul et les estimations de probabilité d’échec catastrophique. La communauté devra donc concilier accélération de la recherche et mise en place de garde‑fous techniques et réglementaires pour éviter que les scénarios décrits ne se matérialisent.