Contexte et proposition d’Amodei
Dans son essai "We Must Pace the Frontier", le chercheur Dario Amodei alerte sur le fait que la capacité technique de l’intelligence artificielle progresse plus vite que les mécanismes de contrôle. Il identifie un « gap » de gouvernance et avance un plan en trois étapes : donner à des évaluateurs indépendants un accès permanent aux laboratoires de pointe, harmoniser les standards de sécurité entre les principaux labs avec le soutien des gouvernements, et négocier des accords internationaux incluant la Chine. Cette démarche s’appuie sur l’idée que la vérification continue est indispensable, à l’instar des inspections techniques pendant la guerre froide, où le traité SALT I de 1972 reposait sur des moyens techniques de vérification plutôt que sur la confiance mutuelle.
Réactions de l’industrie
Le texte a immédiatement fragmenté le secteur. Sam Altman, PDG d’OpenAI, a annoncé en quelques heures que son entreprise alignerait sa politique sur l’engagement d’Anthropic à intégrer des évaluateurs embarqués. Elon Musk a publiquement soutenu l’appel à la coordination, tandis que Demis Hassabis de DeepMind a jugé la proposition « sur la bonne voie ». Du côté de la Commission européenne, Ursula von der Leyen a indiqué qu’elle convoquerait les labs majeurs pour étudier le rôle de l’Europe dans ce processus. En revanche, Mark Zuckerberg de Meta a rejeté l’idée d’un ralentissement collectif, arguant que la concurrence, la responsabilité juridique et les évaluations indépendantes suffisent déjà à garantir la sécurité. L’investisseur David Sacks a renforcé ce point de vue, affirmant que les entreprises qui souhaitent ralentir le rythme le peuvent elles‑mêmes. Enfin, Michael Burry a qualifié le discours de « self‑serving », le voyant comme un avantage potentiel pour les labs déjà établis face à de nouveaux entrants.
Analyse des limites et analogies historiques
Le débat montre que la coordination, même si elle est souhaitable, ne peut constituer le socle d’une stratégie de sécurité. L’exemple de l’aviation illustre ce point : malgré un processus de certification rigoureux, deux accidents du Boeing 737 MAX en 2018 et 2019 ont fait 346 victimes. L’enquête du Department of Transportation a révélé que la conformité formelle n’avait pas garanti une visibilité réelle sur le logiciel de contrôle de vol, en partie à cause du programme Organization Designation Authorization qui délégua certaines fonctions de certification à Boeing. Cette déconnexion entre conformité et visibilité est exacerbée dans l’IA, où les comportements varient en fonction du contexte et les modèles évoluent à la vitesse de la machine.
Implications pour la gouvernance future
Les faits montrent que les mécanismes de vérification doivent être capables de suivre le rythme d’évolution des systèmes d’IA, sinon ils deviennent des formalités. Une approche purement basée sur le ralentissement économique s’avère contradictoire avec les incitations du marché à innover rapidement. Par conséquent, les régulateurs devront développer des outils d’audit automatisés capables d’inspecter les modèles en temps réel, tout en définissant des critères de sécurité qui restent pertinents malgré les changements de capacité. Sans visibilité technique, même les accords internationaux les plus ambitieux risquent de rester des déclarations de bonne volonté, comme le souligne le contraste entre les engagements rapides de certains acteurs et le scepticisme persistant d’autres.
