Anthropic propose une régulation contraignante pour ralentir l'IA

Contexte et proposition d’Amodei

Dario Amodei, directeur général d’Anthropic, a publié l’essai We Must Pace The Frontier où il expose la nécessité de modérer le rythme de développement de l’intelligence artificielle. Il y décrit trois leviers : des évaluateurs intégrés, une coordination démocratique et un cadre juridique contraignant. L’objectif affiché est de concilier sécurité et bénéfices sociétaux tout en répondant aux inquiétudes géopolitiques liées aux modèles de grande taille.

Mécanisme des évaluateurs intégrés

Le premier levier prévoit la création d’équipes d’évaluateurs tiers, qualifiées d’« Embedded Evaluators », qui auraient un accès comparable à celui d’employés aux pipelines d’entraînement et aux modèles finalisés. Amodei cite l’exemple de METR comme modèle de tierce partie capable de vérifier la conformité aux pratiques de sécurité et de signaler les incidents. Cette approche s’appuie sur le précédent du secteur bancaire, où des superviseurs réglementaires sont physiquement intégrés aux équipes opérationnelles pour garantir la transparence des rapports financiers. Le texte mentionne également le rôle historique de GARM, alliance commerciale active de 2019 à 2024, qui a collaboré avec des régulateurs pour influencer les décisions de modération de plateformes comme X Corp. (ex‑Twitter). La référence à GARM montre que des structures similaires existent déjà, mais leur dissolution en 2024 souligne la fragilité de ces modèles lorsqu’ils sont confrontés à des pressions politiques.

Coordination démocratique et contraintes juridiques

Le deuxième levier, baptisé « Democratic Coordination », vise à faire converger les standards de sécurité entre les entreprises d’IA de pointe situées dans des démocraties. Amodei précise que cette coordination doit s’appuyer sur un soutien gouvernemental pour surmonter les obstacles du droit de la concurrence. En effet, Anthropic et OpenAI détiennent une part de marché dominante, ce qui rend toute entente susceptible d’être qualifiée de cartel illégal. La proposition implique donc une exemption antitrust, conditionnée à la mise en place de normes communes de sécurité et de limites de vitesse de déploiement. Le texte souligne que le cadre juridique américain protège généralement le développement logiciel comme une forme d’expression, ce qui complique l’imposition d’obligations de type « NGO commissars » avec accès interne aux systèmes.

Impacts potentiels et limites

Si le dispositif était adopté, il introduirait une couche de surveillance continue, comparable à la supervision bancaire, mais appliquée aux modèles de langage. Cette surveillance pourrait réduire les risques de dérives non détectées, mais elle crée également un point de concentration du pouvoir décisionnel entre les mains d’entités publiques ou de tiers contractuels. Le risque de « censure‑industrial complex », déjà observé dans les initiatives de modération en ligne, pourrait se transposer aux algorithmes d’IA, limitant la diversité des recherches. Enfin, l’absence de données publiques détaillées sur les coûts d’implémentation de ces évaluateurs rend difficile l’évaluation de la viabilité économique du plan. En l’état, la proposition reste une hypothèse réglementaire qui nécessite des études d’impact approfondies avant d’être traduite en loi.