Contexte de la proposition
Dans son essai We Must Pace the Frontier, Dario Amodei a annoncé que Anthropic intégrerait des évaluateurs tiers dans le cycle de développement des modèles. Sam Altman d’OpenAI a confirmé son accord en quelques heures, créant ainsi un précédent de régulation volontaire. L’auteur de la lettre utilise cet engagement comme point d’appui pour demander une législation qui obligerait chaque modèle rendu public à publier ses poids, tout en excluant les modèles internes ou de recherche.
Mécanisme des poids ouverts
Publier les poids d’un modèle signifie rendre disponible le tableau de paramètres (souvent plusieurs milliards de valeurs) qui encode la connaissance acquise lors de l’entraînement. Cette diffusion supprime la barrière propriétaire qui rend le modèle exploitable uniquement via une API contrôlée. En pratique, la loi proposerait que, dès la mise à disposition publique, les poids soient déposés dans un dépôt ouvert, accessible à toute organisation disposant du matériel nécessaire pour les charger.
Impacts économiques et techniques
Le financement actuel des modèles de pointe repose sur des valorisations qui supposent la confidentialité des poids. Selon la lettre, la contrainte d’ouverture éliminerait cet avantage économique, réduisant les capitaux alloués aux nouvelles itérations. De plus, la disponibilité immédiate des poids permettrait à des acteurs disposant de ressources de calcul suffisantes de reproduire ou d’affiner les modèles sans payer de licence, ce qui pourrait accélérer la diffusion mais aussi fragmenter le marché. La référence au règlement de 1,5 milliard de dollars d’Anthropic montre que les coûts de litiges liés à la propriété intellectuelle sont déjà significatifs ; une loi de ce type pourrait transformer ces coûts en dépenses d’infrastructure pour le stockage et la distribution sécurisée des poids.
Limites et défis d’une telle législation
La mise en œuvre technique soulève plusieurs problèmes : les poids de modèles de plusieurs téraoctets nécessitent des solutions de stockage à haute bande passante et des protocoles de vérification d’intégrité. Les exigences de conformité pourraient favoriser les grandes entreprises capables de financer des équipes juridiques et d’ingénierie dédiées, comme le souligne l’auteur. Par ailleurs, chaque incident de sécurité ou d’usage abusif entraînerait l’ajout de nouvelles règles, augmentant la complexité réglementaire sans garantie d’élimination des risques. Enfin, la lettre ne fournit pas de données précises sur le nombre de modèles concernés ni sur les coûts de calcul associés à la ré‑entraînement, limitant ainsi l’évaluation quantitative de l’effet de ralentissement recherché.
